光ファイバーのコアとクラッドの屈折率をそれぞれn1、n2 とし、光の伝搬角をθ とすると、モードの伝搬定数β は

normalized propagation constant

と表される。ここでk0 = 2π/λ は真空中の平面波の伝搬定数である。θ < π/2、θ < θcを考慮すると、β が取り得る値の範囲は

規格化伝搬定数 beta

となる。この式は導波モードの伝搬定数がコアとクラッド中の波数の間にあることを示している。つまり、導波モードの光の電磁界は、ほぼコア内に閉じ込められて伝搬するが、一部の光はクラッド層にしみ出すため、伝搬定数もコア内とクラッド内を伝搬する平面によって伝搬定数の中間値をとると考えられる。

そこで、この伝搬定数を規格化したパラメータとして、規格化伝搬定数b が下式で定義される。

規格化伝搬定数b