非線形屈折率効果とは，照射する光強度I[W/m²]に比例して物質の屈折率nが変化する現象で，3次非線形光学効果の一つである．n₀を通常の線形屈折率とすると，

で表される¹⁾．n₂^I[m²/W]を非線形屈折率(あるいは係数)と呼ぶが，強度Iの代わりに光電場振幅の2乗|A²|の比例定数n₂[m²/V²]としても定義されることがある(光電場E=(1/2)Aexp(-iω₀t+βz+φ(t))+c.c.)．ここで，ω₀は入射光パルスの中心角周波数，βは波数，zは伝搬方向，φ(t)は位相，c.c.は複素共役を表す．両者はn₂^I=2n₂/(ε₀cn₀)で関係づけられる(ε₀[F/m]は其空の誘電率，c[m/s]は真空中の光速である)．多くの場合，物質に入射した一つの直線偏光(x方向，角周波数ωとする)の光パルスによる屈折率変化が，伝搬透過に伴って自身の光パルスに影響を与える現象(自己作用現象)が注目されている．この場合，3次の非線形感受率χ_xxxx⁽³⁾(-ω;ω,-ω,ω)を用いて，

と表され¹⁾，n₂^Iは光周波数ν=ω/2πに依存する(Reは実部をとることを意味する）. もう一つの(一般には)異なった角周波数ω’や直線偏光(j方向とする)を持つ強い光によって屈折率変化が誘起されるときには，上式の右辺が2倍になり²⁾非線形感受率χ_xjjx⁽³⁾(-ω;ω’,-ω’,ω)も異なる．

非線形屈折率効果の変形として，光カー効果がある¹⁾．これは，注目している入射直線偏光(x方向とする)と同方向の非線形屈折率n_2,x^Iとそれに直交する非線形屈折率n_2,y^Iとの差が，自身あるいはほかの光強度によって誘起されたとき，伝搬透過するにつれて注目している光の(直線)偏波面が回転する現象をいう．したがって，非線形屈折率効果が関係しているが，それ自体ではない．しかし両者はしばしば同意語として用いられ混乱を引き起こしている．

非線形屈折率効果が生じる物理的起因³⁾としては，その応答時間τの遅い順(一般にn’の大きい順に対応)から列挙すると，熱効果， クラマース・クローニッヒの関係から光共鳴吸収飽和の虚部として生じる効果(2光子吸収飽和効果も含む)，電歪効果，分子再配向効果(n₂^I~10^-16m²/W，τ~10^-12s)，分子内原子核の光誘起運動による効果，原子分子内束縛電子系の光誘起電子雲ひずみによる電子分極(n₂^I~10^-19 m²/W，τ~10^-15 s)があげられる(例外的に，分子内電荷移動有機分子材料は，n₂^Iが大きく超高速応答を示す⁾⁴⁾⁵⁾)．また，2次非線形光学結晶から擬似位相整合条件下で第二高調波を発生させる2次非線形光学効果を2度カスケード的に利用することによっても，実効的な非線形屈折率現象が観測される．

非線形屈折率の応答時間τが，入射パルス幅や誘起光パルス幅より遅いときには式(11・1)のような簡単な関係式では表されない(式(11・4)参照)⁶⁾．このことからわかるように，同じ物質でも，入射パルスなどの測定条件(パルス幅，波長，強度，偏光など)や測定方法のよってn₂^Iは異なる²⁾．

非線形屈折率効果によって生じる代表的な自己作用現象として，自己位相変調(self-phase modulation:SPM)と自己収束・発散(self-focusing or self-defocusing:光レンズ効果とも呼ばれる)とがある．前者は入射パルス光(強度I(t))自体の位相がφ(t)=-ω₀Ln_2,x^II(t)/cに従って非線形光学媒質中(長さL)の伝搬とともに時間的に急激な変化を受ける²⁾のに対し，後者は入射パルス光自体のビーム断面の空間的強度分布が変化を受ける³⁾．SPMは，超高速光スイッチングや極短光パルス発生に応用されている．

以下では，最近技術的視点から注目されている，光ファイバ内のSPMを伴った非線形光パルス伝搬とそのモノサイクル(極限)光パルス発生への応用について述べる．

11・1・1 光ファイバ非線形パルス伝搬 -超広帯域コヒーレント光波の発生-