内部反射(入射媒質屈折率 ni> 透過媒質屈折率nt)で入射角θiが臨界角θcよりも大きい場合を考える(エバネッセント波も参照)。
光学的に密度の高い媒質中に光源があり、θiを徐々に大きくする(図１)。
図１ 内部反射と臨界角
θiの増加とともに振幅反射係数r//とr⊥は増加し、振幅透過係数t//とt⊥は減少する(フレネルの公式の解釈の”振幅係数”を参照)。
ni> nt(相対屈折率nti< 1)であるからθt> θiである。θiが大きくなると、透過光線は境界に接するようになり、反射ビーム強度はますます大きくなる。
ついにθt= 90ºになると、sin θt=1 であり、
(式１)
である。θiがθcより大きい場合、入射ビームのエネルギーは全て入射媒質側に反射される。これは、内部全反射と呼ばれる。例えば、空気－ガラス境界の臨界角は約42°である。
原子振動子による散乱という観点から前記現象を考察する(図２)。
図２ 内部全反射時時の透過波に対する考察。
各図でniは一定、ntは図(a)から(c)に向かって小さくなっている。反射波は省略している。
図２(a)では、点A・B から連続的に放射する散乱波を示す。これらが重なり合って透過波になる。反射波は図示していない。時間t の間に入射波はvit = CB 進み、透過波はvtt = AD >CB の距離を移動する。点A・C で同位相であった波が、同一時間後に点E・B に達する。従って、点E・B の波は同位相であり、両点は同じ波面上にある。
viと比較してvtが大きいほど透過波面は大きく傾き、θtも大きくなる(図２(b))。図２(a)よりもntを小さく(vtを大きく)している。
図２(c)は、入射角がちょうど臨界角になった状態を示す。AD = AB = vtt であり、散乱波は境界線上でのみ同位相で重なり、θt= 90｡となる。三角形ABCから、sin θi= vit/ vtt = nt/ niとなり式１と一致する。このように境界面にそって伝搬する波は、表面波として知られる。