AD変換器の量子化雑音の実効値を計算する。
AD変換の最下位ビットの電圧幅を LSB、量子化誤差を V とする。
AD変換器に入力されている信号が LSB に比べて十分大きければ、変換誤差は -LSB/2 ~ +LSB/2 に均等に分布する。
つまり量子化誤差 V の確率分布 P(V) は下図のようになる。
確率に関して、
1 = ∫p(V) dV
が成り立つので、
p(V) = 1/LSB (-LSB/2 ≦ V ≦ +LSB/2)
p(V) = 0 (それ以外)
である。
ここで、確率分布から量子化誤差の二乗平均 V2 を計算してみると、
V2 = ∫P(v)・v2 dv
= 1/LSB ∫v2 dv (積分範囲 -LSB/2 ~ +LSB/2)
= LSB2 / 12
よって量子化雑音の実効値 Vrms は次式となる。
Vrms = √ V2 = LSB / √12 = LSB / 2√3