デジタルオーディオのディザリングとノイズシェーピング:量子化歪みの除去
デジタルオーディオの分解能を理解する:ビット深度、量子化誤差、ランダムノイズが高調波歪みを消す理由、心理音響学的なノイズシェーピング曲線を解説。
安全第一: ディザの聴き比べで高いゲイン設定を使う場合は、音楽音声に戻したときに突然大きな音が出ないよう注意して監視してください。
デジタルオーディオ工学において、ディザリング は最も直感に反する概念のひとつです。よりクリーンで透明に聴かせるために、意図的に微小なランダムノイズを信号へ注入します。ディザとは、量子化(ビット深度を下げる処理)の直前に加える微小な乱数のことで、その仕事は不思議なほど逆説的です。ノイズを加えることで、変換はかえって綺麗に聞こえるようになります。
ノイズは量子化誤差をオーディオ信号から無相関化し、耳障りな歪みを、一定で無害なヒス音に変換します。ディザが必要になるのはビット深度を減らすとき、たとえば32ビット浮動小数点のミックスバスや24ビットのセッションマスターから16ビットの配信形式へ下げるときです。ゲイン変更、フェード、リミッターを含むマスターチェーンの最後に置きます。高いビット深度(32ビット浮動小数点のDAWミックスバスや24ビットのスタジオマスターなど)から16ビットのコンシューマー向け配信(Red Book CDや標準的なストリーミング形式)へ変換するとき、ディザをかけないと耳障りで相関性のある 量子化歪み が生じます。
1. 量子化誤差の解剖
デジタルオーディオは、連続的なアナログ電圧を離散的な数値ステップに切り分けて音波を表現します。ビット深度 は1サンプルあたり利用できる離散レベルの総数を決めます。16ビットなら 2^16 = 65,536 個、24ビットなら 2^24 = 16,777,216 個です。
各ステップ(最下位ビット=LSB)は固定のサイズを持ちます。フルスケールを 1.0 に正規化すると、符号付き16ビットのステップは 2^-15(約 -90.3 dBFS)、24ビットは 2^-23(約 -138.5 dBFS)です。1ステップより小さい振幅は直接表現できません。
丸め誤差は「誤差(n) = 入力(n) − 量子化値(n)」として表せますが、やっかいなのは入力のステップ間での位置に依存して誤差が決まる点です。誤差は波形とともに繰り返し現れるため信号と相関し、相関した誤差はノイズではなく高調波歪みになります。フェードや残響の裾では波形は下位コードの付近に長く留まるため、出力はガタガタと詰まったような音になります。16ビットでは -100 dBFS の残響尾のピーク振幅は約 1/3 LSB にすぎず、ほぼ最後のコードの出入りだけで再現されてしまいます。
切り捨て(truncation)ではなく四捨五入(丸め)にすると最大誤差は半分に減り、切り捨て特有のDCオフセットも消えます。しかし信号との相関までは消えません。相関こそが歪みの正体だからです。
2. ディザの役割:システムを線形化する
ディザは乱数で仕事をします。丸めの直前にランダムな電圧を加えると、上側のコードへ丸められる確率が、信号のステップ間での位置に比例するようになります。多くのサンプルで平均すると、量子化出力はコード間に位置する信号も追跡し、誤差は信号依存の歪みではなく定常的なノイズになります。
この理論を形式化したのが、ジョン・ヴァンダークーイとスタンレー・リプシッツの1987年のJAES論文「Dither in Digital Audio」です。適切なディザがあれば非線形歪みの項は消え、システムは線形に振る舞います。代償はノイズフロアのわずかな上昇です。極めてレベルの低い成分は、ノイズ中の統計的なパターンとして生き残ります。
ただし限界が2つあります。ディザは、クリッピング・切り捨て・非可逆圧縮で失われた情報を復元できません。そして16ビットのマスターが24ビットのそれに変わるわけではありません。ディザが除去するのは歪みであって、ノイズそのものではありません。
3. ディザの確率密度:RPDF と TPDF の徹底比較
ディザの性能は、乱数の「確率密度関数(Probability Density Function: PDF)」によって決定づけられます。加えるノイズの振幅分布形状によって、高調波歪みが消えるか、そしてノイズ自体の音量が信号に連動してふらつく「ノイズ変調」が発生するかどうかが分かれます。
| ディザ種別 | 分布形状(PDF) | 振幅範囲(p-p) | 総RMS誤差 | 16bitノイズフロア | 高調波歪みの除去 | ノイズ変調(呼吸現象) | 推奨される用途・位置づけ |
|---|---|---|---|---|---|---|---|
| ディザなし(切り捨て) | デルタ関数(固定) | 0 LSB | 0.289 LSB | -101.1 dBFS | × 著しい歪み(相関誤差) | × 歪みとして常に変調 | 非推奨。ビット削減時は絶対避ける |
| RPDF(矩形ディザ) | 一様分布(±0.5 LSB) | 1.0 LSB | 0.408 LSB | -98.1 dBFS | ○ 完全除去 | △ 発生する(信号依存で変動) | 学術的解説用。音楽マスタリングには不向き |
| TPDF(三角ディザ) | 三角分布(2乱数の加算) | 2.0 LSB | 0.500 LSB | -96.3 dBFS | ○ 完全除去 | ○ 完全に皆無(定常ノイズ) | 業界標準。すべてのビット削減の基本 |
| ガウスディザ(正規分布) | 正規分布曲線 | 理論上無限(3σ設定) | 約0.58 LSB | 約-95.0 dBFS | ○ 完全除去 | ○ 皆無 | アナログテープヒス模倣・一部のDSP |
RPDF(矩形確率密度関数)ディザは、±0.5 LSB の一様分布から引いた1つの乱数です。信号と量子化誤差の相関を断ち切るため高調波歪みは除去しますが、誤差の2次モーメント(分散)が入力信号の振幅に依存して変動します。これがノイズ変調と呼ばれる現象で、リバーブの減衰時やフェードアウト中にヒス音が寄せては返す波のように増減して聞こえてしまいます。
TPDF(三角確率密度関数)ディザは、独立した2つの一様乱数を加算合成したものです。-1.0 〜 +1.0 LSB の美しい二等辺三角形の分布を形成し、ピーク値でちょうど 2.0 LSB p-p に達します。数学的に、歪みとノイズ変調の両方を完全にゼロ化するために必要な最小パワーのディザがTPDFです。代償として総RMS誤差は 0.500 LSB となり、無ディザの計算値より 4.8 dB、RPDFより 1.8 dB ノイズフロアが上昇しますが、耳障りな非線形歪みの代わりに「静かで完全に一定のテープヒス」を受け取る極めて有益な取引です。
4. 心理音響学的ノイズシェーピング曲線とフィルタ設計
ノイズシェーピングは、TPDFディザの総エネルギーを周波数軸上で再配置する技術です。人間の耳の感度は周波数によって大きく異なり、2 kHz〜4 kHz(等ラウドネス曲線の最もくぼんだ帯域)では微小なノイズも鋭敏に察知しますが、15 kHz以上の超高域では感度が数十dBも急激に低下します。量子化誤差をフィードバックループに通して高域へ押し出すことで、耳に聞こえる実効ノイズを劇的に低減できます。
| ノイズシェーピング曲線 | フィルタ次数・特性 | 聴感敏感帯域(2〜4kHz)のノイズ低減 | 超高域(16〜20kHz)のノイズ上昇 | 総ノイズパワー(広帯域RMS) | 後段の非可逆圧縮(AAC/MP3)耐性 | 推奨マスタリング用途 |
|---|---|---|---|---|---|---|
| フラットTPDF(基準) | 次数なし(白色ノイズ) | 0 dB(基準:約-96 dBFS) | 0 dB(完全に平坦) | 0.50 LSB(基準) | ◎ 極めて高い(破綻なし) | 複数回処理される可能性がある中間ファイル |
| 1次ハイパスシェーピング | 1次差分フィルタ(z^-1) | 約 -4 dB | 約 +6 dB | 約 0.58 LSB | ○ 良好 | シンプルな処理、低レイテンシー配信 |
| 2次等ラウドネス補正 | 2次F-Weighting逆特性 | 約 -8 dB〜-10 dB | 約 +12 dB | 約 0.72 LSB | ○ 概ね良好 | ポップス・ロックの16bit CD最終マスター |
| 5次Lipshitz-Vanderkooy | 5次心理音響最適化IIR | 約 -14 dB〜-16 dB | 約 +18 dB〜+22 dB | 約 1.15 LSB | △ 非可逆圧縮でノイズ浮上注意 | クラシック・アコースティックの高ダイナミックレンジ |
| 超高次アグレッシブ(SBM系) | 9次以上急峻ノイズシフト | 最大 -18 dB〜-20 dB | +25 dB以上(超高域に集中) | 約 1.80 LSB以上 | × 圧縮エンコーダーを混乱させる | 16bit CD専用の最終プレス(後段処理厳禁) |
| 深度 | レベル数 | 1 LSB | 丸めフロア | TPDFフロア |
|---|---|---|---|---|
| 16ビット | 65,536 | -90.3 dBFS | -101.1 dBFS | -96.3 dBFS |
| 24ビット | 16,777,216 | -138.5 dBFS | -149.3 dBFS | -144.5 dBFS |
24ビットのTPDFフロアは16ビットより 48 dB 低く、理論上-144.5 dBFSに達します。最高級のアナログ回路や熱雑音でも-125 dBFS前後が限界であるため、24ビットでのディザノイズが人間の耳に知覚されることはありません。したがって、過度なノイズシェーピングが必要となるのは、ダイナミックレンジが96 dBに制限される「16ビット配信」の最終段に限られます。
5. ディザが効くとき・不要なとき
ディザが効くのは、より低い固定小数点深度への「最終変換」という、ほとんどの人が準備していない瞬間だけです。変換先が16ビットまたは24ビットの書き出しにはすべてディザをかけ、16ビット配信では素材がヘッドルームを許容できるならTPDF+シェーピングを使います。
不要なのは、浮動小数点(float)のまま完結する処理、16ビットを24ビットへ上げるアップコンバート、ディザが焼き込まれた完成マスターの再生です。同じ信号経路で2回ディザをかけてはいけません。再び量子化される段より前にディザを置くのも誤りです。便利な自己チェックはこれです。「次の不可逆なビット変換はどこで起きるか?」。そこがディザの置き場所です。
文章より耳で確かめられます。ブラウザのディザリング&ノイズシェーピングツールでは、切り捨て・四捨五入・TPDF・シェープ済みディザを聴き比べられ、ブラインドビットデプス・シリーズは比較をスコア付きのテストにします。スペクトラムアナライザーなら高域へ持ち上がるシェープ済みノイズフロアが見え、ダイナミックレンジテストは低レベル成分がどう変わったかを測れます。
精度・限界・トラブルシューティング
書き出しでよくある失敗と、その見分け方を整理します。
- ディザの深さが合っていない。 16ビット用にスケールしたディザを24ビット書き出しに使うと、対象LSBより 48 dB 大きいノイズを混ぜることになります。逆に24ビット用ディザを16ビットへかければ、丸め誤差に埋もれて消えます。
- ディザの後にリミッターを置いた。 リミッターが再量子化してディザの意味を壊します。ディザは常に最後です。
- +40 dB のゲインで聞き比べた。 その増幅では監視系自身のノイズが音の一部になります。まともなレベルに設定し、フェードを無ディザ版と聴き比べてください。本ガイドの安全メモどおり、音楽音声に戻すときは急な大音響に注意が必要です。
- 明るいマスタートラックにシェーピングをかけた。 シェープされたノイズは歯擦音と同じトップオクターブに住みます。ニュートラルな監視系で確認してから確定してください。
原理的な限界は2つです。ディザは失われた情報を復元しません(クリッピング、事前の切り捨て、非可逆圧縮で消えたものは戻らない)。そしてノイズフロアは必ず上がります。TPDFは無ディザ比 4.8 dB、シェーピングは帯域別にさらに総パワーを増やします。得をするのは歪みが消えることであり、静かになることではありません。
関連ツール
- ディザリング&ノイズシェーピング − 切り捨て・四捨五入・TPDF・シェープ済みディザをブラウザで聴き比べ
- ブラインドビットデプステスト − ビット深度とディザの差異をブラインド判定でスコア化
- スペクトラムアナライザー − ノイズシェーピングで高域へ移動するフロアの形状を観測
- ダイナミックレンジテスト − 低レベル成分の再現性がどう変わったかを測定