Dithering e noise shaping no áudio digital: eliminando a distorção de quantização
Entenda a resolução do áudio digital: profundidade de bits, erro de quantização, dithering e noise shaping, e por que o ruído aleatório reduz a distorção.
Segurança em primeiro lugar: Nos testes de audição de dither com ganho alto, monitore com cuidado para evitar passagens repentinamente altas ao reativar o áudio musical.
Na engenharia de áudio digital, o dithering é um dos conceitos mais contraintuitivos: para deixar a conversão mais limpa, adiciona-se uma pequena quantidade de ruído aleatório ao sinal imediatamente antes da quantização. Esse ruído descorrelaciona o erro de arredondamento do áudio, convertendo a distorção de quantização em um chiado estacionário e benigno.
O dither importa sempre que a profundidade de bits é reduzida, por exemplo do mixbus de 32 bits em ponto flutuante ou de um master de 24 bits para a entrega em 16 bits. Ele pertence ao fim da cadeia de masterização, depois de qualquer mudança de ganho, fade ou limitador.
1. A anatomia do erro de quantização
A profundidade de bits é o número de níveis discretos disponíveis por amostra: 2^16 = 65.536 em 16 bits e 2^24 = 16.777.216 em 24 bits. Cada degrau, ou bit menos significativo (LSB), tem um tamanho fixo de tensão: com a escala cheia normalizada em 1,0, o degrau é 2^-15 no formato de 16 bits com sinal (cerca de -90,3 dBFS) e 2^-23 em 24 bits (cerca de -138,5 dBFS). Nada menor que um degrau pode ser representado diretamente.
A quantização arredonda cada amostra para o degrau mais próximo, então o erro depende da posição fracionária da entrada entre os degraus. Esse é o problema. Como o erro se repete junto com a forma de onda, ele fica correlacionado ao sinal, e erro correlacionado não é ruído: é distorção harmônica. Em fades e caudas de reverberação, a onda passa longos trechos perto dos códigos mais baixos, e a saída degraua e gagueja. Em 16 bits, uma cauda de reverberação a -100 dBFS tem amplitude de pico perto de um terço de um LSB, então é reproduzida quase inteiramente pelo padrão do último código. Arredondar para o mais próximo reduz o erro máximo pela metade e elimina o deslocamento DC do truncamento, mas não a correlação.
2. O que o dither faz: linearizando o sistema
O dither funciona por randomização: somar uma tensão aleatória antes do arredondamento faz a probabilidade de arredondar para cima ser proporcional à posição fracionária do sinal. Na média de muitas amostras, a saída quantizada acompanha a forma de onda original mesmo quando ela fica entre códigos, e o erro passa a ser ruído estacionário em vez de distorção dependente do sinal.
John Vanderkooy e Stanley Lipshitz formalizaram a teoria no artigo de 1987 na JAES, “Dither in Digital Audio”: com o dither correto, o termo não linear de distorção desaparece e o sistema se comporta de forma linear, ao custo de um piso de ruído um pouco mais alto. Material de nível muito baixo sobrevive à redução como um padrão estatístico dentro do ruído. Dois limites valem: o dither não recupera detalhe destruído antes por clipping, truncamento ou codificação com perdas, e não faz um master de 16 bits soar como um de 24. Ele remove distorção, não ruído.
3. Densidades de probabilidade do dither: RPDF vs. TPDF
Na tabela, LSB é o tamanho do degrau, o erro RMS inclui a quantização e os níveis são referenciados ao pico de escala cheia em 16 bits; os valores em dB mudam 6,02 dB por bit adicional de profundidade.
| Dither | Distribuição | Faixa | Erro RMS total | Piso em 16 bits |
|---|---|---|---|---|
| Nenhum | fixo | 0 | 0,289 LSB | -101,1 dBFS |
| RPDF | uniforme | 1 LSB p-p | 0,408 LSB | -98,1 dBFS |
| TPDF | triangular | 2 LSB p-p | 0,500 LSB | -96,3 dBFS |
O dither RPDF é um único valor aleatório sorteado de forma uniforme entre ±0,5 LSB. Ele remove a distorção harmônica, mas o próprio ruído de dither muda de nível com o sinal, um artefato chamado modulação de ruído: num fade, o chiado respira junto. O dither TPDF é a soma de dois valores uniformes independentes, o que dá uma distribuição triangular de -1 a +1 LSB, ou 2 LSB pico a pico. É o dither de menor potência que remove distorção e modulação de ruído ao mesmo tempo. O custo é mensurável: o TPDF eleva o erro RMS total para meio LSB, 4,8 dB acima do piso sem dither e 1,8 dB acima do RPDF, um piso de ruído constante e pequeno em troca do fim da distorção correlacionada.
O dither também precisa ser escalado para a profundidade de destino: um gerador calibrado para escala cheia tem de ser atenuado até o tamanho do LSB alvo, ou é só ruído alto. E ele precisa vir imediatamente antes da quantização final, não antes de um limitador que quantiza de novo.
4. Noise shaping psicoacústico
O noise shaping parte do TPDF e move a energia do ruído em frequência. O erro de quantização passa por um filtro de realimentação que empurra o ruído para longe da região em que o ouvido é mais sensível, de cerca de 2 a 5 kHz, e para cima, em direção a 15 a 20 kHz, onde a sensibilidade é bem menor. Um shaper de segunda ordem já basta para fazer diferença audível; ordens maiores trocam mais ruído total por menos ruído na banda crítica.
O shaping sempre aumenta a potência total de ruído, então um master de 16 bits com shaping mostra leitura de banda larga mais alta do que um master com TPDF plano e ainda assim soa mais silencioso na banda crítica. Ruído ultrassônico moldado pode excitar o processamento a jusante e ficar levemente audível em fones brilhantes.
| Profundidade | Níveis | Um LSB | Piso de arredondamento | Piso com TPDF |
|---|---|---|---|---|
| 16 bits | 65.536 | -90,3 dBFS | -101,1 dBFS | -96,3 dBFS |
| 24 bits | 16.777.216 | -138,5 dBFS | -149,3 dBFS | -144,5 dBFS |
O piso do TPDF em 24 bits fica 48 dB abaixo do de 16 bits, o que em teoria tornaria o dither irrelevante em 24 bits, mas conversores reais raramente chegam a esse piso: ruído analógico, jitter de clock e a sala dominam muito antes de -144 dBFS. Na prática, a entrega em 24 bits torna o dither inaudível, enquanto a entrega em 16 bits é onde o shaping se paga.
5. Quando o dither importa, e quando não importa
O dither importa num momento que quase ninguém planeja: a redução final para uma profundidade de ponto fixo menor. Aplique dither em toda exportação cujo destino seja 16 ou 24 bits, e use TPDF com shaping na entrega em 16 bits quando o material puder gastar a folga.
Ele não importa em processamento que permanece em ponto flutuante, na conversão de 16 para 24 bits, nem na reprodução de um master pronto, onde o dither já está gravado. Nunca aplique dither duas vezes no mesmo caminho de sinal, e nunca antes de um estágio que vai quantizar de novo. Uma autoverificação útil: onde acontece a próxima redução irreversível? É ali que o dither entra.
Você pode ouvir em vez de confiar na descrição: a ferramenta de Dithering e Noise Shaping roda truncamento, arredondamento, TPDF e uma variante com shaping no navegador, e a série de testes cegos de profundidade de bits transforma a comparação num teste com pontuação.
Precisão, limites e solução de problemas
- Dither na profundidade errada. Um dither calibrado para 16 bits fica 48 dB acima do LSB de 24 bits que deveria acompanhar; um dither de 24 bits numa exportação de 16 bits desaparece dentro do arredondamento.
- Aplicar dither e depois limitar. Um limitador depois do dither quantiza o sinal de novo e destrói o sentido; deixe o dither por último.
- Ouvir com +40 dB de ganho. Com esse ganho, o ruído da sua cadeia de monitoração faz parte do som. Ajuste um nível sensato e compare um fade com a versão sem dither.
- Aplicar shaping num master brilhante. O ruído moldado vive na oitava superior, onde também vive a sibilância. Ouça num sistema neutro antes de fechar o arquivo.
Ferramentas relacionadas
- Dithering e Noise Shaping — truncamento, arredondamento, TPDF e shaping lado a lado.
- Analisador de Espectro — mostra o piso de ruído moldado subindo em direção à oitava superior.
- Teste de Faixa Dinâmica — mede quanto detalhe de baixo nível mudou.