Квантование − процесс замены реальных значений сигнала приближёнными с определённой точностью. Таким образом, при оцифровке фиксируется амплитуда сигнала через определённые промежутки времени и регистрируются полученные значения амплитуды в виде округлённых цифровых значений.
Влияние недостаточного количества уровней квантования интуитивно понять легче, чем эффект неподходящей частоты дискретизации. Если мы можем задать только ограниченное число различных значений, мы не сможем различать те значения, которые находятся между ними.
Когда звук квантуется на слишком маленькое количество уровней амплитуды, результат воспринимается как некое искажение, которое иногда называют шумом квантования, поскольку его худшее проявление − неприятное шипение. Это также приводит к тому, что негромкие фрагменты не слышны, а сам звук становится нечётким (как в мобильном телефоне, когда вы попадаете в область слабого сигнала). Шум квантования хорошо различим тогда, когда звук дискретизируется с помощью 8 бит (256 уровней), а не с помощью 16 бит (65 536 уровней) (рис. 2.8), которые используются для звукозаписи на компакт-дисках.
Рис. 2.8. Оцифровка звукового сигнала (Flash-ролик).
Рис. 2.9. Недостаточная дискретизация синусоидального сигнала
Шум квантования хуже для сигналов малой амплитуды. И наоборот, если амплитуда сравнима с разностью между уровнями квантования, аналоговый сигнал будет грубо аппроксимирован выборками, которые скачкообразно изменяются всего на несколько квантовых величин. Данный процесс иллюстрируется на рис. 2.9. Верхний сигнал − это обычная синусоида, ниже приведена её оцифрованная версия, при создании которой применялось только четыре уровня. Очевидно, что дискретизированный сигнал является плохой аппроксимацией оригинала.
Если подходить к вопросу скрупулезно, то, поскольку данные изображения подготовлены с использованием программы редактирования цифрового аудио, верхний сигнал является синусоидой, дискретизированной с частотой 16 бит (очень хорошая аппроксимация), а нижний − синусоидой, представленной с понижением частоты до 2 бит.