Kwantyzacja

to nieodwracalne nieliniowe odwzorowanie statyczne zmniejszające dokładność danych przez ograniczenie ich zbioru wartości. Zbiór wartości wejściowych dzielony jest na rozłączne przedziały. Każda wartość wejściowa wypadająca w określonym przedziale jest w wyniku kwantyzacji odwzorowana na jedną wartość wyjściową przypisaną temu przedziałowi, czyli tak zwany poziom reprezentacji. W rozumieniu potocznym proces kwantyzacji można przyrównać do "zaokrąglania" wartości do określonej skali.

Wartości wejściowe muszą zostać jednoznacznie skojarzone z poziomami reprezentacji, dlatego przedział dopuszczalnych wartości wejściowych jest dzielony na podprzedziały; punkty podziału są nazywane poziomami decyzyjnymi, ich liczba jest o jeden mniejsza od liczby poziomów reprezentacji. Każda wartość należąca do danego podprzedziału jest zastępowana przez poziom reprezentacji przypisywany do danego przedziału. Poziomem reprezentacji może być górna bądź dolna granica przedziału, jednak najczęściej jest nią wartość ze środka przedziału. Takie rozwiązanie skutkuje minimalizacją błędu średniokwadratowego, jednak tylko pod warunkiem, że rozkład prawdopodobieństwa wartości wejściowych jest stały w danym przedziale. Warunek ten jest w przybliżeniu spełniony, jeśli szerokości przedziałów kwantyzacji są bardzo małe.