Ein Quantizer ist der Algorithmus oder das Modul, das Werte in diskrete Stufen überführt.
Der Quantizer bestimmt, wie kontinuierliche Zahlen auf eine kleinere Menge möglicher Werte abgebildet werden. Er legt Skalierung, Nullpunkt und Schrittweite fest und entscheidet damit, wie viel Information erhalten bleibt. In Produktquantisierung oder Audio-Encoding steuert er ebenfalls, wie stark Daten komprimiert werden.
Aspekte
- Uniform vs. Nicht-uniform: Gleichmäßige oder adaptive Stufen.
- Per-Tensor vs. Per-Channel: Gemeinsame oder individuelle Skalen.
- Kalibrierung: Statistiken wie Min/Max oder KL-Divergenz definieren optimale Grenzen.
