O to v tomhle případě myslím tak docela nejde.
Tady jde o to, že výstup z transformace se ořeže (zmenší se přesnost, některé koeficienty se zahodí úplně), aby se muselo uložit míň dat.
Z transformace vyleze sada koeficientů, které jsou floating point, ale u jiných formátů můžou být i integery (H.264 a novější).
Kvantizace obvykle probíhá tak, že se to všechno vydělí určitým číslem (kterým se to pak při dekódování zase musí vynásobit), aby byly hodnoty nižší, a pak se to, co se blíží nule obvykle úplně vynechá, a enkodér uloží jen ty nejvýznaměnjší (v absolutní hodnotě) koeficienty, podle toho, kolik má k dispozici bitů.