Vlákno názorů k článku Zpracování hodnot typu half float (fp16) na platformě AArch64 od bindiff - Článek tvrdí, že mantisa má 10 bitů (z toho je...

Článek tvrdí, že mantisa má 10 bitů (z toho je počáteční jednotka implicitní, předpokládám, takže vlastně 11 bitů) a přitom přesnost je dle článku 5–6 číslic. To se do mantisy nemá šanci vejít: Přesnost v číslicích spočítáme jako log₁₀ 2⁽¹⁺¹⁰⁾ ≈ 3.311. Takže přesnost je 3 „až 4“ číslice.

Hodnoty ve výpočtu:

• ₁₀ jakožto základ logaritmu – číselná soustava, pro kterou počítáme počet číslic
• 2 – číselná soustava čísla v paměti
• 1+10 – jedna implicitní číslice (= bit) mantisy + 10 bitů zapsaných

Oprášil jsem svůj starý kód a upravil jsem ho na 16bit floaty. Ano, nejmenší hodnota mantisy je 0.0009765625, to je 1/(2^10). Takže přesnost je zhruba 3-4 cifry. Moje aplikace je k dispozici na webu: https://marekknapek.github.io/half/#?n=0x01

jj je to tak, opravil jsem to

Já děkuji za pěkný článek. Je to další věc po Pokročilých assemblerech na FIT VUT, co mě nakopla k tomu si někdy důkladně(ji) pohrát s ARMem.