Intel oznámil nový formát BFloat16 pro budoucí procesory

15. 11. 2018

10 nových názorů

Intel oznámil nový formát čísel s plovoucí desetinou čárkou BFloat16 (BF16), který se bude používat v budoucích procesorech Nervana a Copper Lake. Nový formát je určen pro strojové učení a má být rychlejší než stávající FP16. Jde v podstatě o FP32, ale s kratší mantisou. Navíc BF16 neobsahuje žádné výjimky (inf, NaN), protože to není pro AI důležité.

(zdroj: phoronix)

Našli jste v článku chybu?

Zasílat nově přidané názory e-mailem

Aktualita je stará, nové názory již nelze přidávat.

15. 11. 2018 21:24

ehmmm (neregistrovaný)

Jsem myslel, ze v roce 2018 uz je snad vsechno alespon ctyrbajt. (S vyjimkou arduina a jinych embedded veci.)
- Zobrazit celé vlákno
- Skok na další nový názor. K navigaci lze použít i klávesy N pro následující a P pro předchozí nový názor
15. 11. 2018 21:45

Ondra Satai Nekola

Zlatý podporovatel

Pro deep learning je to zbytečně moc.
- Zobrazit celé vlákno
- Skok na další nový názor. K navigaci lze použít i klávesy N pro následující a P pro předchozí nový názor
15. 11. 2018 23:15

pc2005 (neregistrovaný)

Čtyřbajt jo, dokonce osmibajt. Tyhle hodnoty se pak můžou nacpat třeba do 128bit registru jako vektor.
- Zobrazit celé vlákno
- Skok na další nový názor. K navigaci lze použít i klávesy N pro následující a P pro předchozí nový názor
16. 11. 2018 0:00

Jenda (neregistrovaný)

Není, pro skalární počítání se méně nevyplatí, ale vektorové instrukce (včetně AVX2) umí počítat s vektory 8, 16, 32 i 64bit čísel.
- Zobrazit celé vlákno
- Skok na další nový názor. K navigaci lze použít i klávesy N pro následující a P pro předchozí nový názor
15. 11. 2018 23:16

pc2005 (neregistrovaný)

Tak už máme floating point. Někdo by to mohl zobecnit na floating mantisa/exponent ratio :-D
- Zobrazit celé vlákno
- Skok na další nový názor. K navigaci lze použít i klávesy N pro následující a P pro předchozí nový názor
16. 11. 2018 5:37

Oko (neregistrovaný)

Par bitu by se pouzilo na urceni pozice kde je mantisa a kde je uz exponent.
- Zobrazit celé vlákno
- Skok na další nový názor. K navigaci lze použít i klávesy N pro následující a P pro předchozí nový názor
16. 11. 2018 6:36

Ondra Satai Nekola

Zlatý podporovatel

To by byla lahůdka podporovat v HW, zejména pro vektorové operace..
- Zobrazit celé vlákno
- Skok na další nový názor. K navigaci lze použít i klávesy N pro následující a P pro předchozí nový názor
16. 11. 2018 9:17

x14

Prima, to se může hodit i v grafice a hrách.
- Skok na další nový názor. K navigaci lze použít i klávesy N pro následující a P pro předchozí nový názor
16. 11. 2018 15:29

q (neregistrovaný)

odkedy nie su dolezite vo vypoctoch inf a nan? ved len obycajny softmax ma s tym problem.
- Zobrazit celé vlákno
- Skok na další nový názor. K navigaci lze použít i klávesy N pro následující a P pro předchozí nový názor
14. 5. 2019 13:13

Křišťan Surname

Neuronové sítě nedělí, takže se k nekonečnu ani dělení nulou (NaN) moc nemají jak dostat. Navíc se používá aritmetika se saturací, takže ani nic nepřetíká.
- Zobrazit celé vlákno

Zasílat nově přidané názory e-mailem

Jan Fikar

První linux nainstaloval kolem roku 1994 a u něj zůstal. Později vystudoval fyziku a získal doktorát.

Témata:

Intel