Meta představila svou umělou inteligenci LLaMA (Large Language Model Meta AI). Máte na výběr mezi 7, 13, 30 a 65 miliardami parametrů (B čili billion v krátké škále). Pro srovnání ChatGPT založený na GPT-3 od OpenAI má parametrů 175 miliard.
Meta ukazuje testy, že její LLaMA 13B je lepší než GPT-3 175B. Navíc model jen s 13 miliardami parametrů by mohl běžet na jednom běžném GPU. Meta k tomu učí LLaMA jen na veřejně dostupných zdrojích se známými vahami. Zdroje jsou třeba Common Crawl, Wikipede a C4 (vyčištěná data z Common Crawl). LLaMA je open source převážně v Pythonu s licencí GPL-3. Zdrojové kódy jsou dostupné na GitHubu. Datové sety ale dostanete jen po vyplnění dotazníku.
(zdroj: arstechnica)
