Raspberry Pi AI HAT+ 2: generativní AI přímo na Raspberry Pi 5

Sdílet

Přibližně před rokem byla představena přídavná deska AI HAT+ pro Raspberry Pi, která nabízela výkon až 26 TOPS a umožnila připravit pokročilé aplikace postavené na počítačovém vidění, rozpoznávání objektů a zpracování scény. Jedná se o řešení respektující soukromí uživatele, protože data nemusejí putovat nikam do výkonného cloudu.

Původní hat ale neměl dost výkonu na generativní AI, tedy populární jazykové modely. Nyní byl představen nástupce s názvem Raspberry Pi AI HAT+ 2, který používá nový akcelerátor Hailo-10H s výkonem 40 TOPS (Tera Operations per Second). Na rozdíl od svého předchůdce disponuje druhá generace také 8 GB vyhrazené integrované paměti RAM, díky čemuž je akcelerátor schopen efektivně zpracovávat mnohem větší modely, než bylo dosud možné.

Pro uživatele už je připravena instalace některých modelů: DeepSeek-R1-Distill, Llama3.2, Qwen2.5-Coder, Qwen2.5-Instruct a Qwen2. Vývojáři připravují další a větší jazykové modely, které by měly být brzy k dispozici pro snadnou instalaci. Výhodou je bezproblémová integrace s kamerovým softwarem v RPi a možnost použít vlastní modely.

Desku Raspberry Pi AI HAT+ 2 už je možné koupit za 130 dolarů. Český RPishop.cz desku nabízí za 3300 Kč.

Našli jste v článku chybu?

Autor zprávičky

Petr Krčmář pracuje jako šéfredaktor serveru Root.cz. Studoval počítače a média, takže je rozpolcen mezi dva obory. Snaží se dělat obojí, jak nejlépe umí.