NOWOŚĆ !!!

Akcelerator AI do Raspeberry Pi 5 o wydajności 40 TOPS (INT4) oraz dedykowaną pamięcią RAM 8GB

Moduły AI HAT to płytki rozszerzeń do Raspberry Pi 5, które zawierają wbudowany układ akceleratora AI: jednostkę przetwarzania neuronowego Hailo (NPU). Moduł NPU Hailo umożliwia Raspberry Pi 5 lokalne uruchamianie modeli AI akcelerowanych sprzętowo, eliminując konieczność przesyłania danych do zdalnego serwera w chmurze w celu przetworzenia. To podejście oparte na sztucznej inteligencji brzegowej poprawia wydajność, zmniejsza opóźnienia i pomaga zachować prywatność danych. Moduły AI HAT wykorzystują nowszą specyfikację Raspberry Pi HAT, oznaczoną znakiem plus (+). Dostępne są dwa modele modułów AI HAT: AI HAT+ i AI HAT+ 2.  Moduły AI HAT są dostępne w różnych wariantach wydajności, mierzonych w teraoperacjach na sekundę (TOPS) wydajności wnioskowania.

Moduł AI HAT+ jest dostępny w wariancie 13 TOPS lub 26 TOPS (INT8)

AI HAT+ 2 jest dostępny w pojedynczym wariancie 40 TOPS (INT4)

Specyfikacja

• Producent Raspberry Pi Ltd
• Typ akcesoriów płytka rozszerzająca
• Rodzaj złącza mPCIE
• Komponenty Hailo 10H accelerator
• Wymiary 56,7x65,1x5,5mm

Zastosowanie Machine Learning

Moc obliczeniowa 40 TOPS (INT4)  (odpowiednik 26 TOPS (INT8)

Zastosowanie - seria/producent Raspberry Pi 5

Masa brutto 49.87 g

Porównanie AI HAT+ i AI HAT+ 2

Akcelerator AI (Hailo NPU)

• AI HAT+:  Hailo-8L (13 TOPS, INT8) lub Hailo-8 (26 TOPS, INT8),
• AI HAT+ 2: Hailo-10H (40 TOPS, INT4)

Pamieć RAM

• AI HAT+ Wykorzystuje pamięć Raspberry Pi 5
• AI HAT+ 2 Posiada własną pamięć 8 GB co pozwala na uruchamianie LLM i VLM z maksymalnie 6 miliardami parametrów

Obsługa LLM (Large Language Model)

• AI HAT+ nie obsługuje
• AI HAT+ 2 obsługuje

Obsługa VLM (Vision-Language Model)

• AI HAT+ nie obsługuje
• AI HAT+ 2 obsługuje

Przypadki użycia

• AI HAT+ Wykrywanie obiektów, postprocessing kamery, robotyka, umiarkowane obciążenia neuronowe
• AI HAT+ 2  Wszystko, co dostępne w AI HAT+, plus generatywne obciążenia AI, w tym lokalne LLM i VLM

Uwaga !

AI HAT+ 2 dostarczany jest z dedykowanym radiatorem, jednak zaleca się montaż dodatkowego aktywnego układu chłodzenia na Raspeberry Pi 5 (dostępny również na naszej aukcji https://business.allegro.pl/oferta/raspberry-pi-active-cooler-aktywny-zestaw-chlodzacy-sc1148-18153450349 )