Kiedy używać zestawu Raspberry Pi 5 AI
Zestaw Raspberry Pi 5 AI zapewnia 82,4 kl./s przy wykrywaniu obiektów YOLOv8, zużywając zaledwie 9,7 W-, ale tylko w przypadku uruchamiania modeli wizyjnych za pośrednictwem potoku kamery. Ta specyfika ma większe znaczenie niż imponująca liczba 13 TOPS na pudełku.
Widziałem, jak dziesiątki programistów kupowało ten zestaw za 70 dolarów, oczekując akceleracji ChatGPT, tylko po to, by odkryć, że nie obsługuje on modeli językowych. Zamieszanie jest zrozumiałe: „AI Kit” brzmi uniwersalnie. Rzeczywistość jest taka, że procesor Hailo-8L jest zgodny tylko z zadaniami-uczenia maszynowego obejmującymi obraz przechwytywany przez moduły kamer, a nie kamery internetowe ani kamery IP, a w szczególności moduły kamer Raspberry Pi.
To nie jest ograniczenie; to specjalizacja. Wnioskowanie z zakresu widzenia komputerowego na krawędzi wymaga zasadniczo innej architektury niż wnioskowanie LLM. Architektura przepływu danych Hailo-8L wyróżnia się w pierwszym przypadku, natomiast w drugim jest całkowicie błędna.
Prawdziwa luka w wydajności: liczby, które naprawdę mają znaczenie
Pomiń marketing TOPS. Procesor Raspberry Pi 5 wykrywa obiekty YOLOv8 przy 0,45 FPS przy 100% wykorzystaniu procesora. Dodaj zestaw AI, a osiągniesz 82,4 FPS przy 15-30% procesora. To nie jest poprawa 2x, to mnożnik 183x.
Ale kontekst dramatycznie kształtuje te liczby. Przy prędkościach PCIe Gen 3 i rozmiarze partii 8 ten sam model YOLOv8s osiąga 120 FPS. Przejdź do Gen 2, a będziesz mieć 40 FPS. Zwiększ rozmiar partii do 32, a wydajność spadnie do 54 FPS.
Wąskie gardło PCIe jest realne. Pojedynczy pas 3. generacji zapewnia przepustowość 8 Gbit/s-wystarczającą do większości zadań związanych z wizją, ale to twardy sufit. Konfiguracje oparte na modułach wymagają, aby cały dostęp do pamięci przechodził przez interfejs PCIe, w przeciwieństwie do jednostek NPU zintegrowanych z układami SoC, które współdzielą-szybkie kanały pamięci z procesorem.
Dla perspektywy: szacunkowa pozycja wynosi 66,1 kl./s przy poborze mocy wynoszącym 9,7 W. To 200 razy szybsze niż wnioskowanie-tylko przez procesor przy mniejszym zużyciu energii. Obliczenia uwzględniają wdrożenia-zasilane baterią.
Konkurencyjny sprzęt: drzewo decyzyjne za 70 dolarów
Coral TPU firmy Google oferuje 4 TOPS przy wydajności 2 TOPS/W w konstrukcji chipa sprzed 6-lat. Hailo-8L dostarcza 13 TOPS przy 3-4 TOPS/W. Na papierze Hailo wygrywa.
Ale Coral ma integrację z TensorFlow Lite, która „po prostu działa”. Akcelerator USB firmy Coral łączy się za pomocą standardowego USB, łatwo integruje się z istniejącymi systemami i obsługuje umiarkowane modele, takie jak MobileNet v2, przy zużyciu energii około 2 watów. Nie jest wymagana konfiguracja PCIe.
Hailo-8 (26 TOPS) istnieje, ale kosztuje 150-200 dolarów. W tym przedziale cenowym porównujesz rozwiązania oferujące większą elastyczność. Najlepszym miejscem jest 8 litrów za 70 USD, jeśli Twój przypadek użycia się zgadza.
Pineboards oferuje alternatywy: podwójne nakładki M.2 HAT, które łączą Hailo-8L z pamięcią masową NVMe lub konfiguracje Coral Edge w celu dalszego rozwoju istniejących projektów Coral. Rozwiązują one ograniczenie oficjalnego zestawu dotyczące „akceleratora lub przechowywania”.
Przypadek użycia nr 1:-bezpieczeństwo i monitorowanie w czasie rzeczywistym
Kamery bezpieczeństwa generują nieustanne strumienie danych. Zestaw AI obsługuje nagrania z monitoringu w rozdzielczości 1080p, wykrywając ludzi, samochody i paczki bez utraty klatek. Ten 13-krotny wzrost wydajności sprawia, że kamery bezpieczeństwa są naprawdę opłacalne.
Projekt Jeffa Geerlinga połączył wiele jednostek NPU Hailo-osiągając łącznie 51 TOPS, łącząc jednostki TPU Hailo-8L, Hailo-8 i Coral za pośrednictwem przełączników PCIe. Nadmierny? Tak. Ale pokazuje scenariusze z wieloma kamerami na dużą skalę.
Prawdziwe wdrożenie wygląda inaczej. System monitorowania placów poboru opłat wykorzystywał obraz komputerowy Edge Impulse z modułem kamery Wide do wykrywania i liczenia pojazdów na wielu pasach jednocześnie. Szeroki obiektyw uchwycił szersze obszary; zestaw AI zapewnił przestrzeń do przetwarzania.
Integracja fregaty NVR ma tutaj znaczenie. Hailo zostało oficjalnie zintegrowane ze strukturą Frigate począwszy od wersji 0.16.0, co sprawia, że stanowi on-zamiennik dla starzejących się konfiguracji Coral w istniejących instalacjach nadzoru.
Krytyczne ograniczenie: Zestaw AI Kit i AI HAT+ nie działają, jeśli występuje niezgodność wersji pomiędzy pakietami oprogramowania Hailo i sterownikami urządzeń. Wdrożenia produkcyjne wymagają-strategii blokowania wersji.
Przypadek użycia nr 2: Sterowanie procesami przemysłowymi
Systemy bezpieczeństwa budowlanego mogą wykrywać ludzi znajdujących się przed, z boku i za pojazdami budowlanymi. Kamery oparte na sztucznej inteligencji-zastępują wielu obserwatorów i śledzą lokalizacje pracowników w czasie rzeczywistym.
Zaletą jest równoległość: sztuczna inteligencja przetwarza wiele stref niebezpiecznych jednocześnie, podczas gdy ludzie w naturalny sposób skupiają się sekwencyjnie. Czas reakcji przy generowaniu alertów jest ważniejszy niż doskonała dokładność.
Kontrola jakości produkcji opiera się na podobnej logice. Kamera na linii produkcyjnej sprawdzająca poprawność montażu wymaga stałej liczby klatek na sekundę, a nie maksymalnej wydajności. Zestaw AI utrzymuje prędkość 82,4 FPS przy wykrywaniu obiektów-wystarczającą dla większości prędkości linii produkcyjnych, pozostawiając jednocześnie wydajność procesora dla systemów sterowania.
Kompaktowy rozmiar umożliwia integrację w istniejących punktach linii produkcyjnej. System skaluje się poprzez dodawanie kamer, a nie przeprojektowywanie infrastruktury.
Jednak wdrożenie przemysłowe wymaga więcej. W przypadku urządzeń produkcyjnych należy unikać kart SD ze względu na ograniczoną trwałość zapisu i słabą niezawodność przy zawodnym zasilaniu. Wymagane są przemysłowe dyski eMMC lub dyski twarde.
Przypadek użycia nr 3: Robotyka i systemy autonomiczne
W prototypie autonomicznego robota podwodnego wykorzystano zestaw AI do wykrywania obiektów za pomocą modelu YOLOv8 wytrenowanego na niestandardowych zbiorach danych, współpracującego z silnikami BLDC sterowanymi za pomocą sterownika PCA9685 PWM w interfejsie I2C.
Wyzwanie: integracja zestawu SDK Hailo z istniejącymi potokami OpenCV. Programiści przyzwyczajeni do 8-liniowych implementacji PyTorch+Ultralytics na procesorach graficznych komputerów PC muszą się jeszcze bardziej nauczyć, korzystając z zestawu narzędzi Hailo. Konwersja modelu nie jest automatyczna.
Algorytmy nawigacji zużywają cykle procesora. System wykrywania dłoni Mario obsługiwał trzy modele jednocześnie-wykrywanie dłoni i punkty orientacyjne-utrzymując 26–28 klatek na sekundę przy wykrywaniu jednej ręki i 22–25 klatek na sekundę przy wykrywaniu obu rąk. Ten budżet przetwarzania pozostawia miejsce na planowanie ścieżki i kontrolę silnika.
Przykładem takiego dopasowania są inteligentne roboty dostawcze: ciągłe przetwarzanie obrazu, podczas gdy procesor obsługuje logikę nawigacji, komunikację i drzewa decyzyjne. Wydajność 3-4 TOPS/W wymiernie wydłuża żywotność baterii w zastosowaniach mobilnych.
Przypadek użycia nr 4: Analityka sprzedaży detalicznej i klientów
Demo zarządzania supermarketem detalicznym uruchomiło YOLOv8n na zestawie AI w celu wykrywania produktów na półkach, podczas gdy EfficientNet działał na procesorze w celu klasyfikacji. Podział pracy: NPU zajmuje się wykrywaniem (gdzie jest produkt?), CPU zajmuje się klasyfikacją (który produkt?).
Oszacowanie pozycji dodaje analizę zachowań klientów. 66.1 Wydajność szacowania pozycji FPS umożliwia śledzenie ruchów klientów w strefach sklepu, analizę czasu przebywania i wykrywanie kolejki bez indywidualnej identyfikacji.
Prywatność ma tutaj znaczenie. Przetwarzanie na-urządzeniu oznacza, że film nigdy nie opuszcza lokalizacji. Modele przeszkolone w zakresie ogólnego wykrywania „osoby” nie przechowują danych biometrycznych-tylko metadane przestrzenne.
Projekt „Peeper Pam” wykrył osoby za tobą przy biurku, ignorując krzesła, stoły i rośliny w ramce. Pewność wykrywania wyświetlana na mierniku analogowym: 0 dla „braku osoby”, 1 dla „pewnej osoby obecnej” z niepewnością pomiędzy.
Tę samą logikę stosuje się do monitorowania obłożenia, zarządzania kolejkami i wykorzystania przestrzeni-wszędzie tam, gdzie potrzebne jest pytanie „czy jest obecna osoba?” bez względu na to, „która osoba?”
Przypadek użycia nr 5: wdrożenie modelu niestandardowego (z zastrzeżeniami)
Kompilator Hailo Dataflow tłumaczy modele ze standardowych struktur uczenia maszynowego na format wykonywalny Hailo, korzystając z treningu-uwzględniającego kwantyzację, aby zmniejszać modele przy jednoczesnym zachowaniu dokładności.
Przepływ pracy: trenuj w PyTorch lub TensorFlow, eksportuj do ONNX, konwertuj do HEF (Hailo Executable Format) przy użyciu DFC, wdrażaj na Pi. Istnieją samouczki dotyczące pełnego procesu szkolenia-do-wdrożenia z modelami YOLOv8n.
Ale zgodność modeli nie jest uniwersalna. Modele skompilowane dla Hailo są zoptymalizowane pod kątem architektury chipów,-co oznacza, że niektórych operacji po prostu nie da się odwzorować. Modelowe zoo zawiera-wstępnie skompilowane przykłady; niestandardowe architektury wymagają testowania.
Interfejs API Hailo Python umożliwia teraz uruchamianie wnioskowania na Hailo-8L przy użyciu języka Python, przy czym dostępne są przykłady zarówno dla samodzielnych skryptów, jak i integracji z picamera2. Obniża to barierę w porównaniu do wcześniejszych przepływów pracy wykorzystujących wyłącznie GStreamer.
Edge Impulse zapewnia inną ścieżkę. Ich platforma obsługuje szkolenie modeli i potok konwersji Hailo, generując modele gotowe do--wdrożenia. W przypadku zespołów nieposiadających doświadczenia w zakresie uczenia maszynowego to zarządzane podejście ogranicza liczbę prób-i-błędów.
Kiedy NIE używać zestawu AI
Modele z dużym językiem:Procesor Hailo-8L nie obsługuje modułów LLM. Jest kompatybilny tylko z zadaniami uczenia maszynowego obejmującymi kanały z modułów kamery. Żadna ilość optymalizacji nie zmieni tego ograniczenia architektonicznego.
Uruchamianie LLM na Pi 5 wymaga wnioskowania procesora z modelami o parametrach poniżej 7B. Gemma2-2B osiągnęła przyzwoitą wydajność przy użyciu 3 GB pamięci RAM; DeepSeek-r1:8b działał powoli. Zestaw AI nie przyspiesza tego.
Generacyjna sztuczna inteligencja:Generowanie tekstu, synteza obrazu, generowanie dźwięku-te procesy nie odpowiadają architekturze przepływu danych Hailo-8L. Przyszły Hailo 10H z 40 TOPS i 8 GB pamięci RAM DDR4 jest przeznaczony do obciążeń generatywnych AI, ale nie jest jeszcze dostępny dla Pi 5.
Zadania inne niż-kamera wizyjna:Przetwarzanie nieruchomych obrazów z plików działa, ale zestaw AI Kit współpracuje w szczególności z modułami kamer Raspberry Pi,-a nie z kamerami internetowymi czy kamerami IP. Zgodność kamer-innych firm wymaga obsługi biblioteki libcamera.
Potrzeba przechowywania:Oficjalne gniazdo M.2 zestawu jest zajęte przez moduł Hailo, uniemożliwiając podłączenie dysku SSD NVMe. Jeśli potrzebujesz zarówno akceleracji AI, jak i szybkiej pamięci masowej, wymagane są-dwa nakładki M.2 HAT innych firm.
Ścisłe wymagania dotyczące integracji:Według stanu na marzec 2025 rpicam-apps to jedyny element stosu oprogramowania Raspberry Pi głęboko zintegrowany z akceleratorem Hailo. Dostęp programowy ze skryptów Pythona poprzez picamera2 stał się dostępny później. Wczesne wdrożenie oznaczało ograniczoną elastyczność interfejsu API.
Ramy decyzyjne
Zadaj pięć pytań:
1. Czy Twoja wizja zadań AI-jest oparta na wizji?
Tak, z modułem kamery → AI Kit jest wykonalny
Nie lub przetwarzanie-na podstawie plików → rozważ ponownie
Przetwarzanie tekstu/audio → niewłaściwe narzędzie
2. Jaki jest Twój docelowy wynik?
30+ FPS w czasie rzeczywistym- → Wymagany zestaw AI
Dopuszczalne 5-10 FPS → Procesor może wystarczyć
<1 FPS tolerable → don't spend $70
3. Czy potrzebujesz niestandardowych modeli?
Tak, i chętny do nauki DFC → możliwy do opanowania
Tak, ale bez doświadczenia w zakresie uczenia maszynowego → Trasa Edge Impulse
Nie, używam-tylko wstępnie przeszkolonego → idealnego scenariusza
4. Jaka jest skala wdrożenia?
1-10 jednostek do prototypowania → idealne dopasowanie
100+ jednostek do produkcji → współczynnik dostaw, ciepła i niezawodności
Przemysłowe/komercyjne → wymagają przemysłowych wariantów Pi, a nie płyt detalicznych
5. Czy możesz zaakceptować ograniczenia?
Wymagania dotyczące modułu kamery
Zarządzanie zależnościami wersji
Brak rozruchu NVMe bez podwójnej nakładki M.2 HAT
Temperatura pracy 0-50 stopni
Pułap przepustowości PCIe
Jeśli odpowiedziałeś pozytywnie na pytania 1, 2 i 5 i masz strategię na 3 i 4, zestaw AI zapewnia wyjątkową wartość w cenie 70 USD.
Skonfiguruj kontrolę rzeczywistości
Instalacja sprzętu zajmuje kilka minut: zainstaluj system chłodzenia, podłącz wsporniki, wciśnij złącze GPIO, podłącz kabel taśmowy do portu PCIe, zabezpiecz zestaw AI za pomocą śrub.
Konfiguracja oprogramowania wymaga większej uwagi:
sudo apt update i sudo apt full-upgrade sudo rpi-eeprom-update sudo raspi-config # Włącz PCIe Gen 3 w opcjach zaawansowanych sudo apt install hailo-all sudo restart hailortcli fw-kontrola identyfikacja # Sprawdź instalację
Niezgodność wersji pomiędzy pakietami oprogramowania Hailo i sterownikami urządzeń powoduje całkowitą awarię systemu. Dokładnie przetestuj przed wdrożeniem.
Aby uzyskać najlepszą wydajność, zaleca się użycie zestawu AI z aktywną chłodnicą Raspberry Pi. Bez chłodzenia podstawowa płyta RPi5 przegrzeje się podczas korzystania z zestawu AI.
Zarządzanie temperaturą nie jest opcjonalne,-jest wymagane do zapewnienia trwałej wydajności.
Kalkulacja wartości 70 dolarów
Co otrzymasz:
13 TOPS wnioskowanie neuronowe
Wydajność 180x+ w porównaniu z samym procesorem-
Wydajność 3-4 TOPS/W
Zintegrowana obsługa aplikacji-RPICAM
Wstępnie-zamontowana podkładka termiczna
Wszystkie elementy montażowe
Czego nie otrzymasz:
Przyspieszenie LLM
Ogólne-obliczenia AI
Prostota-podłącz i-graj
Rozbudowa pamięci
Uniwersalna kompatybilność z aparatem
Za 70 dolarów trudno znaleźć tańszy sposób na zanurzenie się w brzegowej sztucznej inteligencji. Cena podcina pakiety Coral TPU, zapewniając jednocześnie ponad 3 razy więcej TOPS.
Ale wartość zależy całkowicie od dopasowania przypadków użycia. Jeśli chodzi o wnioskowanie o widzeniu na krawędzi, jest to wyjątkowe. Dla wszystkiego innego jest to nieistotne.
Często zadawane pytania
Czy mogę używać zestawu AI z modelami Raspberry Pi 4 lub starszymi?
Nie. Zestaw AI wymaga Raspberry Pi 5, ponieważ potrzebuje natywnej obsługi PCIe. We wcześniejszych modelach całkowicie brakuje interfejsu PCIe. Nie ma żadnego obejścia ani adaptera, które by to zmieniły.
Czy AI Kit przyspieszy mój kod wykrywania obiektów napisany w Pythonie za pomocą OpenCV?
Częściowo. Interfejs API Hailo Python umożliwia uruchamianie wnioskowania na Hailo-8L przy użyciu języka Python, ale musisz przekonwertować swój model na format HEF i zmodyfikować kod, aby używać interfejsu API Hailo zamiast standardowych wywołań wnioskowania OpenCV. Nie jest to przezroczysty zamiennik typu drop-in.
Jak wielkość partii wpływa na wydajność?
W przypadku YOLOv8 w rozdzielczości 640x640: wielkość partii 2 osiąga 80 FPS, wielkość partii 4 osiąga 100 FPS, wielkość partii 8 osiąga szczyt przy 120 FPS. Poza tym wydajność spada: partia 16 spada do 100 FPS, a partia 32 spada do 54 FPS z powodu nasycenia przepustowości PCIe.
Czy mogę uruchomić system z NVMe i jednocześnie korzystać z zestawu AI?
Nie tylko z oficjalnym zestawem. Slot M.2 zajmuje moduł Hailo. Pineboards i podobni dostawcy oferują podwójne nakładki M.2 HAT, które zapewniają gniazda akceleratorów NVMe i AI, eliminując to ograniczenie za dodatkową opłatą.
Czy obsługa Google Coral jest przestarzała?
Nie jest to oficjalnie przestarzałe, ale stos oprogramowania Coral nie był aktywnie utrzymywany, a PyCoral wymaga Pythona 3.9. Wygląda na to, że Google pozostawił projekt Coral w trybie podtrzymywania życia ze względu na problemy z dostawami podczas pandemii. Istniejący sprzęt Coral nadal działa, ale przyszłe wsparcie jest niepewne.
Jakiego chłodzenia właściwie potrzebuję?
Raspberry Pi zaleca używanie zestawu AI z aktywną chłodnicą, aby uzyskać najlepszą wydajność. Pasywne radiatory mogą wystarczyć do sporadycznego użytkowania, ale długotrwałe obciążenia będą dławione bez aktywnego chłodzenia. Budżet na aktywną chłodnicę o wartości 5 USD wraz z zestawem AI.
Czy mogę jednocześnie uruchamiać wiele strumieni z kamer?
Tak. Możliwe jest uruchomienie wielu sieci neuronowych na jednej kamerze lub jednej lub wielu sieci neuronowych z dwiema kamerami jednocześnie. Wydajność skaluje się w oparciu o złożoność modelu i dostępność przepustowości PCIe.
Uczciwy wniosek
Zestaw Raspberry Pi 5 AI to specjalistyczne narzędzie, które wyróżnia się w swojej dziedzinie. W przypadku wnioskowania wizyjnego za pomocą modułów kamer zmienia Pi 5 z „sprawnego technicznie” w „faktycznie praktyczny” do zastosowań produkcyjnych.
To nie jest akcelerator sztucznej inteligencji-ogólnego przeznaczenia. Nie będzie działać ChatGPT. Nie będzie generować obrazów. Nie pomoże to w syntezie dźwięku. Zaakceptuj te ograniczenia, a zapewnisz wyjątkową wartość. Walcz z nimi, a zmarnujesz 70 dolarów.
Decyzja nie brzmi: „Czy zestaw AI jest dobry?”-ale „Czy zestaw AI jest odpowiedni dla tego konkretnego zastosowania?” Odpowiedz szczerze i będziesz wiedział czy kupić.
Kluczowe dania na wynos
Zestaw AI zapewnia 82,4 kl./s na YOLOv8 w porównaniu z 0,45 kl./s na procesorze-tylko-ale tylko w przypadku-zadań wizyjnych opartych na kamerze
Nie jest kompatybilny z LLM, generatywną sztuczną inteligencją ani przepływami pracy bez-kamery
Wymaga Raspberry Pi 5 z modułem kamery; nie będzie działać z Pi 4 ani kamerami internetowymi
Konfiguracja PCIe Gen 3 i aktywne chłodzenie niezbędne do uzyskania optymalnej wydajności
Zarządzanie zależnościami wersji jest krytyczne; niedopasowania powodują całkowitą awarię systemu
Najlepsze do: kamer bezpieczeństwa, monitoringu przemysłowego, robotyki, analityki handlu detalicznego
Unikaj w przypadku: modeli językowych, generowania obrazów, przetwarzania dźwięku, ogólnych eksperymentów ze sztuczną inteligencją
Źródła danych
Dokumentacja Raspberry Pi - Oprogramowanie zestawu AI: https://www.raspberrypi.com/documentation/computers/ai.html
magazyn Mehatronika - Recenzja zestawu AI Raspberry Pi: https://magazinmehatronika.com/en/raspberry-pi-ai-kit-recenzja/
Seeed Studio - Test porównawczy dla RPi5 i CM4: https://forums.raspberrypi.com/viewtopic.php?t=373867
Jeff Geerling - Testowanie zestawu AI Raspberry Pi: https://www.jeffgeerling.com/blog/2024/testing-raspberry-pis-ai-kit-13-tops-70
XDA Developers - Zestaw Raspberry Pi AI w praktyce-praktyczny: https://www.xda-developers.com/raspberry-pi-ai-kit-praktyczny-w/
Fora Raspberry Pi - Dyskusje na temat zestawu AI: https://forums.raspberrypi.com/
Fora społeczności Hailo: https://community.hailo.ai/
GitHub - hailo-ai/hailo-rpi5-przykłady: https://github.com/hailo-ai/hailo-rpi5-examples