Od chmury do Edge AI

Rewolucja sprzętowa napędzająca systemy wbudowane z obsługą AI

Sztuczna inteligencja przeniosła się z centrów danych na brzeg sieci. AIoT (AI of Things) nie jest już pustym hasłem, lecz kluczową rzeczywistością inżynierską. Od inteligentnych domów i automatyki przemysłowej po systemy ADAS w pojazdach elektrycznych i robotykę autonomiczną – zapotrzebowanie na zlokalizowaną inteligencję napędza innowacje w sprzęcie wbudowanym.

Projektanci elektroniki stoją na pierwszej linii tej transformacji. Ich rolą jest wprowadzenie inteligencji bezpośrednio do produktów końcowych poprzez mierzenie się z wyzwaniami uruchamiania zadań AI na urządzeniach o ograniczonych zasobach oraz dobór odpowiednich układów SoC, modułów SOM i zestawów rozwojowych, które sprawiają, że inteligencja brzegowa staje się praktyczna i gotowa do wdrożenia.

Dlaczego uruchamianie AI na urządzeniach brzegowych stanowi wyzwanie

Modele AI działające w chmurze korzystają z ogromnej mocy obliczeniowej i zasobów pamięci masowej. Urządzenia brzegowe muszą natomiast spełniać następujące wymagania:

Niskie opóźnienia – milisekundy mają znaczenie w robotyce, systemach ADAS lub podczas wykrywania wad na liniach produkcyjnych.
Wydajne wykorzystanie pasma – wysyłanie surowych danych wideo/audio do chmury jest kosztowne i niepraktyczne.
Prywatność i bezpieczeństwo – obrazy twarzy, dane zdrowotne i komendy głosowe często nie mogą opuszczać urządzenia.
Ograniczenia mocy i kosztów – rozwiązania AI w systemach wbudowanych muszą mieścić się w bezwentylatorowych obudowach, węzłach zasilanych z akumulatorów i ekonomicznych urządzeniach konsumenckich.

Rozwiązaniem są zlokalizowane modele AI przyspieszane przez NPU, DSP, FPGA lub ultra-niskoenergetyczne silniki sieci neuronowych. Takie akceleratory umożliwiają wnioskowanie w czasie rzeczywistym bez nadmiernego zużycia energii i bez konieczności utrzymywania połączenia z chmurą.

Projektanci elektroniki odgrywają kluczową rolę w doborze odpowiednich zestawów rozwojowych i platform referencyjnych, łącząc ogólne, wysokopoziomowe koncepcje AI z możliwymi do wdrożenia rozwiązaniami sprzętowymi.

Zestawy rozwojowe i płytki przystosowane do AI

Przejście od AI skoncentrowanej w chmurze do inteligencji brzegowej nie byłoby możliwe bez nowej generacji platform sprzętowych przygotowanych do obsługi AI. Te zestawy rozwojowe i płytki stanowią praktyczną podstawę pracy projektantów, oferując równowagę między wydajnością obliczeniową, efektywnością energetyczną a elastycznością integracji. To coś więcej niż same procesory, łączą one zoptymalizowane układy scalone, frameworki programowe, wstępnie wytrenowane modele oraz interfejsy peryferyjne, skutecznie zmniejszając złożoność wdrażania zadań AI na urządzeniach o ograniczonych zasobach. Niezależnie od tego, czy celem jest ultra-niskoenergetyczne wykrywanie słów kluczowych w urządzeniu noszonym, czy wysokowydajna wizja maszynowa w automatyce przemysłowej, zestawy te dostarczają klocki, z których można zbudować produkty gotowe do wdrożenia. Przyjrzyjmy się najbardziej zaawansowanym zestawom rozwojowym i komputerom jednopłytkowym z obsługą AI, aby być o krok przed innymi:

AMD Kria™ K24/K26 – moduły SOM i zestawy startowe

Kria Range K24/26: Zbudowane na Zynq™ UltraScale+™ MPSoC: Arm Cortex-A53 + R5F wraz z programowalnym układem FPGA.
Układ FPGA umożliwia tworzenie niestandardowych akceleratorów, takich jak DPU firmy Xilinx, idealnych do wnioskowania CNN i wstępnego przetwarzania obrazu.
Zestaw startowy KV260 Vision AI: zapewnia do 3× wyższą wydajność AI na wat mocy niż wiele modułów SOM.
Główne zastosowania: przemysłowa wizja maszynowa, robotyka, prototypowanie ADAS oraz deterministyczna analityka czasu rzeczywistego.

NXP: Szerokie spektrum rozwiązań AI

FRDM-MCXN947: Mikrokontroler Cortex-M33 + NPU do tinyML i wykrywania anomalii w napędach silników elektrycznych, systemach HVAC i urządzeniach AGD.
FRDM-IMX93: Cortex-A55 + MicroNPU Ethos-U65; bardzo dobrze sprawdza się w monitorowaniu kierowcy, asystentach głosowych i inteligentnych hubach.
SLN-VIZN3D-IOT: Bezpieczne, trójwymiarowe uwierzytelnianie twarzy z zabezpieczeniem przed fałszowaniem.
SLN-SVUI-IOT: Zoptymalizowane pod kątem rozpoznawania słów wybudzających i komend głosowych.
SLN-TLHMI-IOT: Kompletny, multimodalny zestaw HMI z rozpoznawaniem twarzy, gestów i głosu.
Mocną stroną NXP są zestawy referencyjne niemal gotowe do produkcji, co zmniejsza ryzyko związane z integracją.

STMicroelectronics: Od TinyML po przemysłowej AI

STM32N6570-DK: Mikrokontroler Cortex-M55 zoptymalizowany pod kątem instrukcji ML; idealne rozwiązanie do niskoenergetycznej analizy dźwięku lub drgań.
STM32MP257F-DK: Heterogeniczny Cortex-A35 + Cortex-M33 MPU z wbudowanym NPU do obsługi linuksowych struktur programistycznych AI dla przemysłowych interfejsów HMI.
STEVAL-BFA001V2B: Zestaw do monitorowania stanu i konserwacji predykcyjnej, wyposażony w integrację wielu czujników oraz wykrywanie anomalii oparte na ML.

Analog Devices: Pionierzy energooszczędnej AI

MAX78000EVKIT / MAX78000FTHR: Mikrokontroler z dedykowanym akceleratorem CNN, umożliwiający rozpoznawanie twarzy i słów kluczowych przy poborze mocy na poziomie mikrowatów.
MAXREFDES178#: Kompletny referencyjny projekt AI łączący dźwięk i wizję.

Raspberry Pi 5 i Compute Module 5

Raspberry Pi 5 i CM5: Oparte na czterordzeniowym układzie Cortex-A76 2,4 GHz, z istotnym wzrostem przepustowości pamięci i wydajności GPU.
Silne wsparcie społeczności sprawia, że to podstawowy wybór do prototypowania wizji maszynowej, robotyki i analityki brzegowej.
Można używać w połączeniu z akceleratorami, takimi jak Google Coral TPU i Intel Myriad X, do rozpoznawania tablic rejestracyjnych, wykrywania osób i inteligentnego monitoringu.
Compute Module 5 (CM5) przenosi wydajność Pi 5 do formy produkcyjnego modułu SOM, idealnego dla przemysłowych i konsumenckich systemów wbudowanych.

Arduino Portenta i czujniki Nicla

Arduino Portenta H7/X8: Dwurdzeniowe układy MCU/MPU obsługujące TensorFlow Lite i MicroPython, idealne do połączonych zastosowań IoT + AI.
Arduino Nicla Sense ME: Niewielki moduł z bogatym zestawem czujników, z IMU, czujnikiem gazu, wilgotności i barometrem, zoptymalizowany pod kątem monitorowania stanu z wykorzystaniem ML oraz pomiaru parametrów środowiskowych.
Ekosystem Portenta + Nicla łączy etap prototypowania z produkcją, umożliwiając deweloperom skalowanie od prototypu funkcjonalnego do rozwiązań gotowych do wdrożenia.
Oprogramowanie rozwijane przez społeczność oraz łatwo dostępne interfejsy API obniżają próg wejścia przy zachowaniu niezawodności sprzętu klasy profesjonalnej.

Tabela porównawcza sprzętu

Platformy	CPU/MPU	AI/Akceleracja	Klasa mocy	Kluczowe zastosowania
AMD Kria K24/K26 SOM	Quad Cortex-A53 + R5F, struktura FPGA	Programowalny DPU do obsługi CNN i zadań wizyjnych	5–15 W	Robotyka, przemysłowa wizja maszynowa, prototypowanie systemów ADAS
NXP FRDM-MCXN947	Dual Cortex-M33	Instrukcje DSP klasy NPU	<1 W	TinyML, wykrywanie anomalii, czujniki IoT
NXP FRDM-IMX93	Dual Cortex-A55 + Cortex-M33	Arm Ethos-U65 MicroNPU (0.5 TOPS)	2–5 W	Monitorowanie kierowcy, huby głosowe, bramy Edge AI
NXP SLN-VIZN3D-IOT	Mikrokontroler Cortex-M7	Wizja / pomiar głębi 3D + silnik bezpieczeństwa	<2 W	Bezpieczne uwierzytelnianie twarzy
NXP SLN-SVUI-IOT	Mikrokontroler Cortex-M7	Lokalny silnik rozpoznawania głosu / słów kluczowych	<2 W	Słowo wybudzające + głosowy interfejs użytkownika
NXP SLN-TLHMI-IOT	Mikrokontroler Cortex-M7	Fuzja wizji i dźwięku	<2 W	Bezdotykowy interfejs HMI (gesty + głos + twarz)
ST STM32N6570-DK	Dual Cortex-A35 + Cortex-M33	GPU/NEON dla ML ops	1–3 W	Inteligentne HMI, ML dla audio, niskoenergetyczne rozwiązania brzegowe
ST STM32MP257F-DK	Dual Cortex-A35 + Cortex-M33	Zintegrowane NPU (~0,5 TOPS)	3–6 W	Linuksowe struktury programistyczne AI, automatyka przemysłowa
ST STEVAL-BFA001V2B	Mikrokontroler Cortex-M4	ML na ścieżce przetwarzania fuzji czujników	<1 W	Predykcyjne utrzymanie ruchu, monitorowanie drgań
Analog Devices MAX78000EVKIT	Mikrokontroler Arm Cortex-M4F	Akcelerator CNN (AI przy poborze rzędu µW)	<0,5 W	Wykrywanie słów kluczowych, rozpoznawanie twarzy w urządzeniach noszonych
Analog Devices MAXREFDES178#	SoC MAX78000	CNN + DSP audio	<0,5 W	Referencyjny projekt audio + wizja
Raspberry Pi 5	Quad Cortex-A76 2.4GHz	Broadcom VideoCore VII GPU; opcjonalnie Coral TPU	5–15 W	Robotyka, nadzór, inteligentne kamery
Moduł obliczeniowy Raspberry Pi Compute Module 5	Takie same parametry jak Pi 5	Obsługa zewnętrznych akceleratorów (TPU/Myriad X)	Konfigurowalne 5–15 W	Projekty produkcyjne w systemach wbudowanych
Arduino Portenta H7/X8	Dual Cortex-M7 + M4 (H7) lub Linux MPU (X8)	TensorFlow Lite Micro + HW DSP	<2 W	IoT AI, inteligentne bramy
Arduino Nicla Sense ME	Mikrokontroler Cortex-M4F	Fuzja czujników + ML w rozwiązaniach brzegowych	<0,5 W	Monitorowanie środowiska, konserwacja predykcyjna

Dlaczego te zestawy mają znaczenie

Niezależnie od dostawcy, te zestawy rozwojowe mają wspólne elementy ułatwiające pracę inżynierom:

Wstępnie zoptymalizowane modele rozpoznawania twarzy, wykrywanie słów kluczowych i wykrywania anomalii.
Łańcuchy narzędzi optymalizacji modeli: kwantyzacja, przycinanie oraz czasy inferencji w obliczeniach INT8/FP16.
Interfejsy przygotowane do obsługi peryferiów: wejścia kamer, układy wejściowe audio, stosy wieloczujnikowe.
Spójność z ekosystemem: TensorFlow Lite, PyTorch Mobile, środowiska wykonawcze ONNX oraz specyficzne dla dostawców zestawy SDK (odpowiedniki OpenVINO, Ethos-U, DRP-AI).

Ten ekosystem ułatwia projektantom elektroniki przekuwanie złożonych technologii w rozwiązania gotowe do wdrożenia, ograniczając trudności po stronie deweloperów i przyspieszając wprowadzanie produktów na rynek.

Zastosowania branżowe

Podsumowanie

Przejście od podejścia „cloud-first” do lokalizowanej Edge AI zmienia sposób projektowania systemów wbudowanych. Dla projektantów elektroniki kluczowym wyzwaniem jest znalezienie równowagi między wydajnością, poborem mocy i kosztem w rzeczywistych wdrożeniach.

Właśnie tutaj zestawy rozwojowe i platformy referencyjne ukierunkowane na AI przekładają się na konkretne efekty. Ukrywają złożoność sprzętową, dostarczają zoptymalizowane stosy programowe oraz przetestowane przypadki użycia, co pozwala inżynierom szybciej przechodzić od koncepcji do produktu gotowego do wdrożenia.

Farnell, jako wiodący globalny dystrybutor elektroniki, oferuje wszystkie te zestawy i wiele innych, wraz z dokumentacją techniczną, zasobami projektowymi i notami aplikacyjnymi, co upraszcza i usprawnia pracę inżynierów. Rewolucja sprzętowa ma miejsce już teraz, a celem firmy Farnell jest przyspieszenie procesu uczenia i ułatwienie inżynierom przekształcania koncepcji AI w rzeczywiste projekty. Na brzegu innowacji nie chodzi tylko o to, co potrafi AI, lecz o to, co ty możesz zrobić z AI.

AI Hub:

AI Hub: Poznaj najnowsze trendy, ostatnie nowości produktowe oraz osiągnięcia i analizy w obszarze AI

Publikacja:

Dziennik e-TechJournal:Wkrocz w przyszłość!!Przekształcanie Twoich wizji w rzeczywistość dzięki nowym technologiom AI