Stosowanie wbudowanych modułów SoM do obliczeń brzegowych w systemach HPEC
Stosowanie wbudowanych modułów SoM do obliczeń brzegowych w systemach HPEC
Dowiedz się, czym są moduły SoM i dlaczego warto stosować je do obliczeń brzegowych w systemach HPEC.
Jaka jest różnica między System on Chip i System on Module (SoM)?
System on Chip (SoC) to układ scalony, który w jednym czipie łączy funkcjonalność różnych komponentów, m.in. mikroprocesorów, interfejsów wejścia-wyjścia i akceleratorów sprzętowych. Układy SoC cechują się wysoką wydajnością, niskim poborem mocy oraz niewielkimi rozmiarami. Dzięki temu doskonale nadają się do wbudowanych systemów obliczeniowych wymagających dużej wydajności, ale jednocześnie mających ograniczenia SWaP-C, czyli ograniczenia dotyczące rozmiaru, wagi, poboru mocy i ceny.
System on Module (SoM) wykorzystuje podobną koncepcję, ale idzie z nią o krok dalej, integrując układ scalony SoC z innymi komponentami (m.in. pamięcią) i umieszczając je na płytce drukowanej, a następnie przekierowując wszystkie operacje wejścia wyjścia (I/O) do złącza o wysokiej prędkości. Choć układ SoM ma większe ograniczenia w zakresie rozmiarów, pozwala znacznie uprościć integrację. Poprawia również niezawodność całej konstrukcji, ponieważ producent czipów dokładnie sprawdza wszystkie połączenia.
Dlaczego układy SoM stosuje się w systemach HPEC?
Układy SoM, na których się skupimy, mają zazwyczaj potężne procesory CPU, GPU, silniki kodowania i dekodowania wideo oraz inne akceleratory sprzętowe (np. rdzenie Tensor). Dzięki temu są w stanie podołać wymagającym zadaniom takim jak przetwarzanie danych, uczenie głębokie (DL) czy akceleracja systemów wizyjnych, ale jednocześnie zajmują stosunkowo mało miejsca.
Największą zaletą układów SoM jest to, że oferują wszystkie powyższe możliwości w ramach pojedynczej jednostki sprzętowej. Umożliwia to optymalne wykorzystanie dzielonych magistrali oraz łatwiejszą integrację funkcji bezpieczeństwa, które zapewniają ochronę wrażliwych danych i zapobiegają nieupoważnionemu dostępowi. Ma to szczególnie duże znaczenie w systemach HPEC (High-Performance Embedded Computing), które mają ograniczenia SWaP-C, ale zarazem potrzebują wysokiej przepustowości do przetwarzania danych.
Mniejsze opóźnienia i większa przepustowość
Układy SoM mają zintegrowany kontroler pamięci dzielonej między poszczególnymi komponentami. Znacznie ogranicza to liczbę niepotrzebnych kopii i nie dopuszcza do tworzenia się wąskiego gardła na magistrali, co cechuje wiele rozwiązań z dwoma kartami korzystającymi z osobnych interfejsów pamięci.
Przykładowo rozwiązania z modułem GPU XMC i modułem SBC VPX wymagają przesyłania danych między kartami za pośrednictwem interfejsu PCIe. Na dodatek jednostka CPU musi ściśle nadzorować kopiowanie pamięci między modułami, co prowadzi do pogorszenia przepustowości i wydajności.
Używanie jednopłytkowego komputera 3U VPX z układem SoM zamiast rozwiązania z modułami XMC i VPX ma jeszcze inne zalety, m.in.:
Mniejsze rozmiary, waga i pobór mocy (SWaP): Jednopłytkowy komputer 3U VPX z układem SoM łączy funkcjonalność wielu kart w jednym kompaktowym rozwiązaniu. Pozwala więc ograniczyć rozmiary, wagę i pobór mocy całego systemu, dzięki czemu świetnie nadaje się do zastosowań wymagających niskich parametrów SWaP.
Wyższa wydajność: Dzięki zintegrowanym akceleratorom sprzętowym oraz dzielonej pamięci układy SoM zapewniają wyższą wydajność w przeliczeniu na wat niż moduły XMC i VPX.
Większa niezawodność: Jednopłytkowy komputer z układem SoM jest mniej podatny na usterki sprzętowe niż rozwiązania z dwoma kartami, ponieważ eliminuje połączenia, które stanowią potencjalne punkty awarii.
Łatwiejsza integracja: Jednopłytkowy komputer 3U VPX z układem SoM ułatwia integrację systemu, ponieważ zawiera mniej kart i komponentów wymagających instalacji w miejscu docelowym. W dłuższej perspektywie czasowej upraszcza również serwisowanie.
Poznaj moduł NVIDIA® Jetson AGX Orin
Moduł SoM NVIDIA Jetson AGX Orin ma procesor graficzny NVIDIA Ampere z 2048 rdzeniami CUDA oraz 64 rdzeniami Tensor. Taka architektura GPU zapewnia wydajność do 275 TOPS (bilionów operacji na sekundę), co umożliwia wnioskowanie w czasie rzeczywistym dla aplikacji sztucznej inteligencji.
Jetson AGX Orin zawiera 12 procesorów Arm Cortex-A78AE zaprojektowanych specjalnie z myślą o wysokowydajnych systemach wbudowanych. Pamięć o wysokiej przepustowości umożliwia sprawny transfer danych między jednostkami CPU, GPU i innymi.
Poza procesorem graficznym moduł Jetson AGX Orin zawiera także akceleratory sztucznej inteligencji (AI), w tym dwa silniki NVIDIA i dwa akceleratory wizyjne. Umożliwiają one efektywne korzystanie z modeli uczenia głębokiego oraz innych procesów AI. Jetson AGX Orin obsługuje również kodowanie i dekodowanie wideo z przyspieszeniem sprzętowym, w tym kodeki H.265 (HEVC) i H.264 (AVC). Dzięki temu może płynnie przetwarzać wideo, co jest niezbędne m.in. w monitoringu, przetwarzaniu danych z czujników czy pojazdach autonomicznych. Moduł Jetson AGX Orin oferuje różne interfejsy łączności, m.in. PCIe Gen4, Gigabit Ethernet, USB 3.2 i 10 GbE. Umożliwia to szybkie przesyłanie danych oraz komunikację między modułem SoM i innymi urządzeniami w systemie.
Podsumowując, NVIDIA Jetson AGX Orin to potężne i wydajne rozwiązanie do aplikacji sztucznej inteligencji i uczenia głębokiego. Oferuje wysokowydajne jednostki GPU i CPU, pamięć o wysokiej przepustowości, akceleratory AI oraz różnorodne opcje łączności.
Jednopłytkowy komputer EIZO z modułem NVIDIA Jetson AGX Orin

Mając na uwadze aplikacje C5ISR wymagające obliczeń brzegowych, EIZO stworzyło Condor AGX-IOX: jednopłytkowy komputer 3U VPX przeznaczony do wzmacnianych systemów wbudowanych (np. systemów wieloczujnikowych). Condor AGX-IOX obsługuje pamięć LPDDR5 o pojemności do 64 GB i przepustowości do 205 GB/s.
Jednopłytkowy komputer Condor AGX-IOX ma 64 GB wewnętrznej pamięci eMMC, interfejs 10GbE (Gigabit Ethernet) oraz szybkie porty wejścia-wyjścia, w tym USB 3.2, DisplayPort™ i szeregowy port RS-232. Jego modułowa konstrukcja jest zgodna zarówno ze standardem VITA 46/65, jak i ze standardem SOSA™ (profil 14.2.16). Dzięki umieszczeniu jednostek CPU i GPU w jednym module Condor AGX-IOX ma optymalny współczynnik SWaP (rozmiary, waga i pobór mocy) oraz lepszą wydajność w przeliczeniu na wat. W efekcie poprawia prędkość i wydajność przetwarzania danych w systemach wieloczujnikowych, umożliwiając wykrywanie i analizę sygnałów w czasie rzeczywistym.
EIZO Rugged Solutions projektuje i produkuje wzmocniony, wysokowydajny sprzęt HPEC z modułami NVIDIA® Jetson™. Są to rozwiązania przeznaczone do zastosowań wymagających intensywnego przetwarzania brzegowego, takich jak wywiad elektromagnetyczny (SIGINT), walka elektroniczna (EW) i inne brzegowe aplikacje C5ISR. Moduły przetwarzające stosowane w systemach HPEC muszą radzić sobie z dużą ilością danych i przeprowadzać złożone obliczenia w czasie rzeczywistym, umożliwiając szybkie podejmowanie decyzji.