Komputer edge AI – jak wybrać komputer przemysłowy do AI

Co to jest edge computing?

Edge computing, czyli przetwarzanie brzegowe, oznacza obróbkę danych tam, gdzie powstają – w komputerze przy maszynie, w pojeździe lub w szafie w terenie – zamiast w centrum danych czy w chmurze. Komputer brzegowy przekazuje dalej tylko wynik: alarm, wartość pomiarową lub zdjęcie tego, co odbiegało od normy.

• Szybka reakcja – decyzja zapada przy maszynie, np. gdy wadliwy produkt trzeba usunąć z przenośnika.
• Mniejszy ruch danych – dziesięć kamer przesyłających obraz przez 4G to spory koszt, a alarm z pojedynczym zdjęciem zajmuje niewiele.
• Praca offline – system działa dalej w kopalni, na statku czy w tunelu.
• Ochrona danych – obrazy osób i wrażliwe dane produkcyjne nie muszą opuszczać zakładu, co ułatwia zgodność z RODO.

Chmura często nadal jest potrzebna. Typowe rozwiązanie polega na tym, że model trenuje się na wydajnym serwerze lub w chmurze, a uruchamia lokalnie.

Gdzie stosuje się AI na brzegu sieci?

• Fabryki – systemy wizyjne i kontrola jakości, które wykrywają rysy, brakujące elementy i błędne etykiety przy pełnej prędkości linii, także tam, gdzie sztywne reguły nie wystarczają.
• Konserwacja predykcyjna – analiza drgań, prądu i temperatury, która ostrzega, zanim łożysko ulegnie awarii.
• Ruch drogowy i bezpieczeństwo – zliczanie pojazdów, odczyt tablic rejestracyjnych i wykrywanie wtargnięć na terenie podstacji i w tunelach.
• Pojazdy, energetyka i medycyna – kamery wokół maszyn górniczych i leśnych, inspekcja farm fotowoltaicznych i analiza obrazów USG.

Jakiej mocy obliczeniowej potrzeba?

Modele AI działają znacznie szybciej na jednostkach przetwarzania równoległego, takich jak GPU czy NPU (neural processing unit), niż na zwykłym rdzeniu CPU.

Moduły Jetson występują w trzech wielkościach: Orin Nano, Orin NX i AGX Orin. NVIDIA podaje od kilkudziesięciu TOPS dla Orin Nano do 275 TOPS dla największego modułu AGX Orin, przy poborze mocy od ok. 7 do 60 W.

Co w praktyce oznacza TOPS?

TOPS (tera operations per second) określa, ile bilionów prostych operacji układ może wykonać w ciągu sekundy, zwykle na 8-bitowych liczbach całkowitych (INT8). To teoretyczne maksimum, a producenci liczą je różnie. Niektórzy zakładają obliczenia na macierzach rzadkich (sparsity), co może podwoić wynik, a inni sumują CPU, GPU i NPU.

Liczy się to, ile klatek na sekundę model osiąga w wymaganej rozdzielczości i z jakim opóźnieniem. Dlatego model warto przetestować na własnych obrazach na zestawie deweloperskim lub egzemplarzu testowym i dodać zapas na kolejne kamery.

Kwantyzacja, czyli konwersja modelu z 32-bitowych liczb zmiennoprzecinkowych na 8-bitowe liczby całkowite, często daje kilkukrotny wzrost szybkości przy niewielkiej utracie dokładności. NVIDIA TensorRT i Intel OpenVINO robią to automatycznie.

Kamery, PoE i chłodzenie

Najczęściej wybiera się kamery IP lub GigE Vision z PoE, w których jeden kabel przesyła zarówno dane, jak i zasilanie. PoE według IEEE 802.3af dostarcza do 15,4 W na port, a PoE+ (802.3at) do 30 W, ale całkowity budżet mocy komputera może być mniejszy niż suma portów. W pojazdach i robotach często stosuje się kamery GMSL z kablem koncentrycznym i złączami FAKRA, które są odporne na drgania.

Obliczenia AI wytwarzają ciepło. Bezwentylatorowy komputer Jetson oddaje ciepło przez obudowę, natomiast komputer z wydajną kartą graficzną potrzebuje wentylatorów i dużego zasilacza. W wysokiej temperaturze spada częstotliwość taktowania, a wraz z nią liczba klatek na sekundę. Testy należy prowadzić w najwyższej temperaturze, w jakiej komputer ma pracować. Chłodzenie bezwentylatorowe i zasilanie opisujemy w naszym poradniku o komputerach przemysłowych.

Oprogramowanie, zdalne zarządzanie i cykl życia

Platformę programową warto wybrać przed sprzętem. NVIDIA Jetson działa z JetPack – pakietem oprogramowania NVIDIA z Jetson Linux (opartym na Ubuntu), CUDA i TensorRT. Komputery z procesorami Intel często korzystają z OpenVINO i mogą pracować zarówno pod Windows, jak i pod Linuksem.

Kontenery, np. Docker, ułatwiają wymianę modelu bez ingerencji w system operacyjny. Przy wielu komputerach w terenie potrzebne jest zdalne zarządzanie aktualizacjami i monitorowaniem. Należy też zaplanować bezpieczeństwo: secure boot, TPM i segmentację sieci zgodnie z IEC 62443.

Sprzęt AI rozwija się szybko, a maszyna jest sprzedawana przez wiele lat. NVIDIA podaje, że moduły Jetson Orin będą dostępne do stycznia 2032 r., a przemysłowy moduł AGX Orin do lipca 2033 r. Warto też zapytać, jak długo dostępny będzie konkretny model komputera.

Pięć częstych błędów

1. Wybór na podstawie TOPS. Ta liczba niewiele mówi o tym, jak sprawdzi się konkretny model. Trzeba go przetestować na własnych obrazach.
2. Za mały budżet PoE. Kamery działają na stole, ale restartują się w nocy, gdy włącza się oświetlenie podczerwone.
3. Za mało obrazów treningowych. Nowe oświetlenie, zabrudzenia i nowe warianty produktów obniżają dokładność. Trzeba zaplanować ponowne trenowanie.
4. AI jako funkcja bezpieczeństwa. Wykrywanie osób za pomocą kamery nie zastępuje certyfikowanych urządzeń bezpieczeństwa, takich jak kurtyny świetlne i laserowe skanery bezpieczeństwa.
5. Brak planu aktualizacji. Bez zdalnego zarządzania ktoś musi odwiedzić każdy komputer, aby zmienić model.

Komputery edge AI w ofercie SCN

Dostarczamy komputery AI marek takich jak AAEON, Winmate, Arbor Technology i Axiomtek – od kompaktowych komputerów Jetson z PoE po systemy z miejscem na pełnowymiarową kartę graficzną.

Przykłady z naszej oferty

Najczęściej zadawane pytania

Czym różni się edge computing od chmury?

W edge computingu dane są przetwarzane lokalnie, blisko maszyny. Brzeg sieci zapewnia szybszą reakcję i działa offline, a chmura sprawdza się w trenowaniu modeli i analizach obejmujących wiele lokalizacji.

Ile TOPS potrzeba?

To zależy od modelu, rozdzielczości i liczby kamer. Najlepiej przetestować model na zestawie deweloperskim, zmierzyć liczbę klatek na sekundę i wybrać komputer z pewnym zapasem.

Czy na NVIDIA Jetson można uruchomić Windows?

Nie. Jetson działa pod Linuksem w ramach pakietu oprogramowania NVIDIA JetPack. Do pracy z Windows trzeba wybrać komputer x86 z procesorem Intel, ewentualnie z kartą graficzną lub akceleratorem AI.

Czym różni się GPU od NPU?

GPU to elastyczny procesor równoległy do grafiki i AI. NPU jest zbudowany wyłącznie do obliczeń AI i zapewnia wysoką wydajność na wat, ale obsługuje mniej rodzajów modeli.