Edge computing og AI – sådan vælger du industri-PC

Hvad er edge computing?

Edge computing betyder, at data behandles der, hvor de opstår – i en computer ved maskinen, i køretøjet eller i et elskab ude i marken – i stedet for i et datacenter eller i skyen. Computeren ved kanten (edge) sender kun resultatet videre: en alarm, en måleværdi eller et billede af det, der afveg.

• Kort svartid – beslutningen træffes direkte ved maskinen, for eksempel når et defekt emne skal sorteres fra transportbåndet.
• Mindre datatrafik – ti kameraer over 4G bliver dyrt, men en alarm med et stillbillede fylder ikke meget.
• Drift uden forbindelse – systemet virker også i en mine, på et skib eller i en tunnel.
• Databeskyttelse – billeder af personer og følsomme produktionsdata behøver ikke at forlade anlægget, hvilket gør arbejdet med GDPR lettere.

Skyen er ofte stadig nødvendig. Den typiske opdeling er at træne modellen på en kraftig server eller i skyen og køre den lokalt.

Hvor bruges AI ved kanten?

• Fabrik – machine vision og kvalitetskontrol, der finder ridser, manglende komponenter og forkerte etiketter ved fuld linjehastighed, også hvor faste regler ikke slår til.
• Prædiktiv vedligeholdelse – analyse af vibration, strøm og temperatur, der advarer, før et leje går i stykker.
• Trafik og sikkerhed – tælle køretøjer, læse nummerplader og opdage indtrængen ved koblingsstationer og tunneler.
• Køretøjer, energi og sundhed – kameraer rundt om mine- og skovmaskiner, inspektion af solcelleparker og billedanalyse ved ultralyd.

Hvor meget regnekraft har du brug for?

AI-modeller kører meget hurtigere på parallelle regneenheder som GPU og NPU (neural processing unit) end på en almindelig processorkerne.

Jetson-modulerne findes i tre størrelser: Orin Nano, Orin NX og AGX Orin. NVIDIA angiver alt fra nogle få titals TOPS for Orin Nano til 275 TOPS for det største AGX Orin-modul, med et effektforbrug på cirka 7 til 60 W.

Hvad betyder TOPS i praksis?

TOPS (tera operations per second) angiver, hvor mange billioner simple regneoperationer kredsen klarer i sekundet, oftest med 8-bit heltal (INT8). Det er en teoretisk maksimalværdi, og producenterne regner forskelligt. Nogle regner med sparsom beregning (sparsity), som kan fordoble tallet, og nogle lægger CPU, GPU og NPU sammen.

Det, der tæller, er, hvor mange billeder i sekundet din model klarer ved den opløsning, du har brug for, og med hvilken forsinkelse. Test derfor modellen med dine egne billeder på et udviklingskit eller en testcomputer, og læg margin på til flere kameraer.

Kvantisering, altså at regne modellen om fra 32-bit flydende tal til 8-bit heltal, giver ofte flere gange højere hastighed med et lille tab i præcision. NVIDIA TensorRT og Intel OpenVINO klarer det for dig.

Kameraer, PoE og køling

Mest udbredt er IP- eller GigE Vision-kameraer med PoE, hvor det samme kabel leverer både data og strøm. PoE efter IEEE 802.3af giver op til 15,4 W pr. port og PoE+ (802.3at) op til 30 W, men computerens samlede effektbudget kan være lavere end summen af portene. I køretøjer og robotter bruges ofte GMSL-kameraer med koaksialkabel og FAKRA-stik, som tåler vibrationer.

AI-beregninger udvikler varme. En blæserløs Jetson-computer køles gennem kabinettet, mens en computer med et kraftigt grafikkort har brug for blæsere og en stor strømforsyning. Ved høj temperatur sænkes clockfrekvensen, og så falder antallet af billeder i sekundet. Test ved den højeste temperatur, computeren skal klare. Du kan læse mere om blæserløs køling og strømforsyning i vores guide om industri-PC’er.

Software, fjernadministration og livscyklus

Vælg softwareplatform før hardware. NVIDIA Jetson kører med JetPack, NVIDIA’s softwarepakke med Jetson Linux (baseret på Ubuntu), CUDA og TensorRT. Computere med Intel-processorer bruger ofte OpenVINO og kan køre både Windows og Linux.

Containere, for eksempel Docker, gør det nemt at skifte model uden at røre styresystemet. Med mange computere ude i marken er der brug for fjernadministration til opdateringer og overvågning. Planlæg også sikkerheden: sikker opstart (secure boot), TPM og et segmenteret netværk efter IEC 62443.

AI-hardware udvikler sig hurtigt, men en maskine sælges i mange år. NVIDIA oplyser, at Jetson Orin-modulerne er tilgængelige til januar 2032 og det industrielle AGX Orin-modul til juli 2033. Spørg også, hvor længe netop din computermodel leveres.

Fem almindelige fejl

1. Man vælger efter TOPS. Tallet siger ikke meget om, hvordan din model klarer sig. Test med dine egne billeder.
2. Effektbudgettet til PoE rækker ikke. Kameraerne virker på skrivebordet, men genstarter, når IR-belysningen tænder om natten.
3. For få billeder i træningen. Ny belysning, snavs og nye produktvarianter sænker præcisionen. Planlæg at træne modellen igen.
4. AI bruges som sikkerhedsfunktion. Persondetektering med kamera erstatter ikke certificerede sikkerhedsanordninger som lysgitre og sikkerhedsscannere.
5. Ingen plan for opdateringer. Uden fjernadministration skal nogen køre ud til hver computer for at skifte model.

Edge AI-computere hos SCN

Vi har AI-computere fra blandt andre AAEON, Winmate, Arbor Technology og Axiomtek – fra kompakte Jetson-computere med PoE til computere med plads til grafikkort i fuld størrelse.

Eksempler fra vores sortiment

Ofte stillede spørgsmål

Hvad er forskellen på edge computing og skyen?

Med edge computing behandles data lokalt, tæt på maskinen. Edge giver kortere svartid og virker uden forbindelse, mens skyen egner sig til træning og analyse på tværs af mange anlæg.

Hvor mange TOPS har jeg brug for?

Det afhænger af model, opløsning og antal kameraer. Test din model på et udviklingskit, mål billeder i sekundet, og vælg en computer med margin.

Kan NVIDIA Jetson køre Windows?

Nej. Jetson kører Linux via NVIDIA’s softwarepakke JetPack. Har du brug for Windows, vælger du en x86-computer med Intel-processor, eventuelt med grafikkort eller AI-accelerator.

Hvad er forskellen på GPU og NPU?

En GPU er en fleksibel parallelprocessor til grafik og AI. En NPU er bygget udelukkende til AI-beregninger og giver høj ydelse pr. watt, men understøtter færre typer modeller.