Edge computing og AI – slik velger du industri-PC

Hva er edge computing?

Edge computing betyr at data behandles der de oppstår – i en datamaskin ved maskinen, i kjøretøyet eller i et koblingsskap ute i felt – i stedet for i et datasenter eller i skyen. Datamaskinen ute i kanten (edge) sender bare videre resultatet: en alarm, en måleverdi eller et bilde av det som avvek.

• Kort responstid – beslutningen tas direkte ved maskinen, for eksempel når et feilaktig produkt skal sorteres ut fra transportbåndet.
• Mindre datatrafikk – ti kameraer over 4G blir dyrt, men en alarm med et stillbilde er lite.
• Drift uten nettilgang – systemet fungerer også i en gruve, på et skip eller i en tunnel.
• Personvern – bilder av personer og sensitive produksjonsdata trenger ikke å forlate anlegget, noe som gjør arbeidet med GDPR enklere.

Skyen trengs ofte likevel. Det vanlige oppsettet er å trene modellen på en kraftig server eller i skyen og kjøre den lokalt.

Hvor brukes AI i kanten?

• Fabrikk – maskinsyn og kvalitetskontroll som oppdager riper, manglende komponenter og feil etiketter i full linjehastighet, også der faste regler ikke strekker til.
• Prediktivt vedlikehold – analyse av vibrasjon, strøm og temperatur som varsler før et lager havarerer.
• Trafikk og sikkerhet – telle kjøretøy, lese skilt og oppdage inntrenging ved koblingsanlegg og tunneler.
• Kjøretøy, energi og helse – kameraer rundt gruve- og skogsmaskiner, inspeksjon av solcelleparker og bildeanalyse ved ultralyd.

Hvor mye regnekraft trenger du?

AI-modeller går mye raskere på parallelle regneenheter som GPU og NPU (neural processing unit) enn på en vanlig prosessorkjerne.

Jetson-modulene finnes i tre størrelser: Orin Nano, Orin NX og AGX Orin. NVIDIA oppgir alt fra noen titalls TOPS for Orin Nano til 275 TOPS for den største AGX Orin-modulen, med en effekt på omtrent 7 til 60 W.

Hva betyr TOPS i praksis?

TOPS (tera operations per second) angir hvor mange billioner enkle regneoperasjoner brikken klarer per sekund, som regel med 8-bits heltall (INT8). Det er en teoretisk maksverdi, og produsentene regner ulikt. Noen regner med glissen beregning (sparsity), som kan doble tallet, og noen legger sammen CPU, GPU og NPU.

Det som teller, er hvor mange bilder per sekund modellen din klarer ved den oppløsningen du trenger, og med hvilken forsinkelse. Test derfor modellen med egne bilder på et utviklingskit eller en prøvemaskin, og legg inn margin for flere kameraer.

Kvantisering, det vil si å regne om modellen fra 32-bits flyttall til 8-bits heltall, gir ofte flere ganger høyere hastighet med lite tap av nøyaktighet. NVIDIA TensorRT og Intel OpenVINO gjør dette for deg.

Kameraer, PoE og kjøling

Vanligst er IP- eller GigE Vision-kameraer med PoE, der den samme kabelen gir både data og strøm. PoE etter IEEE 802.3af gir opptil 15,4 W per port og PoE+ (802.3at) opptil 30 W, men datamaskinens samlede effektbudsjett kan være lavere enn summen av portene. I kjøretøy og roboter brukes ofte GMSL-kameraer med koaksialkabel og FAKRA-kontakter, som tåler vibrasjoner.

AI-beregninger gir varme. En vifteløs Jetson-datamaskin kjøles gjennom chassiset, mens en datamaskin med kraftig grafikkort trenger vifter og en stor strømforsyning. Ved høy temperatur senkes klokkefrekvensen, og da synker antall bilder per sekund. Test ved den høyeste temperaturen datamaskinen skal tåle. Mer om vifteløs kjøling og strømforsyning finner du i guiden vår om industri-PC-er.

Programvare, fjernadministrasjon og livssyklus

Velg programvareplattform før maskinvare. NVIDIA Jetson kjøres med JetPack, NVIDIAs programvarepakke med Jetson Linux (basert på Ubuntu), CUDA og TensorRT. Datamaskiner med Intel-prosessorer bruker ofte OpenVINO og kan kjøre både Windows og Linux.

Containere, for eksempel Docker, gjør det enkelt å bytte modell uten å røre operativsystemet. Med mange datamaskiner ute i felt trenger du fjernadministrasjon for oppdateringer og overvåking. Planlegg også sikkerheten: sikker oppstart (secure boot), TPM og et segmentert nettverk etter IEC 62443.

AI-maskinvare utvikler seg raskt, men en maskin selges i mange år. NVIDIA oppgir at Jetson Orin-modulene er tilgjengelige til januar 2032 og den industrielle AGX Orin-modulen til juli 2033. Spør også hvor lenge akkurat din datamaskinmodell leveres.

Fem vanlige feil

1. Man velger etter TOPS. Tallet sier lite om hvordan modellen din yter. Test med egne bilder.
2. Effektbudsjettet for PoE strekker ikke til. Kameraene fungerer på pulten, men starter på nytt når IR-belysningen slås på om natten.
3. For få bilder i treningen. Ny belysning, smuss og nye produktvarianter gir lavere nøyaktighet. Planlegg for ny trening.
4. AI brukes som sikkerhetsfunksjon. Persondeteksjon med kamera erstatter ikke sertifiserte sikkerhetsinnretninger som lysgardiner og sikkerhetslaserskannere.
5. Ingen plan for oppdateringer. Uten fjernadministrasjon må noen reise ut til hver datamaskin for å bytte modell.

Edge AI-datamaskiner hos SCN

Vi har AI-datamaskiner fra blant andre AAEON, Winmate, Arbor Technology og Axiomtek – fra kompakte Jetson-datamaskiner med PoE til datamaskiner med plass til grafikkort i full størrelse.

Eksempler fra vårt sortiment

Vanlige spørsmål

Hva er forskjellen på edge computing og skyen?

Med edge computing behandles data lokalt, nær maskinen. Edge gir kortere responstid og fungerer uten nettilgang, mens skyen passer for trening og analyse på tvers av mange anlegg.

Hvor mange TOPS trenger jeg?

Det avhenger av modell, oppløsning og antall kameraer. Test modellen din på et utviklingskit, mål bilder per sekund og velg en datamaskin med margin.

Kan NVIDIA Jetson kjøre Windows?

Nei. Jetson kjører Linux via NVIDIAs programvarepakke JetPack. Trenger du Windows, velger du en x86-datamaskin med Intel-prosessor, eventuelt med grafikkort eller AI-akselerator.

Hva er forskjellen på GPU og NPU?

En GPU er en fleksibel parallellprosessor for grafikk og AI. En NPU er bygd kun for AI-beregninger og gir høy ytelse per watt, men støtter færre typer modeller.