NVIDIA Jetson: Arkitektur, arbeid og applikasjoner

Prøv Instrumentet Vårt For Å Eliminere Problemer





Den ledende plattformen i verden som NVIDIA Jetson er en sekvens av innebygde datakort som hovedsakelig brukes i autonome maskiner og andre innebygde applikasjoner . Dette kortet inneholder hovedsakelig Jetson-moduler, som er datamaskiner med høy ytelse. Jetson er godt egnet med lignende AI-programvare og en skybasert arbeidsflyt som brukes på tvers av andre NVIDIA-plattformer og gir strømeffektiv ytelse for kunder for å bygge programvarebaserte autonome maskiner. NVIDIA Jetson brukes til datasynsapplikasjoner. Så, denne artikkelen diskuterer en oversikt over NVIDIA Jetson – arbeid og dets applikasjoner.


Hva er NVIDIA Jetson?

NVIDIA Jetson er en avansert innebyggingssystem brett som brukes til å lage innovative AI-produkter på tvers av flere bransjer. NVIDIA Jetson er en av de ledende maskinvareplattformene som er veldig nyttig for teknologientusiaster og også studenter for å få praktisk erfaring gjennom en rekke innovative AI-prosjekter. Dette kortet er et veldig effektivt brett for AI som inkluderer modulære datamaskiner med liten formfaktor og høy ytelse. I tillegg inneholder dette brettet også JetPack SDK som brukes til programvareakselerasjon samt et komplett økosystem for å hjelpe til med å øke utviklingsprosedyren for tilpassede AI-prosjekter.



  NVIDIA Jetson-modul
NVIDIA Jetson-modul

NVIDIA Jetson-arkitektur

Vi vet at Nvidia Jetson-modulen fra Nvidia er en sekvens av innebygde datakort. Alle modellene til Jetson TX1, TX2 og TK1 har en SoC- eller Tegra-prosessor fra Nvidia som har en ARM-arkitektur CPU. Her er Jetson et laveffektsystem hovedsakelig designet for å akselerere maskinlæringsapplikasjoner.

NVIDIA Jetson Xavier NX-arkitekturen er vist nedenfor. Det er den mest avanserte og lille AI-superdatamaskinen som brukes for edge computing-enheter også autonom robotikk . Denne modulen har kapasitet til å distribuere ytelse i serverklasse innenfor en solid formfaktor på 70x45 mm og gir også opptil 21 TOPS med data under 15W strøm, ellers opptil 14 TOPS data under 10W.



  NVIDIA Jetson Xavier NX-arkitektur
NVIDIA Jetson Xavier NX-arkitektur

Diagrammet ovenfor inneholder en integrert 384-kjerners NVIDIA Volta GPU inkludert en 6-kjerners NVIDIA Carmel ARMv8.2 64-bit CPU, 48 Tensor Cores, 8GB 128-bit LPDDR4x, 4K videokodere og dekodere, doble NVDLA (NVIDIA Deep Learning Accelerator)-motorer, kamera for opptil seks øyeblikkelige høyoppløsninger sensorstrømmer, dobbel skjermport eller HDMI 4K-skjermer, PCIe Generation 3-utvidelse, USB 3.1 og GPIO-er med I2C, SPI, I2S, UART og CAN-buss.

Spesifikasjonene til NVIDIA Jetson inkluderer følgende.

  PCBWay
  • Strøm er 10W eller 15W modus og 5V inngang.
  • CPU er 6-kjerners NVIDIA Carmel 64-bit ARMv 8.2 ved 1400MHz.
  • GPU er 384-kjerners NVIDIA Volta ved 1100MHz til 48 tensorkjerner.
  • DL er Dual NVDLA-motorer.
  • Minnet er 8 GB 128-bit LPDDR4x ved 1600 MHz.
  • 16 GB eMMC 5.1-lagring.
  • Kameraet er 12x MIPI CSI-2 baner | 3×4 eller 6×2 kameraer.
  • Opptil 6 kameraer (36 via virtuelle kanaler).
  • Termisk temperatur fra -25°C til 90°C.
  • Skjermen er DP 1.4 eller eDP 1.4 eller HDMI 2.0 a/b ved 4Kp60.
  • Ethernet er 10 eller 100 eller 1000 BASE-T Ethernet.
  • USB 3.1 og USB 2.0.

Denne modulen støttes av hele CUDA-X-programvarestabelen til NVIDIA og også JetPack SDK for AI-utvikling. Den kjører veldig populære maskinlæringsrammer og vanskelige DNN-er på flere høyoppløselige sensorstrømmer samtidig, i tillegg til sanntids datasyn, grafikk og multimediaapplikasjoner i et komplett desktop Linux-miljø.

For tiden begynte utviklere å designe AI-applikasjoner for Jetson Xavier NX ved hjelp av Jetson AGX Xavier Developer Kit. Ved å bruke en enhetsmønsterlapp i nærheten av JetPack vil enheten fungere som en Jetson Xavier NX. Dette vil endre antall GPU- og CPU-kjerner som kan oppnås gjennom programvare og stille inn klokkefrekvenser samt spenninger til kjerner over hele systemet.

Patchen er fullstendig reversibel som brukes til å tilnærme Jetson Xavier NX-ytelsen. Denne modulen vil klassifisere standard strømmoduser på 10W og 15W og oppnår mellom 14 og 21 TOPS toppytelse basert på den aktive modusen. nvpmodel-verktøyet brukes til å håndtere strømprofiler for å justere de høyeste CLK-frekvensene for GPU, CPU, diverse SoC-klokker og minnekontroller sammen med de forskjellige CPU-klyngene.

Basert på arbeidsbelastningen, balanserer DVFS-regulatoren (Dynamic Voltage & Frequency Scaling) frekvensene på kjøretid opp til de høyeste grensene som beskrevet av den aktive nvp-modellen, og dermed reduseres strømutnyttelsen ved tomgang og basert på prosessordrift. nvpmodel-verktøyet hjelper til med å lage og endre nye strømmoduser basert på TDP og applikasjonskrav.

NVIDIA Jetson-modulen bringer ytelsen til superdatamaskinen til kanten innenfor en liten formfaktor SOM (system-on-modul). Lik 21 TOPS av akselerert databehandling sender hestekreftene til å kjøre nåværende nevrale nettverk parallelt og behandle data fra forskjellige høyoppløselige sensorer. Denne modulen er ideell for høyytelsesbaserte AI-systemer som medisinske instrumenter, kommersielle roboter, AIoT innebygde systemer, smarte kameraer, automatisert optisk inspeksjon, høyoppløselige sensorer, smarte fabrikker, etc.

Programvare

NVIDIA Jetson-modulen støttes ganske enkelt gjennom kombinerte programvarearkitekturer slik at den vil gjøre programvareutviklere til å jobbe mye enklere. Denne kombinerte tilnærmingen sparer ganske enkelt utviklerne for bryet med repeterende koding mens de forbedrer formasjonene deres på andre Jetson-moduler.

NVIDIA JetPack SDK er tilgjengelig med et Linux OS, CUDA-X akselererte biblioteker og APIer for forskjellige maskinlæringsfelt som datasyn, dyp læring osv. Den støtter også maskinlæringsrammeverk som Caffe, TensorFlow, Keras og OpenCV datasyn. biblioteker.
NVIDIA Jetson tilbyr forskjellige programvareverktøy for modulene sine, som diskuteres nedenfor.

NVIDIA JetPack SDK

Jetson-plattformprogramvarepakker som TensorRT, CUDA Toolkit, cuDNN, GStreamer, OpenCV og Visionworks er alle satt sammen på toppen av L4T gjennom LTS Linux-kjernen.

NVIDIA Jetson Linux-driverpakke

Den gir Linux-kjernen, NVIDIA-drivere, bootloader, eksempelfilsystem, blinkende verktøy og mange flere for plattformen Jetson.

NVIDIA DeepStream SDK

Det er et sett med APIer og biblioteker for å hjelpe utviklere med å designe og arrangere sterke IVA-løsninger (intelligent video analytics) på Jetson-plattformen. Den brukes til å bygge komplekse applikasjoner som koding, bildefangst, dekoding, inferens med TensorRT, etc.

NVIDIA Isaac SDK

Det er et sett med biblioteker, APIer, drivere og andre verktøy som vil legge til AI til neste generasjons roboter for navigasjon, persepsjon og manipulasjon. Så det hjelper med å lage og distribuere AI-drevet robotikk.

NVIDIA Jetson-typer

NVIDIA Jetson-modulen kommer med minne, GPU, CPU, høyhastighetsgrensesnitt, strømstyring osv. Disse modulene er tilgjengelige i forskjellige ytelser, strømeffektivitet og variasjoner av formfaktorer for å gjøre dem utnyttet på tvers av ulike bransjer. Det er forskjellige NVIDIA Jetson-enheter tilgjengelig som er omtalt nedenfor.

NVIDIA Jetson Nano

NVIDIA Jetson Nano-modulen er egnet for utviklere eller studenter og også for nybegynnere fordi den hovedsakelig er designet for praktisk læring og undervisning. Størrelsen på denne modulen er liten, men dens strømeffektivitet og ytelse er høy for å gjøre den perfekt til å kjøre nåværende flere parallelle nevrale nettverk, AI-arbeidsbelastninger og databehandling fra høyoppløselige sensorer på en gang. Dermed er Jetson Nano-modulen en veldig populær kantenhet som brukes til å lage innebygde AI-produkter og -løsninger.

  NVIDIA Jetson Nano
NVIDIA Jetson Nano

Denne modulen er perfekt for AI-baserte datasynsapplikasjoner og den utfører AI-synoppgaver som objektgjenkjenning, bildesegmentering, bildeklassifisering, etc. Denne modulen er svært kompatibel med åpen kildekode datasynsprogramvare og OpenCV maskinlæringsbiblioteker.

NVIDIA Jetson TX2-serien

NVIDIA Jetson TX2 Series-modulen er designet i en kredittkortstørrelse. Funksjonene til denne modulen inkluderer hovedsakelig en NVIDIA Pascal GPU, opptil 8 GB minne, 59,7 GB/s minnebåndbredde og standard maskinvaregrensesnitt. Denne modulen gir ytelse opptil 2,5 ganger sammenlignet med NVIDIA Jetson Nano-modulen.

Denne modulen kjører svært effektivt dype nevrale nettverk på kantenheter for å oppnå høyere nøyaktighet. Modulene som er tilgjengelige i serien inkluderer hovedsakelig Jetson TX2 4GB, Jetson TX2i, Jetson TX2 og Jetson TX2 NX. NVIDIA Jetson TX2 NX-modulen deler ganske enkelt pin- og formfaktorkompatibilitet gjennom Jetson Xavier NX og Jetson Nano.

  NVIDIA Jetson TX2-serien
NVIDIA Jetson TX2-serien

De resterende tre modulene vil dele den originale Jetson TX2-modulens formfaktor. Bruken av TX2-serien spenner ganske enkelt i ulike bransjer som landbruk, produksjon, biovitenskap, detaljhandel osv. Jetson TX2i-modulen fra de resterende modulene er best egnet for høyytelses AI-enheter som medisinsk utstyr, maskinsynskameraer og industriroboter fordi av sin sterke design.

Denne modulen er en veldig rask innebygd AI-databehandlingsenhet som tilbyr høy effekteffektivitet som 7,5 W, superdatamaskinfunksjoner hovedsakelig for avanserte AI-enheter, og også forskjellige maskinvaregrensesnitt som enkelt kan integreres i forskjellige produkter og formfaktorer.

NVIDIA Jetson Xavier NX

NVIDIA Jetson Xavier NX-modulen er veldig liten sammenlignet med et kredittkort med høy ytelse og strømeffektivitet. Dette er også kjent som den minste AI-superdatamaskinen for kant- og innebygde systemer i verden. Denne modulen hjelper spesielt med å kjøre komplette AI-systemer.

  Xavier NX
Xavier NX

Funksjonene til Jetson Xavier NX støtter også skybaserte teknologier, så det er enkelt for utviklere å oppgradere og administrere AI-produkter. Denne modulen støtter alle populære AI-modeller og rammeverk. Så denne modulen passer fullstendig til høyytelses AI-systemer som smarte kameraer, AI-drevne høyoppløselige synssystemer, droner, kommersielle roboter eller medisinsk utstyr.

NVIDIA Jetson Xavier NX-modulen leverer 21 Tera-operasjoner per sekund eller TOPS for å kjøre en gjeldende AI-arbeidsbelastning ved å forbruke 10W strøm. Formfaktoren til denne modulen er mer kompakt sammenlignet med et kredittkort. Xavier NX-modulen kjører forskjellige nevrale nettverk samtidig og behandler data fra forskjellige høyoppløselige sensorer. Denne typen modul brukes til å designe applikasjoner for innebygde og edge-databehandlingsenheter som trenger høy ytelse, men med betydelige vekt-, størrelse- og strømbegrensninger.

NVIDIA Jetson AGX Xavier-serien

NVIDIA Jetson AGX Xavier Series-modulen er hovedsakelig utviklet for neste generasjons autonome intelligente maskiner. Denne modulen leverer opptil 32 TOPS- eller Tera-operasjoner per sekund med AI-ytelse ved bruk av så lite som 10 watt. Programvareutvikleren har rett og slett lov til å raskt ordne nevrale nettverk med et sett med AI-programvareverktøy fra NVIDIA.

  AGX Xavier-serien
AGX Xavier-serien

Denne modulen gir ulike spesifikasjoner og funksjonelle sikkerhetsfunksjoner slik at utviklere lager sikkerhets- eller industrisertifiserte produkter. Denne modulens høye ytelse kan gjøre dem passende for en rekke autonome maskiner som logistikk- og industriroboter, fabrikksystemer og store droner.

Jetson Xavier NX utviklersett

Jetson xavier nx-utviklersettet inkluderer en solid strømeffektiv Xavier NX-modul som brukes til AI-drevne kantenheter. Denne modulen har noen funksjoner som skybasert støtte og akselererer stabelen med NVIDIA-programvare på bare 10W med over 10 ganger ytelsen til Jetson TX2. Dette utviklersettet brukes av produsenter av intelligente maskiner, AI-startups og applikasjonsutviklere for å designe moderne produkter med kompakt, svært nøyaktig AI-slutning og krafteffektiv formfaktor.

  NX utviklersett
NX utviklersett

Jetson AGX Xavier Industrial

Jetson AGX Xavier Industrial-modulen er en del av AGX Xavier-serien. Utformingen av denne modulen er en pin-kompatibel formfaktor som kontrollerer de nyeste AI-modellene i krevende applikasjoner. Denne modulen gir utvidede vibrasjons-, sjokk-, temperaturspesifikasjoner, avanserte sikkerhetsfunksjoner, opptil 4 ganger minnet og 20 ganger ytelsen til TX2i-modulen.

  Xavier Industrial
Xavier Industrial

Denne modulen er svært nyttig for designere til å designe automatisering, robotikk og andre intelligente produkter. I tillegg designer den også sikkerhetssertifiserte og robuste produkter for å levere høy ytelse for industrielle, AI-innebygde funksjons- og sikkerhetsapplikasjoner i en design av robust og krafteffektiv formfaktor.

Fordeler

De fordelene med NVIDIA Jetson Inkluder følgende.

  • NVIDIA Jetson passer for studenter, individuelle utviklere og forskjellige organisasjoner.
  • Jetson-plattformen er veldig populær fordi den kommer med ulike fordeler som modulær fleksibilitet, enhetlig programvare og støtte for skybaserte teknologier.
  • Dette brettet gir et sett med moduler som er svært nyttige for alt fra grunnleggende AI-applikasjoner til svært komplekse AI-drevne enheter.
  • Dette brettet er kraftdrevet gjennom en enhetlig programvarearkitektur som hjelper utviklerne fra repeterende koding. Når de trenger AI/ML-kapasitet, kan de inkludere en relatert Jetson-modul til enheten og den tar seg av de tunge løftene.
  • NVIDIA Jetson-plattformen støtter ganske enkelt skybaserte teknologier og arbeidsflyter som orkestrering og containerisering, og gir utviklere muligheten til å utvikle raskt og utvide AI-produkter.
  • NVIDIA JetPack SDK er tilgjengelig med et Linux OS, APIer og CUDA-X akselerasjonsbiblioteker for en rekke maskinlæringsdomener som datasyn og dyp læring. Den gir også støtte for maskinlæringsrammeverk som Caffe og Keras, TensorFlow og OpenCV-biblioteker for datasyn.

Ulemper

Det har svært få ulemper mens man tar prisen i betraktning

  • NVIDIA Jetson nanomodulen er ikke tilgjengelig med wifi inne.
  • NVIDIA Jetson nanomodul inkluderer kun to PWM-pinner på brettet.

applikasjoner

Applikasjonene til NVIDIA Jetson inkluderer følgende.

  • NVIDIA Jetson-modulen tilbyr overlegne innebyggingssystemer som brukes til å lage AI-produkter for en rekke scenarier. Dette er en strømeffektiv modul som brukes for AI som inkluderer høyytelses, modulære datamaskiner med liten formfaktor.
  • Nvidia Jetson-kort er hovedsakelig designet for bruk i innebygde systemer som droner, roboter og andre enheter som trenger kraftig prosessering innenfor en liten formfaktor. De vanlige bruksområdene til Jetson-kort inkluderer hovedsakelig medisinsk utstyr, autonome kjøretøy, digital skilting, AR/VR-headset, smartbyapplikasjoner, etc.
  • Denne modulen støtter enhetlige programvarearkitekturer for å gjøre programvareutviklernes arbeid mye enkelt.
    NVIDIA Jetson-modulene og -enhetene er optimaliserte edge-enheter som brukes til å utvikle Edge AI-systemer.
  • NVIDIA Jetson Nano Developer Kit er en veldig kraftig og liten datamaskin som kjører flere nevrale nettverk parallelt for ulike applikasjoner som objektgjenkjenning, bildeklassifisering, talebehandling og segmentering.
  • NVIDIA Jetson Nano-modulen er perfekt for datasynsapplikasjoner basert på AI, og de utfører AI-synoppgaver som bildesegmentering, bildeklassifisering, objektdeteksjon, etc.
  • Nano-modulene til NVIDIA Jetson gir utrolige nye funksjoner til tusenvis av strømeffektive og små AI-systemer
  • NVIDIA Jetson Nano-modulen er kompatibel med OpenCV maskinlæringsbiblioteker og åpen kildekode programvare for datasyn.

Q). Hva er strømforbruket til Jetson-moduler?

EN). Strømforbruket til Jetson-modulen varierer avhengig av modell og bruk. Jetson Xavier-modulen har for eksempel et typisk strømforbruk på rundt 15w til 30w, mens Jetson TX2 kan forbruke mellom 7w til 15w.

Q). Kan Jetson brukes til sanntidsgjenkjenning og sporing av objekter?

EN). Ja, Jetson Platforms kan håndtere synsdeteksjon og sporing. Nano-modulen er en høyytelses GPU- med edge computing-plattform som hovedsakelig kan brukes til deteksjon, telling og sporing.

Q). Hvilke typer sensorer kan Jetson kommunisere med?

EN). Synssensorer brukes til å koble Jetson med forskjellige kameragrensesnitt som USB, MIPI CSI og Ethernet. De kan også kommunisere med lidar, ultralydsensorer og andre typer i tillegg til å bruke de forskjellige typene grensesnitt som I2C, SPI etc.

Q). Hva er forskjellen mellom Jetson og Raspberry Pi?

EN). Hovedforskjellen mellom disse to brettene er; NVIDIA Jetson ble utviklet for å håndtere krevende AI- og datasynsoppgaver, mens Raspberry Pi 4-kortet har lavstrømsbasert multimedia-GPU som brukes til generell databehandling og undervisning. Jetson kan brukes til mer avanserte funksjoner som maskinvareakselerert videodekoding og koding ved å bruke sin kraftige GPU (Graphical Processing Unit) og CPU (Central Processing Unit).

Q). Kan Jetson brukes til autonome robotapplikasjoner?

EN). Morgendagens autonome robotikk og industri vil være kraftdrevet gjennom NVIDIA Jetson for Intelligent Machines & Robotics.

Dermed er dette en oversikt over NVIDIA Jetson – fordeler og bruksområder. Denne modulen er den ledende plattformen over hele verden som brukes av utviklere til å lage avanserte AI-produkter i alle bransjer. Disse modulene brukes også av studenter og også entusiaster for å få praktisk erfaring med AI-læring for å lage fantastiske prosjekter. Plattformen til Jetson består hovedsakelig av strømeffektive, små utviklersett og produksjonsmoduler. Her er et spørsmål til deg, hva er NVIDIA?