NVIDIA Jetson: Építészet, munka és alkalmazásai

Próbálja Ki A Műszerünket A Problémák Kiküszöbölésére





A világ vezető platformja, mint például az NVIDIA Jetson beágyazott számítástechnikai kártyák sorozata, amelyet főként autonóm gépekben és egyéb berendezésekben használnak. beágyazott alkalmazások . Ez az alaplap főleg Jetson modulokat tartalmaz, amelyek nagy teljesítményű számítógépek. A Jetson jól illeszkedik a hasonló mesterséges intelligencia-szoftverekhez és a felhőalapú natív munkafolyamatokhoz, amelyeket más NVIDIA-platformokon is használnak, és energiahatékony teljesítményt biztosít az ügyfelek számára szoftveralapú autonóm gépek építéséhez. Az NVIDIA Jetson számítógépes látási alkalmazásokhoz használatos. Tehát ez a cikk az NVIDIA Jetson működésének és alkalmazásainak áttekintését tárgyalja.


Mi az az NVIDIA Jetson?

Az NVIDIA Jetson egy fejlett beágyazó rendszer tábla, amelyet innovatív AI-termékek létrehozására használnak számos iparágban. Az NVIDIA Jetson az egyik vezető hardverplatform, amely nagyon hasznos a technológiai rajongók és a diákok számára, hogy gyakorlati tapasztalatokat szerezzenek számos innovatív AI-projekten keresztül. Ez a tábla egy nagyon hatékony tábla az AI számára, amely moduláris, kis méretű és nagy teljesítményű élszámítógépeket tartalmaz. Ezen túlmenően ez a tábla tartalmazza a szoftvergyorsításhoz használt JetPack SDK-t, valamint egy teljes ökoszisztémát, amely segíti az egyedi AI-projektek fejlesztési folyamatának növelését.



  NVIDIA Jetson modul
NVIDIA Jetson modul

NVIDIA Jetson architektúra

Tudjuk, hogy az Nvidia Nvidia Jetson modulja beágyazott számítástechnikai kártyák sorozata. A Jetson TX1, TX2 és TK1 összes modellje az Nvidia SoC vagy Tegra processzorát tartalmazza, amely ARM architektúrájú CPU-t tartalmaz. Itt a Jetson egy alacsony fogyasztású rendszer, amelyet elsősorban a gépi tanulási alkalmazások felgyorsítására terveztek.

Az NVIDIA Jetson Xavier NX architektúra alább látható. Ez a legfejlettebb és legkisebb AI szuperszámítógép, amelyet szélső számítástechnikai eszközökhöz és eszközökhöz is használnak autonóm robotika . Ez a modul kiszolgálóosztályú teljesítményt képes telepíteni egy szilárd 70x45 mm-es méret mellett, és akár 21 TOPS számítási teljesítményt is biztosít 15 W alatt, egyébként akár 14 TOPS számítási teljesítményt 10 W alatt.



  NVIDIA Jetson Xavier NX architektúra
NVIDIA Jetson Xavier NX architektúra

A fenti diagram egy beépített 384 magos NVIDIA Voltát tartalmaz GPU beleértve a 6 magos NVIDIA Carmel ARMv8.2 64 bites CPU-t, 48 tenzormagot, 8 GB 128 bites LPDDR4x-et, 4K videó kódolókat és dekódolókat, kettős NVDLA (NVIDIA Deep Learning Accelerator) motort, kamerát akár hat azonnali, nagy felbontású érzékelőfolyamok, két Display Port vagy HDMI 4K kijelzők, PCIe Generation 3 bővítés, USB 3.1 és GPIO-k I2C, SPI, I2S, UART és CAN busszal.

Az NVIDIA Jetson specifikációi a következőket tartalmazzák.

  PCBWay
  • A teljesítmény 10 W vagy 15 W üzemmód és 5 V bemenet.
  • A CPU 6 magos NVIDIA Carmel 64 bites ARMv 8.2 1400 MHz-en.
  • A GPU 384 magos NVIDIA Volta, 1100 MHz-en, 48 tenzormagon keresztül.
  • A DL kettős NVDLA motor.
  • A memória 8 GB 128 bites LPDDR4x 1600 MHz-en.
  • 16 GB eMMC 5.1 tárhely.
  • A kamera 12x MIPI CSI-2 sávos | 3×4 vagy 6×2 kamera.
  • Akár 6 kamera (36 virtuális csatornákon keresztül).
  • Hőmérséklet -25°C és 90°C között.
  • A kijelző DP 1.4 vagy eDP 1.4 vagy HDMI 2.0 a/b, 4Kp60.
  • Az Ethernet 10 vagy 100 vagy 1000 BASE-T Ethernet.
  • USB 3.1 és USB 2.0.

Ezt a modult az NVIDIA teljes CUDA-X szoftvercsomagja, valamint a mesterséges intelligencia fejlesztésére szolgáló JetPack SDK támogatja. Nagyon népszerű gépi tanulási keretrendszereket és nehéz DNN-eket futtat egyszerre több nagyfelbontású szenzorfolyamon, a valós idejű számítógépes látási, grafikai és multimédiás alkalmazások mellett egy komplett asztali Linux-környezetben.

A fejlesztők jelenleg a Jetson Xavier NX-hez kezdték el az AI-alkalmazások tervezését a Jetson AGX Xavier Developer Kit segítségével. Ha a JetPack közelében eszközminta-foltot helyez el, az eszköz Jetson Xavier NX-ként fog működni. Ez módosítja a szoftveren keresztül beszerezhető GPU- és CPU-magok számát, és beállítja az órajel-frekvenciákat és a magok feszültségét a rendszerben.

A javítás teljesen visszafordítható, amelyet a Jetson Xavier NX teljesítményének közelítésére használnak. Ez a modul az alapértelmezett 10 W és 15 W teljesítményű üzemmódokat osztályozza, amelyek 14 és 21 TOPS közötti csúcsteljesítményt érnek el az aktív mód alapján. Az nvpmodel eszköz az energiaprofilok kezelésére szolgál a legmagasabb CLK-frekvenciák beállításához a GPU, a CPU, a különféle SoC órajelek és a memóriavezérlő, valamint a különböző CPU-fürtök számára.

A munkaterhelés alapján a DVFS (Dynamic Voltage & Frequency Scaling) szabályozó kiegyensúlyozza a frekvenciákat a futásidőben az aktív nvp-modellben leírt legmagasabb határértékekig, így az energiafelhasználás csökken alapjáraton és a processzor működése alapján. Az nvpmodel eszköz segít új energiagazdálkodási módok létrehozásában és módosításában a TDP és alkalmazási követelmények alapján.

Az NVIDIA Jetson modul a szuperszámítógép teljesítményét a kis méretű SOM-on (system-on-module) belül a szélére emeli. A gyorsított számítástechnika 21 TOPS-nak megfelelő teljesítményt küld a jelenlegi neurális hálózatok párhuzamos működtetésére és a különböző nagy felbontású érzékelőktől származó adatok feldolgozására. Ez a modul ideális nagy teljesítményű mesterséges intelligencia rendszerekhez, mint például orvosi műszerek, kereskedelmi robotok, AIoT beágyazott rendszerek, intelligens kamerák, automatizált optikai ellenőrzés, nagy felbontású érzékelők, intelligens gyárak stb.

Szoftver

Az NVIDIA Jetson modult egyszerűen a kombinált szoftverarchitektúrák támogatják, így sokkal könnyebbé válik a szoftverfejlesztők munkája. Ez a kombinált megközelítés egyszerűen megkíméli a fejlesztőket az ismétlődő kódolás fáradságától, miközben fejleszti formációikat más Jetson modulokon.

Az NVIDIA JetPack SDK Linux operációs rendszerrel, CUDA-X gyorsított könyvtárakkal és API-kkal érhető el különböző gépi tanulási területekhez, például számítógépes látáshoz, mély tanuláshoz stb. Támogatja a gépi tanulási keretrendszereket is, például a Caffe, a TensorFlow, a Keras és az OpenCV számítógépes látást. könyvtárak.
Az NVIDIA Jetson különböző szoftvereszközöket kínál moduljaihoz, amelyeket alább tárgyalunk.

NVIDIA JetPack SDK

Jetson platformszoftver Az olyan csomagok, mint a TensorRT, a CUDA Toolkit, a cuDNN, a GStreamer, az OpenCV és a Visionworks, mind az L4T tetejére vannak összeállítva az LTS Linux kernelen keresztül.

NVIDIA Jetson Linux illesztőprogram-csomag

Ez biztosítja a Linux kernelt, az NVIDIA illesztőprogramokat, a rendszerbetöltőt, a mintafájlrendszert, a villogó segédprogramokat és még sok mást a Jetson platform számára.

NVIDIA DeepStream SDK

Ez egy API-k és könyvtárak készlete, amely segíti a fejlesztőket erős IVA (intelligens videóelemző) megoldások tervezésében és elrendezésében a Jetson platformon. Bonyolult alkalmazások készítésére használják, mint például kódolás, képrögzítés, dekódolás, következtetés a TensorRT segítségével stb.

NVIDIA Isaac SDK

Ez olyan könyvtárak, API-k, illesztőprogramok és egyéb eszközök készlete, amelyek az AI-t a következő generációs robotokhoz adják navigáció, észlelés és manipuláció céljából. Így segít az AI-alapú robotika létrehozásában és telepítésében.

NVIDIA Jetson típusok

Az NVIDIA Jetson modul memóriával, GPU-val, CPU-val, nagysebességű interfésszel, energiagazdálkodással stb. rendelkezik. Ezek a modulok különböző teljesítménnyel, energiahatékonysággal és a formai tényezők változatosságával állnak rendelkezésre, hogy különféle iparágakban használhatók legyenek. Különféle NVIDIA Jetson eszközök állnak rendelkezésre, amelyeket alább tárgyalunk.

NVIDIA Jetson Nano

Az NVIDIA Jetson Nano modul fejlesztők vagy hallgatók, valamint kezdők számára is alkalmas, mivel elsősorban gyakorlati tanulásra és tanításra készült. Ennek a modulnak a mérete kicsi, energiahatékonysága és teljesítménye azonban magas, így tökéletes egyszerre több párhuzamos neurális hálózat, mesterséges intelligencia munkaterhelés és nagy felbontású érzékelőktől származó adatfeldolgozás futtatására. Így a Jetson Nano modul egy nagyon népszerű éleszköz, amelyet beágyazott mesterséges intelligencia termékek és megoldások készítésére használnak.

  NVIDIA Jetson Nano
NVIDIA Jetson Nano

Ez a modul tökéletes mesterséges intelligencia alapú számítógépes látási alkalmazásokhoz, és mesterséges intelligencia látási feladatokat hajt végre, mint például objektumészlelés, képszegmentálás, képosztályozás stb. Ez a modul nagyon kompatibilis a nyílt forráskódú számítógépes látásszoftverekkel és az OpenCV gépi tanulási könyvtárakkal.

NVIDIA Jetson TX2 sorozat

Az NVIDIA Jetson TX2 Series modult hitelkártya méretűre tervezték. Ennek a modulnak a jellemzői főként egy NVIDIA Pascal GPU-t, akár 8 GB memóriát, 59,7 GB/s-os memória sávszélességet és szabványos hardveres interfészt tartalmaznak. Ez a modul akár 2,5-szeres teljesítményt nyújt az NVIDIA Jetson Nano modulhoz képest.

Ez a modul nagyon hatékonyan futtat mély neurális hálózatokat szélső eszközökön a nagyobb pontosság elérése érdekében. A sorozatban elérhető modulok főként a Jetson TX2 4GB, Jetson TX2i, Jetson TX2 és Jetson TX2 NX. Az NVIDIA Jetson TX2 NX modul egyszerűen megosztja a tű- és alaktényező kompatibilitást a Jetson Xavier NX és a Jetson Nano révén.

  NVIDIA Jetson TX2 sorozat
NVIDIA Jetson TX2 sorozat

A fennmaradó három modul az eredeti Jetson TX2 modul formájú lesz. A TX2 sorozat felhasználási területei egyszerűen a különböző iparágakban, például a mezőgazdaságban, a gyártásban, az élettudományokban, a kiskereskedelemben stb. terjednek ki. A Jetson TX2i modul a többi modul közül a legmegfelelőbb olyan nagy teljesítményű mesterséges intelligencia eszközökhöz, mint az orvosi berendezések, gépi látó kamerák és ipari robotok, mert erős kialakításának köszönhetően.

Ez a modul egy nagyon gyors beágyazott mesterséges intelligencia számítástechnikai eszköz, amely nagy energiahatékonyságot, például 7,5 W-ot, szuperszámítógép-képességeket kínál, főleg szélső AI-eszközökhöz, valamint különféle hardver-interféseket, amelyek könnyen beilleszthetők különböző termékekbe és formai tényezőkbe.

NVIDIA Jetson Xavier NX

Az NVIDIA Jetson Xavier NX modul egy nagy teljesítményű és energiahatékony hitelkártyához képest nagyon kicsi. Ezt a világ legkisebb AI-szuperszámítógépeként is ismerik él- és beágyazott rendszerekhez. Ez a modul különösen segít komplett AI-rendszerek futtatásában.

  Xavier NX
Xavier NX

A Jetson Xavier NX szolgáltatásai a felhőalapú technológiákat is támogatják, így a fejlesztők könnyen frissíthetik és kezelhetik az AI-termékeket. Ez a modul támogatja az összes népszerű AI modellt és keretrendszert. Így ez a modul teljes mértékben megfelel a nagy teljesítményű mesterséges intelligencia-rendszereknek, például az intelligens kameráknak, a mesterséges intelligencia által hajtott nagyfelbontású látórendszereknek, a drónoknak, a kereskedelmi robotoknak vagy az orvosi berendezéseknek.

Az NVIDIA Jetson Xavier NX modul másodpercenként 21 tera műveletet vagy TOPS-t biztosít az aktuális mesterségesintelligencia-terhelés futtatásához, 10 W áramfogyasztással. Ennek a modulnak a formája kompaktabb, mint egy hitelkártyáé. A Xavier NX modul egyszerre több neurális hálózatot futtat, és különböző nagy felbontású érzékelőktől származó adatokat dolgoz fel. Az ilyen típusú modulokat olyan beágyazott és szélső számítástechnikai eszközök tervezésére használják, amelyek nagy teljesítményt igényelnek, bár jelentős súly-, méret- és teljesítménykorlátokkal.

NVIDIA Jetson AGX Xavier sorozat

Az NVIDIA Jetson AGX Xavier Series modult főként a következő generációs autonóm intelligens gépekhez fejlesztették ki. Ez a modul másodpercenként akár 32 TOPS vagy Tera műveletet biztosít az AI-teljesítményhez, ha már 10 wattot használ. A szoftverfejlesztő egyszerűen megengedheti magának, hogy gyorsan elrendezze a neurális hálózatokat az NVIDIA mesterséges intelligencia-szoftvereinek készletével.

  AGX Xavier sorozat
AGX Xavier sorozat

Ez a modul különféle specifikációkat és funkcionális biztonsági lehetőségeket kínál, így a fejlesztők biztonsági vagy ipari tanúsítvánnyal rendelkező termékeket hozhatnak létre. Ennek a modulnak a nagy teljesítménye alkalmassá teheti számos autonóm géphez, például logisztikai és ipari robotokhoz, gyári rendszerekhez és nagy drónokhoz.

Jetson Xavier NX fejlesztői készlet

A jetson xavier nx fejlesztői készlet egy szilárd, energiatakarékos Xavier NX modult tartalmaz, amelyet mesterséges intelligencia alapú éleszközökhöz használnak. Ez a modul rendelkezik néhány funkcióval, például felhőalapú támogatással, és mindössze 10 W-tal felgyorsítja az NVIDIA-szoftverek kötegét, a Jetson TX2 teljesítményének több mint 10-szeresével. Ezt a fejlesztői készletet intelligens gépek gyártói, induló mesterséges intelligencia és alkalmazásfejlesztők használják modern termékek tervezésére kompakt, rendkívül pontos mesterséges intelligencia-következtetéssel és energiahatékony formátummal.

  NX fejlesztői készlet
NX fejlesztői készlet

Jetson AGX Xavier Industrial

A Jetson AGX Xavier Industrial modul az AGX Xavier sorozat része. Ennek a modulnak a kialakítása egy tűvel kompatibilis forma, amely vezérli a legfrissebb AI modelleket az igényes alkalmazásokban. Ez a modul kiterjesztett vibrációs, ütési, hőmérsékleti specifikációkat, fejlett biztonsági funkciókat, akár 4-szer nagyobb memóriát és 20-szor nagyobb teljesítményt biztosít, mint a TX2i modul.

  Xavier Industrial
Xavier Industrial

Ez a modul nagyon hasznos a tervezők számára az automatizálás, a robotika és más intelligens termékek tervezésében. Ezenkívül biztonsági tanúsítvánnyal rendelkező és robusztus termékeket is tervez, amelyek nagy teljesítményt nyújtanak az ipari, mesterséges intelligencia-beágyazott funkcionális és biztonsági alkalmazásokhoz, robusztus és energiatakarékos kivitelben.

Előnyök

A Az NVIDIA Jetson előnyei a következőket tartalmazzák.

  • Az NVIDIA Jetson diákok, egyéni fejlesztők és különböző szervezetek számára alkalmas.
  • A Jetson Platform nagyon népszerű, mert különféle előnyökkel jár, mint például a moduláris rugalmasság, az egységes szoftver és a felhőalapú technológiák támogatása.
  • Ez az alaplap egy sor modult tartalmaz, amelyek nagyon hasznosak az alapvető AI-alkalmazásoktól a nagyon összetett mesterségesintelligencia-alapú eszközökig.
  • Ezt a kártyát egy egységes szoftverarchitektúra hajtja meg, amely segíti a fejlesztőket az ismétlődő kódolásban. Ha szükségük van AI/ML kapacitásra, akkor egy kapcsolódó Jetson modult is beépíthetnek az eszközbe, és ez gondoskodik a nehéz emelésről.
  • Az NVIDIA Jetson platform egyszerűen támogatja a felhőben natív technológiákat és munkafolyamatokat, például a hangszerelést és a konténerezést, lehetővé téve a fejlesztők számára az AI-termékek gyors fejlesztését és bővítését.
  • Az NVIDIA JetPack SDK Linux operációs rendszerrel, API-kkal és CUDA-X gyorsítókönyvtárral érhető el számos gépi tanulási tartományhoz, például számítógépes látásmódhoz és mély tanuláshoz. Ezenkívül támogatja a gépi tanulási keretrendszereket, például a Caffe és Keras, a TensorFlow és az OpenCV számítógépes látás könyvtárait.

Hátrányok

Nagyon kevés hátránya van, ha figyelembe vesszük az árat

  • Az NVIDIA Jetson nanomodul nem elérhető wifivel.
  • Az NVIDIA Jetson nanomodul csak két PWM érintkezőt tartalmaz az alaplapon.

Alkalmazások

Az NVIDIA Jetson alkalmazásai a következőket tartalmazzák.

  • Az NVIDIA Jetson modul kiváló beágyazási rendszereket kínál, amelyeket AI-termékek készítésére használnak különféle forgatókönyvekhez. Ez az AI-hoz használt energiatakarékos modul, amely nagy teljesítményű, moduláris és kis méretű peremszámítógépeket foglal magában.
  • Az Nvidia Jetson kártyákat főként beágyazott rendszerekben való használatra tervezték, például drónokban, robotokban és más eszközökben, amelyek kis méretben nagy teljesítményű feldolgozást igényelnek. A Jetson táblák általános alkalmazásai elsősorban orvosi eszközöket, autonóm járműveket, digitális jelzéseket, AR/VR fejhallgatókat, intelligens városi alkalmazásokat stb.
  • Ez a modul támogatja az egységes szoftverarchitektúrákat, hogy a szoftverfejlesztők munkáját nagyon leegyszerűsítsék.
    Az NVIDIA Jetson modulok és eszközök optimalizált éleszközök, amelyeket Edge AI-rendszerek fejlesztésére használnak.
  • Az NVIDIA Jetson Nano Developer Kit egy nagyon nagy teljesítményű és kicsi számítógép, amely több neurális hálózatot futtat párhuzamosan különféle alkalmazásokhoz, például objektumészlelés, képosztályozás, beszédfeldolgozás és szegmentálás.
  • Az NVIDIA Jetson Nano modul tökéletes az AI-n alapuló számítógépes látási alkalmazásokhoz, és olyan AI-látási feladatokat hajt végre, mint a képszegmentálás, képosztályozás, objektumészlelés stb.
  • Az NVIDIA Jetson nanomoduljai hihetetlen új képességeket hoznak több ezer energiahatékony és kisméretű AI-rendszerbe
  • Az NVIDIA Jetson Nano modul kompatibilis az OpenCV gépi tanulási könyvtárakkal és a nyílt forráskódú számítógépes látásszoftverrel.

Q). Mennyi a Jetson modulok energiafogyasztása?

A). A Jetson modul energiafogyasztása a modelltől és a használattól függően változik. A Jetson Xavier modul fogyasztása például körülbelül 15 W és 30 W között van, míg a Jetson TX2 7 W és 15 W közötti.

Q). Használható a Jetson valós idejű objektumészlelésre és követésre?

A). Igen, a Jetson Platforms képes kezelni a látás észlelését és követését. A Nano modul egy nagy teljesítményű GPU - éles számítási platformmal, elsősorban észlelésre, számlálásra és nyomon követésre használható.

Q). Milyen típusú érzékelőkkel tud kapcsolódni a Jetson?

A). Látásérzékelőket használnak a Jetson különféle kamerainterfészekkel, például USB-vel, MIPI CSI-vel és Ethernettel való összekapcsolására. Ezenkívül interfésszel is tudnak kapcsolódni a lidarhoz, az ultrahangos érzékelőhöz és más típusokhoz, valamint különböző típusú interfészekkel, például I2C, SPI stb.

Q). Mi a különbség a Jetson és a Raspberry Pi között?

A). A fő különbség a két tábla között: Az NVIDIA Jetsont a nagy igénybevételt jelentő mesterséges intelligencia és számítógépes látási feladatok kezelésére fejlesztették ki, míg a Raspberry Pi 4 kártya alacsony fogyasztású multimédiás GPU-val rendelkezik, amelyet általános célú számítástechnikai és oktatási célokra használnak. A Jetson fejlettebb funkciókhoz használható, mint például a hardveres gyorsítású videó dekódolás és kódolás a nagy teljesítményű GPU (Graphical Processing Unit) és CPU (Central Processing Unit) segítségével.

Q). Használható a Jetson autonóm robotikai alkalmazásokhoz?

A). A holnap autonóm robotikáját és iparát az NVIDIA Jetson for Intelligent Machines & Robotics erőforrás hajtja majd meg.

Ez tehát az az NVIDIA Jetson áttekintése – előnyei és alkalmazásai. Ez a modul a világ vezető platformja, amelyet a fejlesztők használnak fejlett mesterséges intelligencia-termékek készítésére minden iparágban. Ezeket a modulokat a hallgatók és a rajongók is használják, hogy gyakorlati tapasztalatokat szerezzenek a mesterséges intelligencia tanulásában csodálatos projektek elkészítéséhez. A Jetson platformja főként energiatakarékos, kisméretű fejlesztői készletekből és gyártási modulokból áll. Íme egy kérdés, mi az az NVIDIA?