Nvidia Jetson Thor levert 2.070 TFLOPS voor robots met on-device generatieve AI

Nvidia's Jetson Thor serie is gericht op "fysieke AI" met modules ter grootte van een laptop die tot 2.070 FP4 tera-operaties per seconde en 128 gigabyte geheugen kunnen uitvoeren binnen een energiebereik van 40 tot 130 watt. Nvidia positioneert Thor als een belangrijke stap voorwaarts ten opzichte van AGX Orin, met ongeveer 7,5 keer meer AI-computers en 3,5 keer betere energie-efficiëntie, waardoor robots zware modellen on-device kunnen uitvoeren in plaats van afhankelijk te zijn van de cloud.

Binnenin combineert de Jetson AGX Thor een Blackwell GPU met een 14-core Arm CPU, die een hoge geheugenbandbreedte en kloksnelheid levert. Dankzij deze specificaties kunnen robots meerdere AI-pijplijnen voor taal, beeld en besturing tegelijk uitvoeren zonder te vertragen.

Thor behoudt de compacte footprint van recente Jetson-modules, terwijl het vermogensbereik van Orin verdubbeld wordt om de prestatiedoelen te halen. Het doel van Nvidia is om multi-AI workflows in real-time uit te voeren, zodat machines veilig met mensen kunnen communiceren.

Nvidia zegt dat er productiemodules en ontwikkelkits voor het volgende generatie Jetson-platform beschikbaar zijn, met early adopters als Amazon, Meta, John Deere, OpenAI en Boston Dynamics. Agility Robotics is van plan om Thor te integreren in zijn zesde generatie Digit humanoid voor magazijnwerk, en Boston Dynamics bereidt een nieuwe Atlas-variant voor om Thor aan te vullen. De prijs is $2.999 per Jetson Thor T5000 module in hoeveelheden van 1.000 stuks en $3.499 voor AGX Thor ontwikkelkits.

Nvidia noemt de chip een "robotbrein", en dat klopt ook: generatieve modellen van randklasse, grote taalmodellen en vision met hoge doorvoer die samen op één module draaien. Deze mix ontsluit gebruiksscenario's die een lage latentie vereisen, zoals humanoïden, landbouwautomatisering en zelfs chirurgische assistentie, waarbij een fractie van een seconde telt en een uitgevallen frame een fout kan veroorzaken.

Het belangrijkste voordeel is duidelijk: teams kunnen snel van ontwikkeling naar productie overgaan en dezelfde software gebruiken voor waarneming en planning. Er zijn echter ook aanzienlijke risico's. De toegenomen kracht van Thor kan autonome systemen zowel voor positieve als negatieve doeleinden gebruiken, zoals te zien is bij Jetson Orin in conflictgebieden. Het effect op banen is onzeker; sommige functies kunnen blijven bestaan, maar het werk kan repetitiever worden. Sterke voorzorgsmaatregelen, zorgvuldig toezicht en duidelijke verantwoording blijven essentieel naarmate deze technologieën zich ontwikkelen.