Nvidia Rubin AI-platform vertienvoudigt tokenkosten in vergelijking met Blackwell en Elon Musk prijst het als 'raketmotor voor AI'

Nvidia heeft zijn volgende-generatie Rubin AI-rekenarchitectuur aangekondigd die eindelijk overeenkomt met de Chinese AI-strategie voor het uitvoeren van AI-inferentie tegen veel lagere kosten dan de huidige Blackwell-editie.

Net als de Nvidia Rubin AI-geruchten, is het platform opgebouwd rond zes verwerkingssubsystemen die samenwerken: de Vera CPU, de nieuwe Nvidia Rubin GPU, de derde generatie NVLink 6 Switch, de ConnectX-9 SuperNIC, de BlueField-4 DPU en de Spectrum-6 Ethernet Switch. De chips zijn gebouwd op geavanceerde TSMC foundry nodes en introduceren interface-optimalisaties die gericht zijn op een drastische verlaging van tokenkosten en trainingsduur.

Nvidia's "codesign" van de zes nieuwe chips maakt modeltraining mogelijk met een kwart van de GPU's die nodig zijn in het huidige Nvidia Blackwell-platform en vertienvoudigt de kosten per token. Een vertienvoudiging van de kosten per token is wat Elon Musk belooft voor Tesla's next-gen AI5 computer; deze zal alleen niet voor volgend jaar in massaproductie gaan. Elon Musk prees de Nvidia Rubin als de "raketmotor voor AI" die de inzet van edge-modellen op schaal mogelijk zal maken.

China is ook trots op de lage AI-tokenprijs die het bereikt door modellen zoals DeepSeek en veel middelgrote AI GPU's zoals de Huawei 910C de Rubin-architectuur van Nvidia doet dus eindelijk iets om niet alleen de prestaties, maar ook de kosten van AI-modellen aan te pakken.

Het meest interessante onderdeel van het Rubin-platform is misschien wel de nieuwe Nvidia Vera CPU,"ontworpen voor data movement en agentic reasoning over versnelde systemen, met volledige ondersteuning voor vertrouwelijk computeren" De CPU kan worden gekoppeld aan een Nvidia GPU of als zelfstandige processor worden gebruikt voor"analytics, cloud, orchestration, storage en high-performance computing (HPC) workloads" met volledige Arm-compatibiliteit.

De CPU-specificatie van Vera omvat 88 aangepaste kernen en 1,2 TB/s LPDDR5X geheugenbandbreedte en trekt zeer weinig stroom. De integratie van de NVLink-C2C connectiviteitsinterface voert gesynchroniseerde CPU-GPU geheugentoegang uit als onderdeel van de optimalisatiefuncties die het Rubin-platform een orde van grootte efficiënter maken dan zijn op Blackwell gebaseerde voorganger.

Koop de Nvidia DGX Spark persoonlijke AI supercomputer op Amazon