Nvidia onthult fotonica-switches om AI-netwerken met miljoenen GPU's te schalen

Nvidia wil datacenterconnectiviteit revolutioneren door licht te benutten. In maart 2025 introduceerde het bedrijf Spectrum-X Photonics Ethernet en Quantum-X Photonics InfiniBand switches. Deze zijn ontworpen om grote "AI-fabrieken" op verschillende locaties met elkaar te verbinden en miljoenen GPU's te ondersteunen, terwijl het energieverbruik en de kosten worden verlaagd. Het primaire doel is om optische motoren te integreren met switchchips, waardoor onnodige elektrische componenten worden geëlimineerd.

Opschalen is de grootste uitdaging. Bij snelheden van 800 gigabit per seconde of meer vertragen koperen verbindingen tussen servers en switches de zaken. Signalen verliezen kracht terwijl ze door printplaten en connectoren reizen. Dit gebeurt voordat het signaal de optische module bereikt. Nvidia stelt dat dit verlies ongeveer 22 decibel is op kanalen van 200 gigabit. Dit betekent dat er meer stroom nodig is, en elke poort gebruikt ongeveer 30 watt. Extra componenten verhogen ook het risico op storingen.

Co-packaged optics, of CPO, verandert deze opzet. Door de optische motor naast de switchchip te plaatsen, worden signalen vrijwel onmiddellijk naar de vezel gestuurd. Dit vermindert het elektrische verlies tot ongeveer vier decibel en verlaagt het stroomverbruik per poort tot ongeveer negen watt. Nvidia zegt dat deze aanpak op grotere schaal ongeveer 3,5 keer betere energie-efficiëntie, meer dan 60 keer sterkere signaalkwaliteit, 10 keer meer veerkracht omdat er minder actieve onderdelen zijn, en ongeveer 30 procent snellere installatie oplevert, omdat er minder gebouwd en onderhouden hoeft te worden.

Voor Ethernet is Spectrum-X Photonics gericht op grote netwerken met meerdere huurders. Nvidia zegt dat het ongeveer 1,6 keer meer bandbreedte per gebied biedt dan gewoon Ethernet. Opties zijn 128 poorten bij 800 Gb/s of 512 poorten bij 200 Gb/s. In totaal wordt hiermee 100 Tb/s bereikt. Grotere opstellingen kunnen gaan tot 512 poorten bij 800 Gb/s of 2.048 poorten bij 200 Gb/s. Dit levert een totaal van 400 Tb/s op.

Voor InfiniBand richt Quantum-X Photonics zich op 800 Gb/s (gigabits per seconde) verbindingen en maakt gebruik van vloeistofkoeling, een systeem dat een vloeibaar koelmiddel gebruikt om warmte af te voeren. De bovenste switch heeft 144 poorten en kan 115 Tb/s aan gegevens verwerken. Het systeem bevat ook in-network computing, dat gegevens in het netwerk zelf verwerkt, met een snelheid van 14,4 biljoen floating-point bewerkingen per seconde. Het systeem maakt gebruik van Nvidia's nieuwste SHARP-technologie (Scalable Hierarchical Aggregation and Reduction Protocol) om groepstaken over het netwerk te versnellen.

Nvidia zegt dat deze generatie twee keer zo snel en vijf keer schaalbaarder is voor AI-netwerken dan de vorige. Het plan om de schaalbaarheid te verbeteren is nauw verbonden met TSMC's COUPE-platform en geavanceerde verpakkingsmethoden. In de eerste fase zullen optische motoren in OSFP-modules 1,6 Tb/s bereiken. De tweede fase zal gebruik maken van meeverpakte optica op het moederbord, die 6,4 Tb/s kan halen. De derde fase is gericht op 12,8 Tb/s binnen processorpakketten, waardoor de latentie en het stroomverbruik verder worden verlaagd. Nvidia verwacht begin 2026 CPO-gebaseerde Quantum-X switches te lanceren en later dat jaar Spectrum-X Photonics, die beide voorzien zullen zijn van vloeistofkoeling.

Nvidia werkt samen met bedrijven zoals TSMC, Coherent, Corning, Fabrinet, Foxconn, Lumentum, SENKO, SPIL, Sumitomo Electric, TFC en anderen voor de productie, optica en assemblage. Het doel is om duizenden afzonderlijke onderdelen uit grote clusters te verwijderen, de installatie te versnellen en netwerken met een miljoen GPU's mogelijk te maken zonder buitensporig veel stroom te verbruiken.