Gray-market reparaties voor verboden Nvidia H100 en A100 GPU's nemen toe in China

De stijgende vraag in China naar het onderhoud van geavanceerde grafische processors van Nvidia - ondanks het exportverbod van Washington - heeft geleid tot een klein maar lucratief reparatie-ecosysteem in Shenzhen. Ongeveer een dozijn reparatiewerkplaatsen adverteren nu met de mogelijkheid om problemen op te lossen en de H100 en A100 versnellers. Deze zijn het land binnengekomen via grijze marktkanalen, volgens insiders uit de industrie, die aan Reuters vertelden.

De markt bestaat alleen omdat de hardware schaars en onvervangbaar is. De Verenigde Staten blokkeerden de verkoop van de H100 aan China in september 2022 en tegelijkertijd zijn voorganger, de A100. Amerikaanse functionarissen voerden aan dat geavanceerde GPU's militair AI-onderzoek zouden kunnen versnellen. Hoewel Nvidia vervolgens verkleind H20 silicium heeft gemaakt dat aan de beperkingen voldoet, zijn Chinese onderzoekslaboratoria en cloudproviders nog steeds verzot op de krachtigere H100. Ze zoeken het voor te trainen grote taalmodellen.

Het wordt kritiek om deze chips online te houden. Velen draaien al jaren op volle toeren in datacenterracks. Als gevolg daarvan neemt het aantal defecten toe. Een typische levensduur van twee tot vijf jaar betekent dat stroomtoevoercircuits, geheugenpakketten met hoge bandbreedte en zelfs koelventilatoren regelmatig aandacht nodig hebben. Een lang bestaande specialist in grafische kaarten zegt dat het eind 2024 een speciale dochteronderneming heeft opgericht. De specialist knapt nu elke maand wel 500 AI GPU's op en valideert elke reparatie in een serverruimte met 256 knooppunten. Deze opstelling bootst klantenclusters na.

De prijs weerspiegelt zowel de schaarste als de complexiteit. Winkels geven tussen de ¥ 10.000 en ¥ 20.000 (ongeveer $ 1.400-2.800) per kaart. Dit komt overeen met ongeveer 10 procent van de oorspronkelijke waarde van de eenheid, voor taken variërend van soldeer-reflow werk tot HBM vervanging. Een vergelijkbare achtweg H20-server kost officieel meer dan ¥ 1 miljoen (≈ $ 139.000). Handelaren zeggen dat een met B200 uitgerust chassis meer dan 3 miljoen yen (≈ 418.000 dollar) kan opbrengen.

De bezorgdheid van Washington gaat verder dan smokkel. Wetsvoorstellen die dit jaar door beide partijen zijn ingediend, zouden het traceren van de locatie na de verkoop van high-end versnellers verplicht stellen, in een poging om illegale stromen tegen te gaan. Nvidia zegt op haar beurt dat alleen het bedrijf en geautoriseerde partners volledige technische ondersteuning kunnen bieden. Het bedrijf waarschuwt dat het gebruik van producten waarvoor beperkingen gelden zonder firmware- en software-updates "een non-starter" is. Toch blijft de handel in Shenzhen levendig. Voorlopig zien China's AI-spelers nog steeds waarde in het laten circuleren van gesmokkeld silicium, ongeacht de geopolitieke tegenwind.