De AI-workstation van Tiny Corp met vier GPU's zit boordevol AMD Epyc-rekenkracht, maar er een kopen is niet eenvoudig

Tiny Corp, het bedrijf dat is opgericht door George Hotz, heeft zijn Tinybox-deeplearningwerkstation vernieuwd met een nieuw configuratiesysteem. In tegenstelling tot de eerdere machines met een vaste configuratie kunnen klanten bij de nieuwste Tinybox zelf hun geheugen, opslag en GPU's kiezen, met ook de mogelijkheid om een systeem zonder grafische kaarten aan te schaffen.

De nieuwe Tinybox-configurator vermeldt een G4-platform met PCIe 4.0-connectiviteit, een watergekoelde AMD Epyc-processor met 32 cores, een moederbord van serverkwaliteit met een baseboard management controller (BMC) en ondersteuning voor maximaal vier GPU's. De basisspecificaties omvatten ook 32 GB DDR4-geheugen, een opstart-SSD van 1 TB en een voeding van 1.700 W. Je kunt de machine configureren met maximaal 128 GB RAM en 16 TB opslag (een opstart-SSD van 1 TB + 4x schijven van 4 TB) met RAID. Het G5-platform krijgt daarentegen een niet nader gespecificeerd Epyc Genoa-platform als CPU en DDR5-geheugen. De minimale en maximale opslagcapaciteit zijn voor beide platforms gelijk, maar de nieuwere Genoa-CPU kan worden geconfigureerd met maximaal 192 GB geheugen.

De TinyBox heeft vier GPU-slots met full-fabric PCIe-connectiviteit. De aansluitingen omvatten 16 DisplayPort-uitgangen verdeeld over de vier GPU's. Dat aantal hangt natuurlijk af van hoeveel GPU's je in de machine plaatst  Er zijn ook vijf RJ45-ethernetpoorten, twee USB Type-A-poorten en een VGA-uitgang aanwezig.  Een van de ethernetpoorten kan worden toegewezen aan serverbeheer op afstand. 

De GPU-opties variëren van vier AMD Radeon RX 9070 XT GPU's tot één/twee Nvidia RTX Pro 6000 GPU's; de generatie wordt niet vermeld, maar gezien het prijskaartje van $19.000 gaat het waarschijnlijk om Blackwell. Als alternatief kun je de barebones-machine zonder GPU kopen en je eigen hardware gebruiken. Die kost je $7.000, terwijl de duurste uitvoering met 192 GB RAM, twee RTX Pro 600 GPU's, 16 TB opslag en een Epyc Genoa CPU uitkomt op een duizelingwekkende $64.000.

De aanpak van Tiny Corp bij de verkoop van hardware verschilt duidelijk van die van traditionele werkstationfabrikanten. Klanten moeten via de website bestellen en bankoverschrijvingen zijn de enige geaccepteerde betaalmethode. Om een bestelling te garanderen, moet de betaling binnen vijf dagen na de orderbevestiging zijn voltooid.

Alle nieuwe Tinybox-systemen worden op bestelling gebouwd, met geschatte verzendtermijnen van één tot acht weken. Internationale levering is mogelijk via UPS, maar alleen naar landen die bij het afrekenen worden ondersteund. Invoerrechten, belastingen en andere kosten zijn voor rekening van de klant. Retourneren is toegestaan binnen 30 dagen na ontvangst, maar Tiny Corp brengt 20% herbevoorradingskosten in rekening en verlangt dat kopers de kosten voor de retourzending betalen.

Alsof dat nog niet genoeg is, gelden er aanvullende beperkingen voor configuraties met Nvidia-GPU's. Tiny Corp waarschuwt dat klanten mogelijk Know Your Customer-documentatie (KYC) en nalevingsdocumentatie moeten invullen, waarin het beoogde gebruik en de installatielocatie van hun GPU's worden beschreven. Amerikaanse exportvoorschriften kunnen ook verhinderen dat systemen met Nvidia-GPU's aan bepaalde landen worden geleverd. Meer informatie is te vinden op de FAQ-pagina van Tiny Corp.