Asus onthult "s werelds eerste USB edge AI-accelerator voor zowel klassieke AI als generatieve AI"

Uitbreidingskaarten voor PC-systemen zijn niets nieuws, met speciale grafische kaarten die een must zijn voor veeleisende gamers. We hebben eerder gerapporteerd over uitbreidingskaarten voor het versnellen van AI-modellen, hoewel deze waarschijnlijk niet langer strikt noodzakelijk zijn voor veel moderne PC's dankzij NPU's die in APU's geïntegreerd zijn. Toch kunnen dergelijke uitbreidingskaarten nog steeds nuttig zijn om de AI-prestaties van bestaande systemen te verbeteren. Asus heeft nu zo'n kaart aangekondigd, de UGen300.

Dit is een USB-uitbreidingskaart die communiceert via USB 3.1 Gen 2 en dus geen installatie in een PCI-slot of opening van de PC-behuizing vereist. Het apparaat is uitgerust met een Hailo 10H NPU, die naar verluidt een prestatie van 40 TOPS (INT4) haalt, en het typische stroomverbruik is gespecificeerd op 2,5 watt, waardoor het zeer laag tot praktisch verwaarloosbaar is. er is 8 GB LPDDR4 RAM aan boord, wat waarschijnlijk niet voldoende is voor hardcore AI-enthousiastelingen, aangezien speciale AI-bouwwerken meestal meer dan 100 GB RAM hebben.

Het systeem is naar verluidt compatibel met zowel x86- als ARM-platforms, Windows, Linux en Android apparaten, en met verschillende frameworks zoals TensorFlow, PyTorch en ONNX. Volgens Asus zijn er meer dan 100 voorgetrainde modellen beschikbaar voor gebruik. Een typische toepassing zou geavanceerde beeld- of patroonherkenning en -interpretatie kunnen zijn. Op dit moment is er nog geen informatie over de prijs of beschikbaarheid beschikbaar