Alpha-One: stille mini-PC met NPU van 20 TOPS

De overgrote meerderheid van AI-modellen draait momenteel in de cloud, en dus op externe computers. Hoewel dit handig is, kan het een (juridisch) probleem worden als er bijvoorbeeld vertrouwelijke gegevens geanalyseerd moeten worden. Hoewel mainstream gebruikers AI-modellen niet lokaal draaien, integreren bedrijven als AMD en Intel al NPU's in hun huidige chipsets, terwijl bepaalde netwerkopslagapparaten en beveiligingscamera's zich ook richten op lokale AI-functies.

Nu is er weer een mini PC onthuld die gebaseerd is op de RISC-V architectuur en een behoorlijk krachtige NPU bevat. De Pine64 Alpha-One heeft een NPU met een INT8-prestatie van 20 TOPS. Hierbij moet worden opgemerkt dat andere moderne APU's in dit opzicht soms aanzienlijk krachtiger zijn.

Het nieuwste Pine64 apparaat is ook niet helemaal nieuw, aangezien het gebaseerd is op de StarPro64 SBC. Dit bord wordt geleverd met een ESWIN EIC7700X SoC met vier SiFive 550 verwerkingskernen die op maximaal 1,4GHz draaien. Verder heeft de Alpha-One 64GB eMMC opslag, en zijn 7b Deepseek/Oen LLM voorgeïnstalleerd in de vorm van Docker-containers. De fabrikant claimt ook een doorvoer van ongeveer 3,5 tokens per seconde (voor een 7b LLM), wat genoeg zou moeten zijn voor veel beginners die beginnen met het lokaal draaien van hun AI-modellen.

De voeding wordt geleverd via een DC barrel plug op 12 volt, USB Type-C PD wordt niet ondersteund. De mini PC wordt ook passief gekoeld, wat betekent dat er absoluut geen ventilatorgeluid is omdat de temperaturen van de SoC in toom worden gehouden door een heat pipe. De computer verbruikt minder dan 30 watt en wordt geleverd met verschillende aansluitmogelijkheden, waaronder Ethernet, USB 3.0 en USB 2.0. Bovendien ondersteunt de Pine64 Alpha-One 4K-monitoren tot 60Hz, terwijl PCIe Gen 3 met vier lanes gebruikt kan worden voor bepaalde uitbreidingsmodules. De nieuwe mini-PC staat op genoteerd voor $330maar er is nog geen exacte releasedatum bekend.