Hoge AI-prestaties: Nieuwe RISC-V SBC is een krachtig Raspberry Pi 5 alternatief

De Banana Pi BPI-SM10 is een nieuwe single-board computer, die echter nog niet verkrijgbaar is. Het is niet per se een single-board computer in de typische zin van het woord, maar blijkbaar meer een combinatie van een computermodule en een bijbehorend draagbord. Alleen de draagkaart heeft gebruiksvriendelijke poorten in hun gebruikelijke vorm. Het bevat onder andere vier USB 3.0-poorten, evenals Gigabit Ethernet, DisplayPort en MIPI-DSI voor video-uitvoer, en verschillende M.2-sleuven voor het installeren van SSD's, bijvoorbeeld.

De computermodule zelf gebruikt de SpacemiT K3 als processor. Deze heeft in totaal acht X100 rekenkernen met een kloksnelheid tot 2,4 GHz. Deze acht cores zijn gegroepeerd in twee clusters met elk vier cores en een gedeelde L2-cache. Er zijn ook acht A100 cores. Deze zijn speciaal ontworpen om AI-modellen te versnellen, met prestaties die worden geschat op maximaal 60 TOPS. Orange Pi geeft ook een specifieker, of praktischer, cijfer voor de AI-prestaties. Het zegt dat LLM's met 30 miljard parameters op een behoorlijk zinvolle manier gebruikt kunnen worden met meer dan 10 tokens per seconde.

Afhankelijk van de specifieke modelversie wordt LPDDR5-geheugen met een capaciteit van 8, 16 of 32 GB gebruikt. Het stroomverbruik ligt tussen de 18 en 35 watt. De draagkaart bevat een GPIO-pin header, wat typisch is voor single-board computers. Producten gebaseerd op de Jetson-architectuur van Nvidia zouden een mogelijk alternatief kunnen zijn.