Tiiny Lab is een startup op in de VS dat zich lijkt te specialiseren in hardware voor persoonlijke LLM's. Hun nieuwste product is hun intrede op het gebied van mini-pc's en wordt de Pocket Lab genoemd. De toepasselijk genaamde mini PC is ongelooflijk compact en beschikt over zeer krachtige hardware die LLM's met tot wel 120 miljard parameters kan uitvoeren, wat een indrukwekkende claim is.
12-core ARM CPU met dNPU voor 160 + 30 TOPS aan AI-rekenkracht
Interessant genoeg heeft Tiiny AI beweerd dat de Pocket Lab mini PC door Guinness World Records is gekroond tot de "kleinste mini PC ter wereld" in de categorie 100B LLM Local, wat eerlijk gezegd vreemd specifiek lijkt te zijn. Hoe dan ook, er bestaat geen twijfel over dat de Pocket Lab mini PC extreem compact is, met slechts 14,2 x 8 x 2,5 cm of 5,6 x 3,15 x 1 inch. Met slechts 300 gram is het systeem ook behoorlijk licht.
Tiiny AI stelt verder dat installatie met één klik voor bekende open-source modellen zoals Llama, Qwen, DeepSeekmistral, Phi en OpenAI GPT-OSS worden ondersteund. Er zullen regelmatig OTA software-updates worden geleverd, wat veelbelovend klinkt. Maar of deze beloften worden waargemaakt, valt natuurlijk nog te bezien. Op het gebied van hardware heeft de Pocket Lab mini PC behoorlijk wat in huis, zoals hieronder wordt beschreven:
- 12-core ARM CPU gebaseerd op ARMv9.2
- NPU met 160 TOPS
- 80 GB LPDDR5X-geheugen, waarvan 48 GB bestemd is voor de NPU
- 1 TB SSD
- energieverbruik van 65 watt
- Volledig offline werking
Top 10 Testrapporten
» Top 10 Multimedia Notebooks
» Top 10 Gaming-Notebooks
» Top 10 Budget Gaming Laptops
» Top 10 Lichtgewicht Gaming-Notebooks
» Top 10 Premium Office/Business-Notebooks
» Top 10 Budget Office/Business-Notebooks
» Top 10 Workstation-Laptops
» Top 10 Subnotebooks
» Top 10 Ultrabooks
» Top 10 Notebooks tot €300
» Top 10 Notebooks tot €500
» Top 10 Notebooks tot € 1.000De beste notebookbeeldschermen zoals getest door Notebookcheck
» De beste notebookbeeldschermen
» Top Windows Alternatieven voor de MacBook Pro 13
» Top Windows Alternatieven voor de MacBook Pro 15
» Top Windows alternatieven voor de MacBook 12 en Air
» Top 10 best verkopende notebooks op Amazon
» Top 10 Convertible Notebooks
» Top 10 Tablets
» Top 10 Tablets tot € 250
» Top 10 Smartphones
» Top 10 Phablets (>90cm²)
» Top 10 Camera Smartphones
» Top 10 Smartphones tot €500
» Top 10 best verkopende smartphones op Amazon
Tiiny AI beweert dat de Pocket Lab LLM's met maximaal 120 miljard parameters kan verwerken, hoewel de kwantiseringsniveaus niet expliciet zijn genoemd. Details over de prijs zijn op dit moment ook nog niet bekend, maar het lijdt geen twijfel dat de Pocket Lab mini PC een aardige duit zal kosten. Zelfs met een agressieve 4-bit kwantisatie lijkt het uitvoeren van een model met 120 miljard parameters een beetje te ver gezocht voor een systeem met slechts 80 GB aan totaal geheugen. Natuurlijk moeten de uiteindelijke resultaten nog in het echt gezien worden.
Voor normale gebruikers die geen lokale LLM's nodig hebben en matige prestatie-eisen stellen, zal een typische mini-PC, zoals de Minisforum AI X1 Pro (momenteel $1.087,90 op Amazon) waarschijnlijk een betere keuze zijn.
Bron(nen)
Tiiny AI, gespot door TechPowerUp








