Hexagon NPU 6 in de Snapdragon X2 Elite Extreme: 80 TOPS prestaties die tot 95% sneller zijn dan Apple M4 en 122% sneller dan Intel Lunar Lake
Qualcomm onthulde onlangs zijn volgende generatie Snapdragon X2 Elite Extreme en X2 Elite SoC's voor laptops. De nieuwe X2 Elite-chips hebben niet alleen algemene CPU-, GPU- en geheugenverbeteringen, maar ook aanzienlijke verbeteringen aan de Hexagon NPU.
Het bedrijf beweert dat de nieuwste Hexagon NPU de snelste NPU op laptops is met tot 80 TOPS aan AI-verwerkingskracht. Dat is bijna 78% meer dan de 45 TOPS die we zagen met de Snapdragon X line-up.
X2 Elite Extreme is gebouwd voor agentic workflows
Qualcomm benadrukte hoe een enkele LLM-agent met een contextlengte van 1024 en 14 miljard parameters (14B) tot 143 TOPS aan AI-verwerkingskracht zou vereisen, terwijl agentic use cases met twee (3B) of vier agenten (7B), die elk tegelijkertijd een LLM en LVM uitvoeren, tot 72 TOPS kunnen vereisen.
Dit brengt ook de uitdaging met zich mee om te optimaliseren voor prestaties per Watt en lage latentie.
Qualcomm zegt dat Snapdragon AI inferencing werkt met de Windows AI software stack om next gen agentic workloads mogelijk te maken. Ondersteunde open ML frameworks zijn PyTorch en TensorFlow.
Samen met de ONNX Runtime die Windows ML biedt, kan Snapdragon AI-inferencing de CPU, GPU en NPU gebruiken om de AI-verwerking op het apparaat te versnellen.
Snapdragon X-serie SoC's laptop CPU's ondersteunen momenteel meer dan 1000 modellen en meer dan 300 ervaringen op het gebied van audio, video, foto's, generatieve AI, agentische AI en redeneren.
NPU-ervaringen kunnen worden gebruikt in populaire apps zoals Adobe Premiere, Blender, VS Code, Affinity Photo en meer.
Twee decennia van Hexagon evolutie: 143% toename in scalaire en vector doorvoer
Qualcomm legt uit hoe Hexagon oorspronkelijk begon als een digitale signaalprocessor die voornamelijk scalaire bewerkingen uitvoerde tot de huidige NPU 6-vorm die ook vectoren en integer en FP16 matrixversnellingen uitvoert.
Scalaire verwerking omvat nu 12 threads met een 4-breed Very Long instruction Word (VLIW) per thread, wat resulteert in een 143% hogere verwerkingscapaciteit met verminderde latentie.
NPU 6 beschikt ook over een 127% snellere bus en acht parallelle threads voor 143% snellere vectorverwerking met ondersteuning voor FP8 en BF16.
De matrixeenheid heeft een onafhankelijke voedingsrail en is nu tot 78% sneller met 2-bits gewicht en ondersteuning voor FP8+BF16.
Hexagon NPU 6: tot 4x betere prestaties bij iso-vermogen
Volgens Qualcomm kan de Hexagon NPU in de X2 Elite Extreme tot 1,6x betere prestaties leveren dan die in de X Elite bij 5 W iso vermogen tijdens een Enhanced Deep Super-Resolution (EDSR) workflow.
Hexagon NPU 6: snelste laptop NPU ter wereld
Qualcomm prijst de Hexagon NPU 6 in de Snapdragon X2 Elite Extreme aan als 's werelds snelste, met tot 5,7x hogere prestaties en 3,8x hogere efficiëntie in vergelijking met de Core Ultra 9 285HnPU in Procyon AI Computer Vision.
Geekbench AI ziet de Hexagon NPU 6 bijna 70% sneller dan de NPU in de Apple M4 terwijl hij 82,4% sneller is dan de Core Ultra 9 288V.
Natuurlijk zijn dit cijfers van de fabrikant, dus we zouden geen definitieve conclusies trekken totdat we begin volgend jaar laptops op basis van de X2 Elite Extreme SoC kunnen testen.
Koop de Microsoft Surface Laptop met Snapdragon X Elite (12 cores) op Amazon)
Bron(nen)
Qualcomm persbericht
