MWC 2024 | AI overal: Qualcomm toont indrukwekkende on-device demo's op Snapdragon X Elite PC, telefoons en IoT

Of het nu gaat om een AI-pc, smartphone, IoT-apparaat of E-Car: Generatieve AI is de focus van Qualcomm's Snapdragon-platforms.

Generatieve AI, d.w.z. het creëren van content op basis van kunstmatige intelligentie, is ook het nummer één onderwerp op het Mobile World Congress. Qualcomm zal demonstreren wat er al mogelijk is met de NPU's van de huidige en toekomstige Snapdragon-platforms op AI-pc's, smartphones, IoT-apparaten en zelfs auto's. Het sleutelwoord is "op het apparaat", d.w.z. niet uitbesteed aan de cloud. Het sleutelwoord is "op het apparaat", d.w.z. niet uitbesteed aan de cloud. Snelheidsfanaten kijken waarschijnlijk reikhalzend uit naar bijvoorbeeld de Snapdragon X Elite, die zijn dominantie bewijst in een directe AI-test met een Intel Meteor Lake-chip.

Alexander Fagot (vertaald door Ninh Duy), Published 26-02-2024 🇺🇸 🇩🇪 ...

AI Smartphone Laptop / Notebook

Sinds OpenAI in 2022 voor het eerst ChatGPT presenteerde aan het verbaasde wereldpubliek, is het onderwerp generatieve AI niet uit de krantenkoppen verdwenen, of het nu gaat om beursbrieven of de techsector. De afkorting voor kunstmatige intelligentie was ook alomtegenwoordig op het Mobile World Congress 2022. Het is echter belangrijk om te onderscheiden waar kunstmatige intelligentie haar thuis heeft. U kunt dit zien in de nieuwe Galaxy S24 "AI-telefoon" met veel nieuwe Galaxy Ai-functieshoewel sommige functies direct op het apparaat draaien en ook offline werken, hebben veel functies toegang tot de cloud nodig.

"On-device" is daarom een belangrijke factor, bijvoorbeeld om redenen van gegevensbescherming, maar natuurlijk ook vanwege de offline mogelijkheden en prestaties, ongeacht de beschikbaarheid van de betreffende cloudprovider. Op het MWC 2024 in Barcelona, dat vandaag begint, demonstreerde Qualcomm de huidige technische mogelijkheden van AI-algoritmen die direct op het apparaat draaien of wat binnenkort mogelijk zal zijn, uiterlijk in de zomer, wanneer de eerste Snapdragon X Elite-gebaseerde AI-pc's op de markt komen.

Snapdragon X Elite NPU tegen Intel Core Ultra 7 155H

In de bovenstaande demonstratievideo wordt een afbeelding gegenereerd met behulp van Stable Diffusion 1.5 in de opensource-editor Gimp met behulp van generatieve AI: Links ziet u de 45 TOPs Hexagon NPU in het Snapdragon X Elite-demotoapparaat, en rechts de Intel-laptop met Core Ultra 7 155H. Het rode Qualcomm testapparaat, al bekend van de bekend van de Qualcomm-top in oktober 2023voltooide de beeldgeneratie in 7,25 seconden, drie keer sneller dan de Intel-pc ernaast, die er 22,26 seconden over deed.

De tweede test is bijna nog indrukwekkender: Terwijl de Snapdragon X Elite laptop elke seconde een afbeelding uitspuugt, duurt het genereren van afbeeldingen bij Intel gemiddeld 12 seconden, ook al heeft Meteor Lake ook een geïntegreerde NPU. Natuurlijk moet worden opgemerkt dat we de specifieke parameters van deze test niet kennen, maar in ieder geval in de wereld van Qualcomm hebben de Snapdragon X Elite-notebooks die in 2024 worden verwacht tastbare voordelen, vooral met on-device AI.

Individuele beeldaanpassing met LoRA op een Android telefoon

De demo hierboven is ook opwindend en laat voor het eerst zien hoe generatieve AI het resultaat kan aanpassen aan de wensen van de gebruiker met behulp van "Low Rank Adaptation" of kortweg LoRA. Of het nu gaat om katten met kristallen of noedels in plaats van klassieke vacht - er zijn vrijwel geen grenzen aan de verbeelding. Dit alles draait rechtstreeks op een Android telefoon met een Snapdragon-chip.

Eerste multimodale 7+ miljard parametermodel lokaal op een smartphone ...

Een andere primeur is het LMM (Large Multimodal Model) met meer dan 7 miljard parameters dat het AI-onderzoeksteam van Qualcomm heeft laten zien en dat lokaal draait op een Android telefoon. Bovenstaande video laat zien hoe kunstmatige intelligentie niet alleen tekst, maar ook spraak en afbeeldingen als invoer accepteert en gebruikt om een gesprek met de gebruiker te voeren. Het geheel wordt door Qualcomm LLAVA of Large Language and Vision Assistant genoemd.

... en natuurlijk ook op een Snapdragon X Elite PC

In de laatste demo hierboven draait een LMM met 7+ miljard parameters ook op een Windows-on-ARM PC, uiteraard gebaseerd op de Snapdragon X Elite, die ook audiobestanden als invoer accepteert en deze kan analyseren - in dit geval bijvoorbeeld muziek. Qualcomm noemt dit Audio Reasoning. Naast deze demo's kondigde Qualcomm op MWC 2024 ook de AI Hub aan, waarmee app-ontwikkelaars hun applicaties in een handomdraai AI-ready kunnen maken. Qualcomm heeft ook nieuwe hardware op het gebied van communicatie. Lees meer over de Snapdragon X80 5G-modem en de FastConnect 7900, de eerste chip die Wi-Fi 7, Bluetooth 5.4 en Ultrawideband combineert, hier.

Met de Qualcomm AI Hub kunnen ontwikkelaars hun applicaties in een mum van tijd Ai-klaar maken.

AI in IoT-apparaten en huidige smartphones

Sommige IoT-apparaten voor consumenten op basis van Snapdragon maken ook al gebruik van AI-functies, met als prominent voorbeeld de controversiële AI Pin van Humane. De vlaggenschip smartphones die in het weekend werden gelanceerd - Xiaomi 14, Xiaomi 14 Ultraen Honor Magic6 Pro - geven elk een ander voorbeeld van hoe on-device AI gebruikt kan worden om verschillende prioriteiten te stellen. In het geval van Xiaomi is het belangrijkste aandachtsgebied de camera, terwijl Honor zich meer richt op de bediening door de gebruiker dan op taken.