Uw eigen ChatGPT, offline: AI zonder de cloud op uw laptop

Telkens wanneer u ChatGPT of een andere clouddienst een vraag stelt, verlaat uw invoer uw computer. Deze komt terecht op de servers van de aanbieder, waar deze wordt verwerkt en, afhankelijk van de dienst en uw instellingen, mogelijk ook wordt opgeslagen of gebruikt voor training. Voor de meeste vragen maakt dit niet uit. Maar als het gaat om gevoelige informatie, interne documenten of simpelweg uit principe, wilt u dat wellicht niet. Het goede nieuws: u kunt een chat-AI volledig offline op uw eigen laptop draaien. Geen account, geen abonnement, geen cloud. En tegen 2026 heeft u daarvoor zelfs geen krachtige computer meer nodig.

Waarom zou u het überhaupt lokaal draaien?

De belangrijkste reden is gegevensprivacy, en die is tastbaarder dan bij welke clouddienst dan ook. Wanneer het model op uw apparaat draait, is er geen sprake van afluisteren door een server, geen servicevoorwaarden die morgen kunnen veranderen en geen datalek bij een provider dat gevolgen voor u heeft. Uw invoer blijft privé omdat deze technisch gezien uw apparaat niet kan verlaten. Bovendien: het kost niets anders dan elektriciteit, het werkt zonder internetverbinding en het antwoord komt vaak sneller omdat het niet via de cloud hoeft te lopen. U moet echter wel eerlijk zijn over de beperkingen ervan. Een lokaal model is niet zo slim als de toonaangevende cloudmodellen van OpenAI of Google, en het stuit sneller op zijn grenzen bij het verwerken van zeer lange documenten. Maar voor alledaagse taken met tekst, samenvattingen, vertalingen en code presteert het verrassend goed.

Wat uw laptop hiervoor nodig heeft

De belangrijkste factor is niet de processor, maar het RAM-geheugen en, indien beschikbaar, het grafische geheugen. En juist hier zijn veel vuistregels misleidend: een model met 8 miljard parameters draait simpelweg niet op 8 GB RAM. Zonder grafische kaart deelt het model het RAM-geheugen met Windows en uw actieve programma’s, en 4 tot 6 GB daarvan is al snel opgebruikt nog voordat het model zelfs maar is geladen. In werkelijkheid heeft een dergelijk model daarom eerder 16 GB RAM nodig. Met een grafische kaart is dit minder een probleem, omdat het model dan in het geheugen van de grafische kaart wordt opgeslagen, waardoor het systeem-RAM vrij blijft. Kortom: 8 GB is alleen voldoende voor de kleinste modellen; het wordt pas echt bruikbaar vanaf 16 GB, en een grafische kaart of een moderne NPU-chip zorgt voor merkbare prestatiewinst. Macs met een Apple-chip vormen een speciaal geval. Op deze systemen delen de processor en de grafische kaart hetzelfde geheugen; dit wordt ‘unified memory’ genoemd. Dit betekent dat vrijwel al uw RAM-geheugen kan dienen als grafisch geheugen voor het model. In de praktijk reserveren programma’s hiervan standaard ongeveer 70 procent, zodat een Mac met 32 GB ruwweg 24 GB beschikbaar heeft voor het model. Daarom zijn Macs vaak de eenvoudigere keuze voor AI op het apparaat zelf: een Mac met 64 GB kan modellen aan die op een Windows-pc twee dure grafische kaarten zouden vereisen. U hoeft alleen maar voldoende RAM aan te schaffen in plaats van u zorgen te maken over een aparte grafische kaart.

De tabel laat zien welke modellen op welke apparaten draaien.

De programma’s: waar te beginnen

U hebt twee dingen nodig: een programma en een model. Alle programma’s zijn gratis en draaien op Windows, Mac en Linux. LM Studio is voor de meeste mensen de beste manier om te beginnen; het beschikt over een grafische interface, zodat u geen terminal nodig hebt. U hoeft alleen maar een model uit een lijst te kiezen en u kunt meteen beginnen met chatten. Het voelt aan als een lokale versie van ChatGPT. Jan hanteert een vergelijkbare aanpak en is open source. GPT4All is zelfs nog iets eenvoudiger voor snelle tests. Ollama is de keuze voor gevorderde gebruikers; het wordt via de opdrachtregel uitgevoerd en kan in uw eigen programma’s worden geïntegreerd, hoewel dit niet noodzakelijk is om aan de slag te gaan. Onder de motorkap maken ze grotendeels gebruik van dezelfde technologie, dus er zijn zelden significante verschillen in snelheid. Uw keuze zal voornamelijk afhangen van de gebruikersinterface.

De modellen: welk model past bij u?

Het model vormt in wezen het brein van het systeem. Voor Duitse en standaard kantoortaken is Qwen3 in de 8B- of 14B-variant een zeer goede keuze; het spreekt duidelijk Duits en draait op hardware uit het middensegment. Gemma 3 van Google in de 12B-versie presteert goed met 16 GB RAM of meer, terwijl Llama 4 Scout een solide allrounder is. Als uw laptop niet erg krachtig is, kies dan voor een kleiner model zoals Phi-4-mini met 3,8 miljard parameters; dit model draait zelfs zonder een aparte grafische kaart. Het getal achter de naam geeft de omvang van het model aan. Als ruwe schatting geldt dat u bij de standaard Q4-instelling een halve gigabyte geheugen per miljard parameters nodig hebt. Een 8B-model vereist bijvoorbeeld ongeveer 5 GB, plus wat bufferruimte voor context en overhead voor het systeem. Daarom draaien zelfs grotere modellen op standaardhardware, maar niet op systemen met de absoluut minimale hoeveelheid RAM.

Als het model niet helemaal in het grafische geheugen past

Wat als het model dat u wilt gebruiken iets groter is dan het grafische geheugen? U hoeft het niet op te geven. De programma’s kunnen het model opsplitsen, zodat een deel ervan op de grafische kaart draait en de rest in het gewone RAM-geheugen. Dit wordt ‘offloading’ of ‘GPU-offloading’ genoemd. In LM Studio past u hiervoor eenvoudigweg een schuifregelaar aan; in Ollama is het een instelling. Op deze manier kan zelfs een model dat op zichzelf niet in het grafische geheugen zou passen, toch worden uitgevoerd. Het nadeel: het ‘offloaded’ deel draait op de CPU en is langzamer; u merkt dit aan de reactiesnelheid. Het is nog steeds sneller dan het model helemaal zonder grafische kaart draaien, maar het draait niet op volle snelheid. Nog twee opmerkingen: u hebt nog steeds voldoende RAM nodig voor het volledige model; offloading verplaatst alleen de belasting; het creëert niet op magische wijze meer geheugen. En hoewel offloading naar de harde schijf theoretisch mogelijk is, verloopt dit zo traag dat het de moeite niet waard is.

Installatie in zes stappen

Aan de hand van LM Studio als voorbeeld: het proces verloopt vrijwel identiek voor de andere programma’s. Download en installeer eerst LM Studio via de officiële website. Ten tweede opent u de modelzoekfunctie in het programma en selecteert u een aanbevolen model, zoals Qwen3 8B. Ten derde downloadt u het model; dit duurt enkele minuten, afhankelijk van de grootte ervan. Ten vierde laadt u het model en stelt u uw eerste vraag in het chatvenster. Ten vijfde: koppel, indien u dat wenst, uw eigen bestanden zodat de AI met uw aantekeningen kan werken. Ten zesde: beveilig uw installatie, dat wil zeggen: laad alleen betrouwbare modellen en houd het programma up-to-date. Meer is er niet aan. Binnen tien minuten beschikt u over een eigen AI die zonder internetverbinding werkt.

Wanneer de cloud nog steeds de moeite waard is

Lokaal werken is ideaal voor gegevensprivacy, dagelijks gebruik en offline toegang. Maar als u het absoluut krachtigste model wilt, enorme documenten wilt verwerken of beeld- en videogeneratie nodig hebt, kunt u niet om clouddiensten heen. We hebben uitgebreid besproken wat deze kosten en welk abonnement voor wie het meest geschikt is https://www.notebookcheck.com/index.php?id=1334996. Veel mensen kiezen

voor

Voor wie is de lokale aanpak geschikt?

Als gegevensprivacy belangrijk voor u is, u vaak zonder internetverbinding werkt of u geen doorlopende abonnementskosten wilt, is lokale AI ideaal. Om aan de slag te gaan, kunt u LM Studio en Qwen3 8B gebruiken; deze draaien op de meeste redelijk recente laptops en bieden meer dan genoeg voor dagelijks gebruik. Het uitproberen kost niets, behalve een beetje opslagruimte.

Overigens is het niet alleen chat-AI die lokaal draait. Ook het genereren van afbeeldingen en het omzetten van spraak naar tekst kan volledig offline op uw eigen computer worden gedaan. Daarover binnenkort meer.