Onderzoek ontdekt: Gebruikers zijn de echte oorzaak van AI-hallucinaties

Fictieve feiten, verzonnen citaten of bronnen die volledig verzonnen lijken - AI kan ongelooflijk nuttig zijn, maar draagt nog steeds het risico van hallucinaties in zich. Volgens onderzoekers van OpenAI is een sleutelfactor een eenvoudig beloningsmechanisme dat de AI aanmoedigt om gissingen te doen. Een studie op https://www.arxiv.org/pdf/2510.02645 gepubliceerd op 3 oktober op arXiv.org suggereert ook dat gebruikers zelf een rol kunnen spelen bij het opwekken van deze hallucinaties.

De studie getiteld "Mind the Gap: Linguistic Divergence and Adaptation Strategies in Human-LLM Assistant vs. Human-Human Interactions" suggereert dat veel van de zogenaamde AI-hallucinaties kunnen voortkomen uit de manier waarop gebruikers communiceren. Onderzoekers analyseerden meer dan 13.000 gesprekken tussen mensen en 1.357 echte interacties tussen mensen en AI-chatbots. De bevindingen tonen aan dat gebruikers de neiging hebben om heel anders te schrijven wanneer ze met AI's praten - berichten zijn korter, minder grammaticaal, minder beleefd en gebruiken een beperktere woordenschat. Deze verschillen kunnen van invloed zijn op hoe duidelijk en zelfverzekerd taalmodellen reageren.

De analyse richtte zich op zes linguïstische dimensies, waaronder grammatica, beleefdheid, woordenschat en informatie-inhoud. Hoewel de grammatica en beleefdheid meer dan 5% en 14% hoger waren in conversaties tussen mensen, bleef de feitelijk overgebrachte informatie vrijwel identiek. Met andere woorden, gebruikers delen dezelfde inhoud met AI's - maar op een merkbaar hardere toon.

De onderzoekers noemen dit een "stijlverschuiving" Aangezien grote taalmodellen zoals ChatGPT of Claude getraind zijn op goed gestructureerde en beleefde taal, kan een plotselinge verandering in toon of stijl verkeerde interpretaties of verzonnen details veroorzaken. Met andere woorden, AI's hebben meer kans om te hallucineren als ze onduidelijke, onbeleefde of slecht geschreven input ontvangen.

Mogelijke oplossingen aan zowel de AI- als de gebruikerskant

Als AI-modellen worden getraind om met een breder scala aan taalstijlen om te gaan, verbetert hun vermogen om de bedoeling van gebruikers te begrijpen - met minstens 3%, volgens het onderzoek. De onderzoekers testten ook een tweede aanpak: het automatisch parafraseren van gebruikersinvoer in realtime. Dit verminderde de prestaties echter enigszins, omdat emotionele en contextuele nuances vaak verloren gingen. Daarom raden de auteurs aan om van stijlbewuste training een nieuwe standaard te maken in de fijnafstemming van AI.

Als u wilt dat uw AI-assistent minder verzonnen antwoorden geeft, stelt het onderzoek voor om hem meer als een mens te behandelen - door in volledige zinnen te schrijven, de juiste grammatica te gebruiken, een duidelijke stijl aan te houden en een beleefde toon aan te slaan.