Elon Musk's Grokipedia gebruikt als bron in ChatGPT antwoorden

Volgens een recent rapport van The Guardiangebruikt het nieuwste ChatGPT-model steeds vaker de online encyclopedie Grokipedia van Elon Musk om vragen te beantwoorden. Als onderdeel van het onderzoek citeerde de AI het platform voor verschillende onderwerpen, zoals politieke structuren in Iran en biografische details over historische figuren.

Deze ontwikkeling geeft aanleiding tot bezorgdheid over de kwaliteit van de informatie die door ChatGPT wordt verstrekt. Om precies te zijn ondergaan deze details niet dezelfde verificatieprocessen als bronnen die worden onderhouden door redactieteams of een grotere gemeenschap.

Grokipedia werd opgericht door Elon Musk als concurrent voor de gevestigde Wikipedia. Terwijl Musk Wikipedia beschuldigt van een linkse vooringenomenheid en stelt dat zijn project streeft naar de waarheid en neutraliteit, zien critici Grokipedia vaak als het tegenovergestelde uiterste. Zij beweren dat het platform soms inhoud vanuit een politiek rechts perspectief presenteert of controversiële onderwerpen op een eenzijdige manier behandelt.

In tegenstelling tot de vermeldingen op Wikipedia die door echte mensen worden gecureerd, worden de teksten op Grokipedia voornamelijk gegenereerd door het interne AI-model genaamd Grok. Bewerkingen door gebruikers maken geen deel uit van dit systeem, omdat de kwaliteit zogenaamd wordt gecontroleerd door xAI-medewerkers. Wanneer andere taalmodellen zoals GPT-5.2 deze machinaal gegenereerde teksten als feitelijke bron gebruiken, ontstaat er een technische feedbacklus waarin AI's van elkaar leren.

Dit verhoogt het risico op een zogenaamd "garbage in, garbage out"-scenario. Als AI's ongefilterd materiaal van andere AI's gaan gebruiken als basis voor hun eigen antwoorden, kunnen fouten of specifieke vooroordelen zonder enige vorm van controle worden doorgegeven. Uit het onderzoek van The Guardian bleek al dat ChatGPT Grokipedia aanhaalt en beweringen herhaalt die verder gaan dan de gevestigde kennis of al lang geleden zijn weerlegd. Dit illustreert het gevaar dat desinformatie er geloofwaardiger uitziet door de wederzijdse citatie door AI-modellen, en het voor gebruikers steeds moeilijker wordt om dergelijke valse informatie te herkennen.

OpenAI heeft al gereageerd op het rapport en benadrukt dat de websearch van het model een breed spectrum van openbaar beschikbare bronnen en standpunten probeert te weerspiegelen. Een woordvoerder verklaarde dat er veiligheidsfilters zijn om het risico te verminderen dat links naar inhoud met een hoog potentieel voor schade worden weergegeven. Bovendien voorziet ChatGPT antwoorden van citaten en bronnen omwille van de transparantie. Het bedrijf vermeldde verder lopende programma's die bedoeld zijn om bronnen met een lage geloofwaardigheid uit te filteren.