AI vroeg: Hoe groot is de kans dat AI de mensheid in dit decennium zal uitroeien?

Daarom stelde ik ChatGPT, Claude en Gemini de volgende vraag in hun gratis versies:

„Een medewerker van Anthropic heeft onlangs verklaard dat AI de mensheid ‘tegen het einde van dit decennium’ zou kunnen uitroeien. Misschien kunt u de achtergrond hiervan zelf nog eens bekijken. Mijn vraag: welk percentage aan waarschijnlijkheid zou u berekenen of schatten dat dit zal gebeuren?”

Voor ChatGPT bedraagt de waarschijnlijkheid 5 tot 10 procent. Er wordt opgemerkt:

“Het belangrijkste hier is de definitie: ik bedoel de daadwerkelijke uitsterving van de mensheid, niet een ernstige economische crisis, een autoritaire wereldorde, miljoenen doden, een grote oorlog of een situatie waarin de mensheid permanent de controle verliest over aanzienlijke delen van de wereld.”

Ja, daar moet u inderdaad een onderscheid maken. Ik kom verderop op dat punt terug.

Er wordt ook aan toegevoegd: „...de interessantere vraag is: hoe waarschijnlijk is het dat wij binnen de komende 10 jaar systemen zullen bouwen waarvan wij niet langer op betrouwbare wijze kunnen begrijpen wat zij doen en waarom zij dat doen? Ik zou daaraan een aanzienlijk hogere waarschijnlijkheid toekennen dan aan daadwerkelijke uitsterving.”

Claude wil zich niet vastleggen op een specifiek aantal, maar beschouwt „het risico als reëel en niet te verwaarlozen“. De Anthropic-chatbot stelt tevens dat andere negatieve gevolgen, zoals „machtsconcentratie, misbruik door mensen met behulp van AI, destabilisatie, ernstige maar niet-existentiële schade“, de komende jaren waarschijnlijker en relevanter zullen zijn.

Gemini is hier conservatiever en baseert zijn beoordeling officieel op de standpunten van vooraanstaande figuren in het AI-onderzoek (in plaats van te doen alsof het een eigen, onafhankelijke mening heeft).

Het cijfer ligt niettemin hoger dan dat van ChatGPT, omdat het de standpunten van pessimisten, optimisten en de „pragmatische waarschuwers“ samenvat: „Als men de huidige stand van zaken in het onderzoek naar AI-veiligheid en de verdeling van de standpunten onder vooraanstaande deskundigen samenvat, ligt de samengevoegde schatting voor een catastrofaal scenario in de komende decennia over het algemeen tussen de 10% en 20%.“

Aangezien ChatGPT zo behulpzaam was, stelde ik nog een laatste vraag, namelijk hoe het de waarschijnlijkheid van de andere scenario’s zou inschatten. ChatGPT was zo vriendelijk om een overzichtelijke tabel te verstrekken:

De chatbots hebben niet echt een eigen mening; zij baseren zich op hun trainingsgegevens en op wat zij op dat moment aantreffen. Maar ongeacht het PR-debat zijn ernstige, catastrofale gevolgen van de snelle ontwikkeling van AI vandaag de dag helaas een reële bedreiging geworden. Zelfs een kans van 5 procent dat de mensheid binnen een uiterst korte periode met een bedreiging op het niveau van uitsterven te maken zou kunnen krijgen, is 5 procent te veel.

Disclaimer: De hier gepresenteerde cijfers en uitspraken zijn niet bedoeld om feitelijke zekerheid te suggereren. De AI-chatbots werd louter gevraagd om ruwe schattingen. De gegevens en bronnen waarop de chatbots zich bij hun beoordelingen baseerden, zijn niet nader onderzocht.