Neurale netwerken in AI minder verbonden dan verwacht

Kunstmatige neurale netwerken blijven voor raadsels zorgen. Het is moeilijk om precies te ontcijferen hoe de informatie wordt samengesteld, de teksten worden gemaakt, waarom er grote fouten in sluipen en waarom sommige chatbots gewoon kapot gaan.

Een van de redenen hiervoor is dat de basisstructuur van deze netwerken lijkt op die van een brein. Het zijn niet de gegevenspunten en individuele stukjes informatie die de manier waarop ze werken kenmerken, maar het bijna oneindige aantal mogelijke koppelingen daartussen.

De neurale netwerken van kunstmatige intelligentie blijven echter vaak op een veel eenvoudiger niveau, zoals een recente studie op https://arxiv.org/pdf/2308.09124.pdf heeft ontdekt.

AI gaat op een veel minder complexe manier om met basisinformatie dan eerder werd verwacht. In plaats van bijvoorbeeld alle mogelijke antwoorden op een vraag te verzamelen en te antwoorden met het meest waarschijnlijke, want meest gelinkte, feit, wordt een lineair verband gebruikt.

De onderzoekers waren in staat om in totaal 47 verschillende lineaire koppelingen in de onderzochte kunstmatige intelligentie te identificeren. Dit werd bereikt door middel van een overeenkomstige vraag en de daaropvolgende tracering van het signaalpad door het neurale netwerk.

En dit was verrassend kort voor veel feiten. Vragen over bijvoorbeeld het instrument dat door bekende artiesten wordt bespeeld, het type sport dat door professionele atleten wordt beoefend of zelfs de hoofdsteden van individuele landen konden met één enkele link worden beantwoord. Daarentegen is het moeilijker om antwoorden op minder voor de hand liggende vragen in het netwerk te vinden.

Toch kan worden aangetoond dat veel informatie direct aan elkaar gekoppeld is en nauwelijks als netwerk georganiseerd is. Begrijpen hoe zo'n chatbot zijn kennis uitvoert en hoe het signaal betrouwbaar kan worden getraceerd in het netwerk, zou in ieder geval moeten helpen om de soms merkwaardige, maar soms moeilijk te herkennen fouten van een AI te begrijpen.

Alleen al het inzicht in hoe het werkt met zijn verrassend lineaire structuur is veel waard.