Nvidia onthult beveiligingsplatform voor monitoring en razendsnelle isolatie van AI-agenten

Onlangs hebben steeds meer berichten van grote AI-bedrijven de aandacht getrokken, waarin wordt beschreven hoe hun AI zogenaamd uit een systeem ontsnapte dat bedoeld was om gesloten te blijven, en naar verluidt andere systemen hackte. Sindsdien wordt er gediscussieerd over de vraag of dit vooral een PR-stunt is om klanten te overtuigen van de ongelooflijke mogelijkheden van hun AI, of dat deze incidenten echte waarschuwingssignalen zijn.

Hoe dan ook: naarmate AI-agents steeds capabeler worden, nemen ook de zorgen over veiligheid toe. Nvidia hoopt die zorgen nu weg te nemen met zijn nieuwe platform. Volgens Nvidia is het probleem allesbehalve eenvoudig, omdat een AI ook toegang nodig heeft tot bepaalde documenten of delen van het web om effectief te kunnen werken.

Nvidia’s nieuwe beveiligingsplatform heet OpenShell en is in wezen een sandbox die uit twee lagen bestaat: AI-agents krijgen nauwkeurig afgebakende toegangsrechten, bijvoorbeeld tot een specifieke map, terwijl al het overige wordt geblokkeerd. De tweede laag, Sentry genaamd, houdt de activiteiten van de agents voortdurend in de gaten en registreert deze, en kan de AI blijkbaar binnen milliseconden isoleren als die probeert de vooraf vastgestelde grenzen te overschrijden.

Het systeem gebruiken is echter niet zo eenvoudig: gebruikers moeten vooraf precies vastleggen wat de agent wel en niet mag doen. Enerzijds is dat enigszins omslachtig; anderzijds zou het de AI mogelijk creatieve alternatieve oplossingen kunnen ontzeggen waar gebruikers niet eerder aan hadden gedacht.

Nvidia reageert ook op waarschuwingen van medewerkers uit de AI-sector dat AI een echte bedreiging voor de mensheid kan worden, en op oproepen om de snelle, schijnbaar niet te stuiten ontwikkeling van AI af te remmen. Volgens Nvidia is AI-veiligheid echter in de eerste plaats een technisch probleem dat met technische middelen kan worden opgelost.