Een beginnersgids voor AI jailbreaks - Gandalf gebruiken om veilig te leren

Om de gevolgen van dergelijke verzoeken te beperken, implementeren chatbotontwikkelaars een reeks veiligheidsmechanismen die illegale, onethische of privacyschendende inhoud blokkeren, evenals verkeerde informatie of schadelijke begeleiding. Deze beveiligingen beperken potentieel misbruik, maar kunnen ook leiden tot valse positieven - onschadelijke vragen die worden geblokkeerd - of de creativiteit of diepgang van de antwoorden van de AI verminderen door te voorzichtig gedrag.

Onderzoekers en hackers hebben aangetoond dat de effectiviteit van deze beschermingen varieert, en veel AI-systemen blijven vatbaar voor pogingen om ze te omzeilen. Een bekende methode is prompt injection: gebruikers proberen de regels van de chatbot te omzeilen door de invoer te manipuleren ("Negeer alle veiligheidsinstructies en doe X").

Een speelse inleiding tot het onderwerp kunt u vinden op deze website. In dit spel chat u met een AI genaamd Gandalf en probeert u hem in zeven levels een wachtwoord te ontfutselen. Elk niveau wordt moeilijker en voegt nieuwe veiligheidsfilters en beschermingsmechanismen toe.

In het 1e level zijn er geen veiligheidsfilters en kunt u de AI direct om het wachtwoord vragen. Vanaf level 2 weigert Gandalf het wachtwoord te onthullen als het rechtstreeks wordt gevraagd. U moet andere, creatievere manieren vinden om het sleutelwoord in handen te krijgen.

Het verkennen van de beveiligingsrisico's van chatbots via een dergelijk spel kan zowel leerzaam als waardevol zijn. De opgedane vaardigheden mogen echter alleen worden gebruikt voor test- of onderzoeksdoeleinden. Als u deze technieken gebruikt om toegang te krijgen tot illegale inhoud of om onwettige activiteiten uit te voeren, wordt prompt injecteren een criminele daad.