OpenAI onthult ChatGPT Agent: AI voor complexe taken met een hoger risico op financiële diefstal en het maken van biowapens

OpenAI heeft ChatGPT Agent uitgebracht, een nieuwe AI die het vermogen combineert om diepgaand onderzoek te doen met volledige toegang tot computerbestanden, terminal shells en het internet. De Agent kan complexe vragen beter beantwoorden dan eerdere AI-modellen van het bedrijf, maar brengt ook grotere risico's met zich mee, waaronder financiële diefstal en het maken van biowapens.

De Agent draait in een gevirtualiseerde computeromgeving die ontworpen is om te voorkomen dat hij ongebreideld zijn gang kan gaan. Binnen deze virtuele computer heeft de AI toegang tot bestanden en het internet voor gegevens en kan hij scripts maken in een terminal-shell terwijl hij de antwoorden zoekt voor complexe vragen, zoals vragen om financiële of onderzoeksgegevens te analyseren en te modelleren. API-toegang is ook mogelijk voor bedrijven die een interface willen maken tussen de AI en bedrijfsgegevens. De AI kan communiceren met apps, zoals tekstverwerkers en spreadsheets, om rapporten te maken.

Hoewel voor toegang tot risicovolle acties, zoals het voltooien van financiële transacties, een expliciete bevestiging van de gebruiker nodig is, scoort ChatGPT Agent nu hoog in zijn Biologisch en Chemisch risicodit betekent dat "het model zinvolle contrafeitelijke assistentie kan bieden aan "beginnende" actoren, zodat zij bekende biologische of chemische dreigingen kunnen creëren" Het is ook waarschijnlijker dat het ongewenste financiële taken met een hoge inzet uitvoert, zoals ongeautoriseerde overdrachten van bitcoins, vergeleken met de eerdere Operator 4o en o3 modellen van het bedrijf.

Gebruikers met Pro, Plus, Team, Enterprise of Educatieve accounts in Amerika kunnen toegang krijgen tot ChatGPT Agent wanneer deze in de komende weken wordt uitgerold. Deze accounts vereisen doorgaans een abonnement van $20 per maand of meer. Extra servicegebieden, zoals de Europese Economische Ruimte en Zwitserland, zullen later beschikbaar komen.

Lezers die zich zorgen maken over diefstal van AI-bitcoin kunnen overwegen om ze offline op te slaan in een koude portefeuille, zoals deze Trezor of deze Ledger die op Amazon wordt verkocht, terwijl ze wachten tot Agent klaar is met zijn werk.