Apple en Microsoft sluiten zich aan bij Anthropic in nieuw $100 miljoen AI-beveiligingsproject

Anthropic's Project Glasswing is een nieuw cyberbeveiligingsinitiatief, bedoeld om kwetsbaarheden in de wereldwijde software-infrastructuur te identificeren en te verhelpen. Het programma omvat grote spelers zoals Amazon Web Services, Applebroadcom, Cisco, Google, Microsoft, Nvidia, en de Linux Foundation. Deze partners zullen een nieuw grensmodel gebruiken om first-party en open-source systemen te scannen en te harden.

Het project is gebaseerd op Claude Mythos Preview, een gespecialiseerd model waarvan Anthropic beweert dat het een coderingsniveau heeft bereikt dat de meeste mensen kan overtreffen bij het vinden van software-exploits. In voorlopige tests zegt Anthropic dat het model zelfstandig duizenden zeer ernstige kwetsbaarheden heeft ontdekt in de belangrijkste besturingssystemen en webbrowsers. Hieronder bevond zich een 27 jaar oud lek in OpenBSD en een 16 jaar oud lek in FFmpeg dat miljoenen eerdere geautomatiseerde tests had overleefd.

Anthropic stelt $100 miljoen beschikbaar aan credits voor modelgebruik voor deelnemers aan het project. Het bedrijf doneert ook $4 miljoen aan open-source organisaties, met name $2,5 miljoen aan Alpha-Omega en OpenSSF en $1,5 miljoen aan de Apache Software Foundation. Het bedrijf is echter niet van plan om Claude Mythos Preview algemeen beschikbaar te maken voor het publiek. In plaats daarvan zal het model toegankelijk zijn voor gescreende organisaties via de Claude API, Amazon Bedrock, Google Cloud's Vertex AI en Microsoft Foundry. Het gebruik voor deze deelnemers zal $25 per miljoen invoertokens en $125 per miljoen uitvoertokens kosten.

Project Glasswing zal naar verwachting enkele maanden lopen - Anthropic heeft ook een openbaar rapport binnen 90 dagen beloofd. Het rapport zal een gedetailleerd overzicht geven van de ontdekte kwetsbaarheden, samen met een lijst met praktische aanbevelingen om de beveiligingspraktijken te verbeteren, zoals geautomatiseerde patching en verbeterde beveiliging van de toeleveringsketen. Anthropic verklaarde dat het ook in gesprek is met ambtenaren van de Amerikaanse overheid over de offensieve en defensieve mogelijkheden van het model.