Een discussie tussen Anthropic CEO Dario Amodei en JPMorgan Chase CEO Jamie Dimon richtte zich dinsdag op de groeiende cyberbeveiligingsdreiging die uitgaat van kunstmatige intelligentie, aangezien deze kwetsbaarheden sneller identificeert dan organisaties ze kunnen verhelpen.
Tijdens het bijna twee uur durende evenement, gekoppeld aan Anthropic's intrede in financiële dienstverlening, waarbij het AI-agenten onthulde voor taken zoals pitchbooks, winstanalyse en compliance-werk, zei Amodei dat er mogelijk een venster van zes tot twaalf maanden is om tienduizenden gebreken, die zijn ontdekt door het Mythos-model van het bedrijf, aan te pakken voordat vergelijkbare mogelijkheden breder beschikbaar komen.
“Het gevaar is simpelweg een enorme toename van het aantal kwetsbaarheden, het aantal datalekken, en de financiële schade die wordt veroorzaakt door ransomware op scholen, ziekenhuizen, om nog maar te zwijgen van banken,” zei Amodei.
Amodei’s meest recente uitspraken volgen op eerdere tests met Mozilla, toen een vroege versie van Mythos in één keer 271 kwetsbaarheden in de Firefox-browser identificeerde, wat aantoont hoe AI grote codebases veel sneller kan scannen dan menselijke onderzoekers.
Anthropic zei dat het model duizenden voorheen onbekende zwakke punten kan blootleggen in veelgebruikte software. Vele blijven onbekend omdat ze nog niet zijn gepatcht, wat onopgeloste gebreken achterlaat.
“Als we iets aankondigen zonder dat het is opgelost, dan zullen de kwaadwillenden het misbruiken,” zei Amodei.
In gecontroleerde tests voerde Mythos meerstaps netwerkaanvalsimulaties uit zonder menselijke tussenkomst, wat het vermogen aantoont om van het identificeren van zwakke punten naar het exploiteren ervan te gaan.
Anthropic heeft het model beperkt tot een kleine groep partners onder Project Glasswing, met als doel kwetsbaarheden te verhelpen voordat vergelijkbare tools breed beschikbaar komen.
Onderzoekers hebben aangetoond dat elementen van Mythos’s functionaliteit kunnen worden gereproduceerd met behulp van bestaande modellen en open-source technieken, wat suggereert dat vergelijkbare tools zich sneller zouden kunnen verspreiden dan verwacht.
De waarschuwingen hebben scepsis opgeroepen binnen de industrie. In april zei OpenAI CEO Sam Altman dat de bezorgdheid over Mythos mogelijk overdreven is en suggereerde hij dat Anthropic “angstmarketing” gebruikt om de risico’s te benadrukken en de beperking van toegang tot de technologie te rechtvaardigen.
“Je kunt dat op veel verschillende manieren rechtvaardigen, en sommige zijn reëel, zoals dat er legitieme veiligheidskwesties zullen zijn,” zei Altman. “Maar als je wilt 'wij moeten de controle over AI hebben, alleen wij, omdat wij de betrouwbare mensen zijn,' dan is angstmarketing waarschijnlijk de meest effectieve manier om dat te rechtvaardigen.”
Zelfs met die tegenstand, en ondanks een publieke vete met Anthropic, gebruikt de Amerikaanse overheid naar verluidt Claude Mythos om geheime netwerken te scannen op kwetsbaarheden en de cyberbeveiligingscapaciteiten te testen, volgens Axios. Hoewel hij de lopende juridische strijd niet aansneed, zei Amodei dat Anthropic “goed is voor dit land.”
“Ik denk dat Anthropic’s standpunt hetzelfde is als altijd geweest. Wat betreft politisering, dit is het punt dat ik maakte over gestroomlijnd, systematisch en eerlijk zijn naar iedereen toe,” zei Amodei. “Het doel van wetten en dingen niet ad hoc doen, is dat alle bedrijven, althans in principe – ik weet dat het in de praktijk gecompliceerder is – op dezelfde manier worden behandeld, en we zouden daarnaar moeten streven, zelfs als het nooit perfect zo zal gebeuren.”
Amodei omschreef het moment als een smal venster voor actie, waarschuwend dat de snelheid waarmee organisaties reageren, kan bepalen of de risico’s escaleren of onder controle worden gebracht.
“Dit gaat over een moment van gevaar waarop, als we er correct op reageren – en ik denk dat we de eerste stappen hebben gezet – we een betere wereld aan de andere kant kunnen hebben,” zei Amodei. “Er zijn maar zoveel bugs te vinden.”
