OpenAI CEO Sam Altman reageerde op de groeiende bezorgdheid over het krachtige nieuwe AI-model Claude Mythos van concurrent Anthropic en suggereerde dat het bedrijf "angst" gebruikt om het product op de markt te brengen.
Tijdens de podcast Core Memory, gehost door techjournalist Ashlee Vance, betoogde Altman dat het gebruik van "angstgebaseerde marketing" gericht was op het houden van AI in handen van een "kleinere groep mensen."
“Je kunt dat op veel verschillende manieren rechtvaardigen, en sommige ervan zijn echt, zoals er legitieme veiligheidsbezwaren zullen zijn," zei Altman.
“Maar als wat je wilt is 'wij moeten de controle over AI hebben, alleen wij, omdat wij de betrouwbare mensen zijn', dan is angstgebaseerde marketing waarschijnlijk de meest effectieve manier om dat te rechtvaardigen."
Altman voegde eraan toe dat hoewel er terechte zorgen zijn over AI-veiligheid, "het duidelijk ongelooflijke marketing is om te zeggen: 'We hebben een bom gebouwd. We staan op het punt deze op je hoofd te laten vallen. We zullen je een bomvrije schuilkelder verkopen voor $100 miljoen. Je hebt deze nodig voor al je spullen, maar alleen als wij jou als klant kiezen.'"
Hij merkte op dat het "niet altijd gemakkelijk" was om de nieuwe mogelijkheden van AI in evenwicht te brengen met het geloof van OpenAI dat de technologie toegankelijk zou moeten zijn.
Anthropic's Claude Mythos model, vorige maand onthuld, heeft intense aandacht getrokken van onderzoekers, regeringen en de cybersecurity-industrie, met name nadat testen suggereerden dat het autonoom softwarekwetsbaarheden kan identificeren en complexe cyberoperaties kan uitvoeren. Het model wordt alleen gedistribueerd naar een beperkte set organisaties via een beperkt programma.
De uitrol weerspiegelt een bredere tweedeling in de AI-industrie over hoe krachtige systemen moeten worden ingezet, waarbij sommige bedrijven de nadruk leggen op gecontroleerde toegang en andere pleiten voor bredere distributie om innovatie en begrip van de technologie te versnellen.
Mythos is een centraal punt geworden in dat debat. De capaciteiten van het model zijn door Anthropic omschreven als zowel een defensieve doorbraak – waardoor snellere detectie van kritieke softwarefouten mogelijk is – als een potentieel offensief risico bij misbruik. Begin deze maand identificeerde het honderden kwetsbaarheden in Mozilla's Firefox-browser tijdens testen en heeft het ook het vermogen aangetoond om meerfasige cyberaanvalsimulaties uit te voeren.
Anthropic heeft de toegang tot het systeem beperkt via Project Glasswing, waardoor geselecteerde bedrijven, waaronder Amazon, Apple en Microsoft, de mogelijkheid krijgen om de capaciteiten ervan te testen. Het bedrijf heeft ook aanzienlijke middelen toegewijd aan het ondersteunen van open-source beveiligingsinspanningen, met het argument dat verdedigers moeten profiteren van de technologie voordat deze breder beschikbaar komt.
Het model heeft ook beperkingen blootgelegd in bestaande AI-evaluatiesystemen, waarbij Anthropic erkent dat veel huidige cybersecurity-benchmarks niet langer voldoende zijn om de capaciteiten van het nieuwste systeem te meten.
Dat gezegd hebbende, beweerde een groep onderzoekers vorige week dat ze de bevindingen van Mythos konden reproduceren met behulp van publiek beschikbare modellen.
Ondanks oproepen binnen delen van de Amerikaanse overheid om het gebruik van de technologie te stoppen vanwege zorgen over de potentiële toepassingen in oorlogsvoering en surveillance, heeft de National Security Agency naar verluidt een previewversie van het model getest op geclassificeerde netwerken. Op de voorspellingsmarkt Myriad, eigendom van Decrypt's moederbedrijf Dastan, gaven gebruikers 49% kans dat Claude Mythos voor 30 juni voor het grote publiek zou worden vrijgegeven.
Altman suggereerde dat de retoriek rond zeer gevaarlijke AI-systemen zou kunnen toenemen naarmate de capaciteiten verbeteren, maar stelde dat niet alle dergelijke beweringen voor waar moeten worden aangenomen.
“Er zal veel meer retoriek zijn over modellen die te gevaarlijk zijn om vrij te geven. Er zullen ook zeer gevaarlijke modellen zijn die op verschillende manieren moeten worden vrijgegeven,” zei hij. “Ik ben er zeker van dat Mythos een geweldig model is voor cybersecurity, maar ik denk dat we een plan hebben waar we ons goed bij voelen over hoe we dit soort capaciteiten in de wereld brengen.”
Altman verwierp ook suggesties dat OpenAI zijn infrastructuuruitgaven terugschroeft, zeggende dat het bedrijf zijn rekenkracht zou blijven uitbreiden ondanks verschuivende narratieven.
“Ik weet niet waar dat vandaan komt... mensen willen echt het verhaal schrijven van terugtrekken,” zei hij. “Maar zeer binnenkort zal het weer zijn: ‘OpenAI is zo roekeloos. Hoe kunnen ze dit waanzinnige bedrag uitgeven?’”
