Anthropic hat bekannt gegeben, dass es sein KI-Modell, Claude Mythos Preview, nur an eine ausgewählte Gruppe von Unternehmen ausrollt, nachdem das neue Modell Tausende kritischer Schwachstellen in Betriebssystemen, Webbrowsern und anderer Software entdeckt hat.
Das neue Allzweckmodell, so Anthropic, habe auch schwerwiegende Sicherheitslücken in jedem großen Betriebssystem und Webbrowser gefunden.
„Angesichts der Geschwindigkeit des KI-Fortschritts wird es nicht lange dauern, bis sich solche Fähigkeiten verbreiten, potenziell auch über Akteure hinaus, die sich ihrer sicheren Bereitstellung verschrieben haben.“
KI wurde bereits von Hackern für Cyberangriffe genutzt. Laut AllAboutAI gab es einen Anstieg der KI-gestützten Cyberangriffe um 72 % gegenüber dem Vorjahr, wobei 87 % der globalen Organisationen im Jahr 2025 KI-fähige Cyberangriffe erleben werden.
Anthropic äußerte Bedenken darüber, was passieren würde, wenn ähnliche KI-Fähigkeiten von böswilligen Akteuren genutzt würden.
Um dem entgegenzuwirken, kündigte Anthropic am Dienstag Project Glasswing an, eine neue Initiative, die mehr als 40 Unternehmen zusammenbringt, darunter Amazon Web Services, Apple, Cisco, Google, JPMorgan, die Linux Foundation, Microsoft und Nvidia.
Project Glasswing wird die Fähigkeiten von Claude Mythos Preview nutzen, um defensiv Fehler zu finden, die Daten mit seinen Partnern zu teilen und Bedrohungen zuvorzukommen, indem kritische Schwachstellen behoben werden, bevor böswillige Akteure sie ausnutzen können.
Eine Zero-Day-Schwachstelle ist ein Softwarefehler, der ausgenutzt werden kann, bevor jemand mit der Fähigkeit, ihn zu beheben, überhaupt von seiner Existenz weiß. Deren Entdeckung und Behebung erforderte historisch seltene, teure menschliche Expertise, aber KI könnte den Umfang und die Geschwindigkeit der Erkennung verändern.
Anthropic sagte, die von ihm gefundenen Schwachstellen seien „oft subtil oder schwer zu erkennen“.
Viele davon sind 10 oder 20 Jahre alt, wobei der älteste bisher gefundene ein inzwischen behobener 27 Jahre alter Fehler in OpenBSD ist – einem Betriebssystem, das vor allem für seine Sicherheit bekannt ist, fügte es hinzu.
Es wurden auch ein 16 Jahre alter Fehler in der FFmpeg-Medienverarbeitungsbibliothek, eine 17 Jahre alte Remote-Code-Execution-Schwachstelle im Open-Source-Betriebssystem FreeBSD und zahlreiche Schwachstellen im Linux-Kernel entdeckt.
Verwandt: Cybersecurity-Aktien fallen, nachdem Anthropic Claude Code Security enthüllt
Mythos Preview identifizierte auch mehrere Schwachstellen in den weltweit beliebtesten Kryptographiebibliotheken, Algorithmen und Protokollen, darunter TLS, AES-GCM und SSH.
Es wurde hinzugefügt, dass Webanwendungen „eine Vielzahl von Schwachstellen“ enthalten, die von Cross-Site-Scripting und SQL-Injection bis hin zu domänenspezifischen Schwachstellen wie Cross-Site Request Forgery reichen, welche oft bei Phishing-Angriffen verwendet wird.
Anthropic behauptete, dass 99 % der von ihm gefundenen Schwachstellen noch nicht behoben wurden, „weshalb es unverantwortlich wäre, Details darüber preiszugeben“.
Anthropic sagte, dies sei wahrscheinlich nur der Anfang eines Trends, und die „Arbeit zur Verteidigung der Cyber-Infrastruktur der Welt könnte Jahre dauern“, aber KI werde dazu beitragen, Software und Systeme zu härten.
„Langfristig erwarten wir, dass die Verteidigungsfähigkeiten dominieren werden: dass die Welt sicherer wird, mit besser gehärteter Software – zu einem großen Teil durch Code, der von diesen Modellen geschrieben wurde. Doch die Übergangszeit wird schwierig sein.“
Magazin: Niemand weiß, ob quantensichere Kryptographie überhaupt funktionieren wird
