Der Firefox-Entwickler Mozilla gab bekannt, dass eine frühe Version von Anthropic's Claude Mythos AI während interner Tests 271 Schwachstellen im Firefox-Browser identifiziert hat, die alle diese Woche behoben wurden.
Die Ergebnisse zeigen, wie fortschrittliche KI-Systeme beginnen, große Codebasen in einem Umfang zu scannen, der einst lange Stunden manueller Arbeit von Cybersicherheitsforschern erforderte. Mozilla sagte, dass selbst gehärtete Softwareziele nun tiefer und in kürzerer Zeit untersucht werden könnten.
„Während diese Fähigkeiten in die Hände weiterer Verteidiger gelangen, erleben viele andere Teams jetzt denselben Schwindel, den wir hatten, als die Ergebnisse erstmals in den Fokus rückten“, schrieb Mozilla. „Bei einem gehärteten Ziel wäre nur ein solcher Fehler 2025 ein roter Alarm gewesen, und so viele auf einmal lassen einen innehalten und sich fragen, ob es überhaupt möglich ist, Schritt zu halten.“
Frühere Tests mit einem anderen Anthropic-Modell hatten 22 sicherheitsempfindliche Fehler in einer früheren Firefox-Version aufgedeckt. Trotz dieser Fortschritte stellte Mozilla fest, dass die vollständige Eliminierung von Software-Exploits lange Zeit als unrealistisch galt.
„Bisher hat die Industrie den Kampf um Sicherheit weitgehend unentschieden geführt“, schrieb das Unternehmen. „Anbieter kritischer, internetexponierter Software wie Firefox nehmen Sicherheit extrem ernst und haben Teams von Leuten, die jeden Morgen aufstehen und darüber nachdenken, wie sie Nutzer schützen können.“
Mozilla erklärte, das neue System könne Quellcode überprüfen und Schwachstellen auf eine Weise kennzeichnen, die zuvor hochspezialisiertes menschliches Fachwissen erforderte. Interne Ergebnisse zeigten, dass das Modell keine Fehler aufdeckte, die außerhalb der Reichweite erstklassiger Forscher lagen.
„Einige Kommentatoren prognostizieren, dass zukünftige KI-Modelle völlig neue Formen von Schwachstellen aufdecken werden, die unser derzeitiges Verständnis übersteigen, aber wir glauben das nicht“, sagte das Unternehmen. „Software wie Firefox ist modular aufgebaut, damit Menschen ihre Korrektheit nachvollziehen können. Sie ist komplex, aber nicht willkürlich komplex.“
Claude Mythos, im März gestartet, wird von Anthropic als sein fortschrittlichstes Modell für Denk-, Kodier- und Cybersicherheitsaufgaben beschrieben und ist über seiner früheren Opus-Serie angesiedelt. Tests vor der Veröffentlichung deuteten darauf hin, dass es Tausende unbekannter Schwachstellen in Betriebssystemen und Browsern identifizieren könnte.
Der Zugang zum System bleibt durch eine eingeschränkte Initiative namens Project Glasswing begrenzt, die ausgewählten Firmen, darunter Amazon, Apple und Microsoft, ermöglicht, Software auf Sicherheitslücken zu scannen.
Sicherheitsforscher warnen, dass dieselbe Fähigkeit auch offensiv genutzt werden könnte. KI-Tools, die Code in großem Maßstab analysieren können, könnten auch die Entdeckung ausnutzbarer Fehler in weit verbreiteten Softwaresystemen automatisieren.
Tests des britischen AI Security Institute zeigten, dass das Modell komplexe Cyber-Operationen eigenständig durchführen konnte, einschließlich der Durchführung einer mehrstufigen Unternehmensnetzwerk-Angriffssimulation ohne menschliches Eingreifen. Diese Ergebnisse haben die Aufmerksamkeit von Regierungen und Geheimdiensten auf sich gezogen.
Trotz früherer Spannungen mit der Regierung von Donald Trump über die Nutzung der Technologie von Anthropic hat die National Security Agency (NSA) Claude Mythos Preview in klassifizierten Netzwerken eingesetzt, so Personen, die mit der Angelegenheit vertraut sind. Der Schritt signalisiert ein wachsendes Interesse US-amerikanischer Behörden an KI-Tools, die kritische Softwareschwachstellen erkennen können.
Anthropic hat auch eingeräumt, dass aktuelle Cybersicherheits-Benchmarks Mühe haben, mit seinen neuesten Modellen Schritt zu halten, was Fragen zur Messung der KI-Leistung in diesem Bereich aufwirft.
Mozilla sagte, die Ergebnisse deuteten auf einen möglichen Wendepunkt hin, an dem Verteidiger beginnen könnten, die langjährige Lücke zu Angreifern zu schließen.
„Wir sind extrem stolz darauf, wie unser Team dieser Herausforderung begegnet ist, und andere werden es auch tun“, schrieb das Unternehmen.
„Unsere Arbeit ist nicht beendet, aber wir haben die Kurve gekriegt und können eine Zukunft erahnen, die viel besser ist als nur Schritt zu halten. Verteidiger haben endlich eine Chance, entscheidend zu gewinnen.“
