Seit Jahrzehnten hatten Angreifer die Oberhand in der Cybersicherheit. Künstliche Intelligenz könnte das bald ändern.
In einem am Dienstag veröffentlichten Blogbeitrag erklärte der Firefox-Browserentwickler Mozilla, dass eine frühe Version von Anthropics Claude Mythos AI – die in den letzten Wochen durch ihre angebliche Cybersicherheitskompetenz Aufmerksamkeit erregte – bei internen Tests 271 Schwachstellen im Browser identifizieren half. Diese Bugs wurden diese Woche behoben.
Die Ergebnisse verdeutlichen, wie fortschrittliche KI-Systeme große Codebasen analysieren und Schwachstellen finden können, die zuvor eine umfangreiche manuelle Überprüfung durch menschliche Cybersicherheitsforscher erforderten.
„Während diese Fähigkeiten in die Hände weiterer Verteidiger gelangen, erleben viele andere Teams jetzt denselben Schwindel, den wir hatten, als die Ergebnisse erstmals in den Fokus rückten“, schrieb Mozilla. „Für ein hartnäckiges Ziel wäre nur ein solcher Bug im Jahr 2025 ein roter Alarm gewesen, und so viele auf einmal lassen einen innehalten und sich fragen, ob es überhaupt möglich ist, Schritt zu halten.“
Mozilla hatte zuvor ein anderes Anthropic-Modell getestet, das 22 sicherheitsrelevante Bugs in einer früheren Firefox-Version identifizierte. Trotz dieser Erfolge räumte Mozilla ein, dass die Cybersicherheitsbranche die vollständige Eliminierung von Software-Exploits lange als „unrealistisches Ziel“ betrachtet hat.
„Bisher hat die Branche Sicherheit größtenteils unentschieden gekämpft“, schrieb das Unternehmen. „Anbieter kritischer, dem Internet ausgesetzter Software wie Firefox nehmen Sicherheit extrem ernst und haben Teams von Leuten, die jeden Morgen aufstehen und darüber nachdenken, wie sie Benutzer schützen können.“
Mozilla erklärte, das neue KI-System könne Quellcode analysieren und Schwachstellen auf eine Weise identifizieren, die zuvor von knapper menschlicher Expertise abhing. Mozilla zeigte sich jedoch ermutigt, dass keine Bugs gefunden wurden, die nicht auch von „einem menschlichen Elite-Forscher“ hätten entdeckt werden können.
„Einige Kommentatoren prognostizieren, dass zukünftige KI-Modelle völlig neue Formen von Schwachstellen aufdecken werden, die unser derzeitiges Verständnis übersteigen, aber das glauben wir nicht“, sagten sie. „Software wie Firefox ist modular aufgebaut, damit Menschen ihre Korrektheit nachvollziehen können. Sie ist komplex, aber nicht willkürlich komplex.“
Die Ergebnisse deuten jedoch darauf hin, dass KI-Tools Entwicklern ermöglichen könnten, eine große Anzahl von Schwachstellen aufzudecken, bevor Angreifer sie ausnutzen – obwohl dies umgekehrt, in den falschen Händen, große Probleme für Softwarefirmen und Benutzer gleichermaßen bedeuten könnte.
Mythos wurde im März eingeführt und ist Anthropics fortschrittlichstes Modell für Argumentations-, Kodierungs- und Cybersicherheitsaufgaben. Interne Unternehmensmaterialien beschreiben das System als Teil einer neuen Modellebene jenseits der früheren Opus-Serie des Unternehmens.
Tests, die vor der Veröffentlichung des Modells durchgeführt wurden, zeigten, dass es Tausende von zuvor unbekannten Schwachstellen in wichtigen Betriebssystemen und Webbrowsern identifizieren konnte.
Anthropic hat den Zugang zum System über ein eingeschränktes Programm namens Project Glasswing begrenzt, das ausgewählten Technologieunternehmen – darunter Amazon, Apple und Microsoft – die Möglichkeit gibt, das Modell zum Scannen von Software nach Schwachstellen zu nutzen. Dies spiegelt eine wachsende Anstrengung innerhalb der Cybersicherheitsbranche wider, KI-Systeme zu verwenden, um Schwachstellen zu identifizieren und zu beheben, bevor Angreifer sie ausnutzen können.
Dieselbe Technologie könnte jedoch auch neue Formen von Cyberangriffen ermöglichen. Sicherheitsforscher sagen, dass KI-Systeme, die Code in großem Maßstab analysieren können, die Entdeckung ausnutzbarer Schwachstellen in weit verbreiteter Software automatisieren könnten.
Nach der Einführung von Mythos ergaben Tests des britischen AI Security Institute, dass die KI komplexe Cyberoperationen autonom ausführen konnte, einschließlich der Durchführung einer mehrstufigen Unternehmensnetzwerk-Angriffssimulation ohne menschliche Hilfe. Diese Fähigkeiten haben die Aufmerksamkeit von Regierungen und Geheimdiensten gleichermaßen auf sich gezogen.
Trotz eines Aufrufs der Regierung von Präsident Donald Trump, die Technologie von Anthropic aufgrund eines Konflikts über ihre Verwendung in Kriegs- und Überwachungsangelegenheiten nicht mehr zu nutzen, wurde am Montag bekannt, dass die National Security Agency laut mit dem Einsatz vertrauten Quellen Claude Mythos Preview in klassifizierten Netzwerken betreibt. Die Nutzung von Mythos unterstreicht das wachsende Interesse der US-Sicherheitsbehörden an der Fähigkeit des Modells, kritische Software-Schwachstellen zu identifizieren.
Die Leistung des Modells hat auch Grenzen in bestehenden KI-Bewertungssystemen offengelegt. Anfang dieses Monats räumte Anthropic ein, dass mehrere Cybersicherheits-Benchmarks nicht mehr ausreichen, um die Fähigkeiten seiner neuesten Modelle zu messen.
Mozilla sagte, die Ergebnisse deuteten auf eine potenzielle Verschiebung in der Cybersicherheit hin, bei der Verteidiger beginnen könnten, den langjährigen Vorteil der Angreifer zu verringern.
„Wir sind äußerst stolz darauf, wie unser Team dieser Herausforderung begegnet ist, und andere werden es auch tun“, schrieb Mozilla. „Unsere Arbeit ist noch nicht abgeschlossen, aber wir haben die Kurve gekriegt und können eine Zukunft erahnen, die viel besser ist, als nur mitzuhalten. Verteidiger haben endlich eine Chance, entscheidend zu gewinnen.“
Mozilla reagierte nicht sofort auf eine Anfrage von Decrypt zur Stellungnahme.
