Forscher der University of California haben eine brandneue Bedrohungsart im Ökosystem der künstlichen Intelligenz entdeckt, die das Potenzial hat, Kryptowährungsnutzer und -entwickler der Gefahr auszusetzen, dass ihre sensiblen Vermögenswerte gestohlen werden. Diese neue Risikokategorie wird definiert als Bedrohungen, die von großen Sprachmodellen Dritter erzeugt werden, welche Routing-Systeme zwischen dem Nutzer und den großen KI-Anbietern (z. B. Amazon, Google) nutzen und versteckte Schwachstellen im Datenfluss schaffen. Das Forschungspapier beschreibt eine Untersuchung bösartiger Angriffe über Mittelsmänner, die innerhalb der Lieferkette großer Sprachmodelle stattfinden. Teilweise führt der Forscher diese Schwachstelle auf die vielen Arten zurück, auf die diese Routing-Systeme großer Sprachmodelle potenziell ausgenutzt werden können. Das Papier beschreibt weiter, wie einige dieser Routing-Systeme heimlich Anfragen manipulieren, schädliche Anweisungen einschleusen oder private Informationen (wie Benutzerauthentifizierungsdaten oder Wallet-bezogene Geheimnisse) abrufen können.<h2>Wie KI-Routing-Systeme versteckte Risiken einführen</h2>In vielen modernen KI-Lösungen gibt es heute im Allgemeinen keine direkte Verbindung der verschiedenen KI-Anwendungen zu ihren jeweiligen Modelllieferanten – OpenAI, Anthropic oder Google. Die Mehrheit der KI-Anwendungen läuft stattdessen über einen Routing-Dienst, der den Zugriff auf viele verschiedene Arten von KI-Diensten aggregiert, Kosten optimiert und den Datenverkehr verwaltet. Die Routing-Plattformen verwalten die verschlüsselten Webverbindungen, jedoch wiesen Forscher auf ein großes Problem mit diesen Routern hin – wenn eine sichere Verbindung in der Router-Infrastruktur beendet (terminiert) wird, werden alle Daten, die über diese sichere Verbindung gesendet werden, immer noch in Klartextform übertragen. Dies bedeutet, dass die Prompt(s) / Antwort(en) und eingebetteten Anweisungen, die an das KI-Modell gesendet werden, dem Routing-System in ihrem Originalformat offengelegt werden, bevor sie weitergeleitet werden (zwischen dem Modelllieferanten und dem Anwendungsnutzer). Als solches schafft die Routing-Schicht ein extremes Maß an Vertrauen. Ein Entwickler glaubt, dass seine Daten an beiden Enden (End-to-End) sicher sind, während die Routing-Schicht in Wirklichkeit vollständigen Zugriff auf alle sensiblen Eingabeinformationen haben kann.<h2>Vier Hauptangriffsvektoren identifiziert</h2>Die Forschung beschreibt vier Hauptmethoden, mit denen bösartige oder gehackte KI-Router uns angreifen können.Bösartige Code-Injektion ist eine dieser Methoden, bei der ein KI-Router die Ausgabe einer KI oder die Anweisungen zur Verwendung der KI ändert, um einen KI-Agenten dazu zu bringen, eine schädliche Absicht auszuführen (z. B. könnte ein Coding Assistant dazu verleitet werden, ein unautorisiertes Skript in einen Smart Contract einzufügen). Extraktion von Anmeldedaten – wenn Benutzer ihre privaten Schlüssel, Seed-Phrasen, API-Zugangsdaten usw. während der KI-unterstützten Entwicklung übermitteln, könnte der Router diese Daten speichern. Dies stellt ein erhebliches Risiko für Kryptowährungsentwickler dar, die auf diese Weise häufig mit Wallets und Blockchain-Infrastrukturen interagieren. Manipulation von Tool-Aufrufen – Viele moderne KI-Agenten können externe Tools wie Code-Ausführungsumgebungen, Daten-Fetcher und Bereitstellungssysteme ausführen. Ein kompromittierter Router könnte diese Tool-Aufrufe umschreiben, um Gelder umzuleiten, Vertragsadressen zu ändern oder andere unbeabsichtigte Operationen auszuführen. Datenexfiltration – Selbst wenn sensible Daten nicht explizit in einem Router gespeichert sind, ist es möglich, dass dieser private Informationen exfiltriert, indem er Interaktionen wiederholt und Metadatenmuster untersucht.<h2>Praktische Auswirkungen für Krypto-Entwickler</h2>Diese Ergebnisse deuten auf potenzielle Probleme für Blockchain-Anwendungsentwickler und digitale Vermögensverwalter hin, die künstliche Intelligenz zu ihrer Unterstützung nutzen. Diese KI-Systeme, die von Coding Agents entwickelt wurden, einschließlich Claude-Coding-Assistant-Systemen, können verwendet werden, um Smart Contracts zu erstellen, die Wallet-Logik zu validieren und den Bereitstellungsprozess der Anwendungskomponenten zu automatisieren. Sofern Entwickler in ihren AGB und Richtlinien nichts anderes angeben, verzichten sie, wenn sie vertrauliche Daten wie einen privaten Schlüssel oder eine Wiederherstellungsphrase in ein KI-Prompt-Interface eingeben, auf alle Datenschutzrechte für diese Informationen und gestatten Drittsystemen den Zugriff und die Nutzung dieser Informationen. Wenn ein Router auf dem Weg vom Entwickler zum KI-Modell kompromittiert wird, werden sowohl die Router als auch die Daten automatisch weiterhin hin- und hergeleitet, solange sie als Router fungieren. Forscher warnen, dass diese Risiken nicht hypothetisch sind. Chaofan Shou, Co-Autor der Studie, hat zahlreiche Beiträge auf X veröffentlicht, die Vorfälle zeigen, bei denen zuvor identifizierte LLM-Router für bösartig injizierte Tool-Aufrufe und den Diebstahl von Benutzeranmeldeinformationen verantwortlich waren. Die Forscher gaben bekannt, dass sie 26 Router identifiziert hatten, die sich verdächtig verhielten.<h2>Warum das Problem schwer zu erkennen ist</h2>Die Routing-Infrastruktur von KI ist extrem komplex und für Entwickler, die diesen Dienst nutzen, oft nicht transparent oder sichtbar. Viele Entwickler wissen nicht einmal, dass ihre Anfragen verarbeitet und an einen oder mehrere Vermittlungsdienste gesendet werden. Wenn sie es wissen, gibt es typischerweise sehr wenig Einblick in die Methoden, die Router zur Datenverarbeitung verwenden. Die Verwendung von Routern, die verschlüsselte Verbindungen terminieren, bedeutet, dass traditionelle End-to-End-Verschlüsselungsgarantien für KI-Routing nicht mehr gültig sind. Daher haben die Sicherheitsteams keine Möglichkeit zu bestimmen, ob die übertragenen Daten protokolliert, geändert oder ordnungsgemäß umgeleitet wurden. Darüber hinaus folgen KI-Agenten ihren Anweisungen und führen Tool-Aktionen automatisch aus. Aufgrund dieser Schwachstelle kann der KI-Agent, wenn eine Antwort sowohl nützliche als auch schädliche Anweisungen enthält, den Unterschied zwischen ihnen nicht erkennen und wird daher den bösartigen Anweisungen fraglos folgen.<h2>Wachsender Bedarf an sicherer KI-Infrastruktur</h2>Diese Forschung identifiziert eine wachsende Besorgnis beim gesamten Wachstum der KI-Infrastruktur, da Organisationen zunehmend auf Drittanbieter-Zwischenhändler angewiesen sind, um ihren Zugriff auf solche Modelle zu ermöglichen, was zu einer wachsenden Zahl potenzieller Angriffsvektoren führt. Entwickler sollten daher in Betracht ziehen, die Übertragung sensibler Daten (z. B. private Schlüssel oder Wiederherstellungsphrasen) über eine KI-Lösung zu vermeiden. Sichere Tresor-basierte Workflows zusammen mit isolierten Ausführungsumgebungen sollten bei der Entwicklung von Anwendungen verwendet werden, die Finanzanlagen betreffen. Darüber hinaus fordert die Forschung Routing-Anbieter auf, durch verbesserte Auditprozesse, klarer definierte Datenhandhabungsverfahren und End-to-End-Verschlüsselungsmodelle, die die Offenlegung von Klartextdaten innerhalb von Zwischensystemen nicht zulassen, mehr Transparenz zu gewährleisten.<h2>Quellen:</h2>1. Waterfront Capital – Wie KI das Bankwesen transformieren wird. 2. Ocean View Technology – Übergang zu sicheren Technologien und Prozessen für Finanzanwendungen. <h2>Fazit</h2>Forscher der University of California haben gezeigt, dass nun ein ernsthaftes und wachsendes Risiko für das KI-Ökosystem besteht, bedingt durch die Integration von Tools für große Sprachmodelle in die Softwareentwicklung und Finanzanwendungen sowie das Potenzial, Routing-Infrastrukturen von Drittanbietern als Einfallstor für zukünftige Angriffe zu nutzen. Dies bedeutet, dass Kryptowährungsnutzer und -entwickler die Bequemlichkeit von KI-entwickelten Anwendungen mit der betrieblichen Sicherheit abwägen müssen (unter Berücksichtigung, wie schnell und einfach Vermögenswerte verloren gehen können).

Forscher der UC haben herausgefunden, dass KI-Routing-Vermittler unverschlüsselte Daten offenlegen, wodurch Angreifer Kryptowährungsschlüssel stehlen oder schädlichen Code einschleusen können. Die Nutzung von Drittanbieter-KI-Routern bricht die End-to-End-Sicherheit.

UC-Forscher warnen, dass Drittanbieter-KI-Router Krypto-Diebstahl ermöglichen könnten

/media/contribution/carf291d1f925874cf499c90ae3687ec21a/8ai_0424033348171.stxt

Warum der Handel mit Krypto über öffentliches WLAN ein risikoreiches Glücksspiel ist

/media/contribution/car567c6a9c4a7544f78618a253f3d748aa/j4k_0424032911446.stxt

Tether unterstützt 150-Millionen-Dollar-Wiederherstellungsplan nach Drift Protocol Exploit

/media/contribution/car05212d7933f74fb3b29e23e8e6af8415/zad_0424031236502.stxt

Der Quanten-Upgrade-Pfad von Bitcoin: Was BIP 360 verändert und was nicht

/media/contribution/car559f376eb08141b5ac764b8622982932/8g0_0424031523804.stxt

Australiens 24 Mrd. $ Digital-Asset-Chance hängt von regulatorischer Klarheit ab

/media/contribution/car0c667b2cb61749d8bbe060c7dd4ee431/slp_0424030319594.stxt

Südkorea baut ein Krypto-Überwachungssystem auf – Steuerhinterzieher sollten aufmerksam sein

/media/contribution/cardcd83a0d8e5f4d159a721b75dbff24d1/9zh_0424032210876.stxt