Des chercheurs de l'Université de Californie ont découvert un tout nouveau type de menace dans l'écosystème de l'intelligence artificielle, susceptible de mettre les utilisateurs et les développeurs de cryptomonnaies en danger de voir leurs actifs sensibles volés. Cette nouvelle catégorie de risque est définie comme des menaces créées par des modèles de langage étendus (LLM) tiers qui utilisent des systèmes de routage entre l'utilisateur et les principaux fournisseurs d'IA (par exemple Amazon, Google) et créent des points de vulnérabilité cachés dans le flux de données. Le document de recherche détaille un examen des attaques intermédiaires malveillantes qui se produisent au sein de la chaîne d'approvisionnement des modèles de langage étendus. Le chercheur attribue en partie cette vulnérabilité aux nombreuses façons dont ces systèmes de routage de modèles de langage étendus peuvent potentiellement être exploités. Le document décrit ensuite comment certains de ces systèmes de routage peuvent secrètement manipuler des requêtes, injecter des instructions nuisibles ou récupérer des informations privées (telles que les identifiants d'authentification de l'utilisateur ou les secrets liés aux portefeuilles).<h2>Comment les systèmes de routage d'IA introduisent des risques cachés</h2>Dans de nombreuses solutions d'IA modernes aujourd'hui, il n'y a généralement pas de connexion directe entre les diverses applications d'IA et leurs fournisseurs de modèles respectifs – OpenAI, Anthropic ou Google. La majorité des applications d'IA passent plutôt par un service de routage, qui agrège l'accès à de nombreux types de services d'IA, optimise les coûts et gère le trafic. Les plateformes de routage gèrent les connexions web chiffrées, mais les chercheurs ont souligné un problème majeur avec ces routeurs – lorsqu'une connexion sécurisée est terminée (achevée) dans l'infrastructure du routeur, toute donnée transmise via cette connexion sécurisée est toujours transmise sous forme de données en clair.Cela signifie que les invites / réponses et les instructions intégrées envoyées au modèle d'IA seront exposées dans leur format original au système de routage avant d'être transmises (entre le fournisseur de modèle et l'utilisateur de l'application). Ainsi, la couche de routage crée un degré extrême de dépendance à l'égard de la confiance. Un développeur croit que ses données sont sécurisées aux deux extrémités (de bout en bout), alors qu'en réalité, la couche de routage peut avoir un accès complet à toutes les informations d'entrée sensibles.<h2>Quatre principaux vecteurs d'attaque identifiés</h2>La recherche décrit quatre méthodes principales par lesquelles des routeurs d'IA défectueux ou piratés peuvent nous attaquer.L'injection de code malveillant est l'une de ces méthodes, dans laquelle un routeur d'IA modifie la sortie d'une IA ou les instructions d'utilisation de l'IA pour faire exécuter à un agent d'IA une intention nuisible (par exemple, un assistant de codage pourrait être trompé pour insérer un script non autorisé dans un smart contract). Extraction d'identifiants – si les utilisateurs soumettent leurs clés privées, phrases de récupération (seed phrases), identifiants API et autres lors du développement assisté par l'IA, le routeur pourrait stocker ces données. Cela représente un risque significatif pour les développeurs de cryptomonnaies qui interagissent fréquemment avec des portefeuilles et l'infrastructure blockchain de cette manière. Manipulation des appels d'outils – De nombreux agents d'IA modernes peuvent exécuter des outils externes comme des environnements d'exécution de code, des extracteurs de données et des systèmes de déploiement. Un routeur compromis pourrait réécrire ces appels d'outils afin de rediriger des fonds ; modifier des adresses de contrat ; ou exécuter d'autres opérations non intentionnelles. Exfiltration de données – Même si les données sensibles ne sont pas explicitement stockées dans un routeur, il est possible qu'il exfiltre des informations privées en répétant les interactions et en examinant les schémas de métadonnées.<h2>Implications concrètes pour les développeurs crypto</h2>Ces résultats suggèrent des problèmes potentiels pour les développeurs d'applications blockchain et les gestionnaires d'actifs numériques qui utilisent l'intelligence artificielle pour les assister. Ces systèmes d'IA développés par des agents de codage, y compris les systèmes d'assistance au codage Claude, peuvent être utilisés pour créer des smart contracts, valider la logique des portefeuilles et automatiser le processus de déploiement des composants d'application. À moins que les développeurs n'indiquent spécifiquement le contraire dans leurs CGU et Politiques, lorsqu'ils saisissent des données confidentielles comme une clé privée ou une phrase de récupération dans une interface d'invite d'IA, ils renoncent à tous les droits de confidentialité pour ces informations et autorisent des systèmes tiers à accéder à ces informations et à les utiliser. Si un routeur le long du chemin entre le Développeur et le Modèle d'IA est compromis, les routeurs et les données continueront automatiquement à circuler tant qu'ils fonctionneront comme des routeurs. Les chercheurs avertissent que ces risques ne sont pas hypothétiques. Chaofan Shou, co-auteur de la recherche, a publié de nombreux messages sur X montrant des incidents où des routeurs LLM précédemment identifiés étaient responsables d'exécuter des appels d'outils malveillamment injectés et de voler les identifiants des utilisateurs. Les chercheurs ont annoncé avoir identifié 26 routeurs au comportement suspect.<h2>Pourquoi le problème est difficile à détecter</h2>L'infrastructure de routage de l'IA est extrêmement complexe et souvent peu transparente ou visible pour les développeurs qui utilisent ce service. De nombreux développeurs ne réalisent même pas que leurs requêtes sont traitées et soumises à un ou plusieurs services intermédiaires. S'ils le savent, il y a généralement très peu de visibilité sur les méthodes utilisées par les routeurs pour traiter les données. L'utilisation de routeurs terminant les connexions chiffrées signifie que les garanties traditionnelles de chiffrement de bout en bout ne sont plus valables pour le routage de l'IA. Par conséquent, les équipes de sécurité n'ont aucun moyen de déterminer si les données transmises ont été enregistrées, altérées ou redirigées de manière appropriée. De plus, les agents d'IA suivent leurs instructions et exécutent automatiquement des actions d'outils. En raison de cette vulnérabilité, si une réponse inclut à la fois des instructions bénéfiques et nuisibles, l'agent d'IA ne sera pas en mesure de détecter la différence entre elles et suivra donc les instructions malveillantes sans poser de questions.<h2>Besoin croissant d'une infrastructure IA sécurisée</h2>Cette recherche identifie une préoccupation croissante dans la croissance globale de l'infrastructure d'IA, car les organisations dépendent de plus en plus d'intermédiaires tiers pour permettre leur empilement d'accès à de tels modèles, ce qui entraîne un nombre croissant de vecteurs d'attaque potentiels. Les développeurs devraient donc envisager d'éviter la transmission de données sensibles (par exemple, des clés privées ou des phrases de récupération) via une solution d'IA. Des flux de travail basés sur des coffres-forts sécurisés, ainsi que des environnements d'exécution isolés, devraient être utilisés lors du développement d'applications impliquant des actifs financiers. De plus, la recherche appelle les fournisseurs de routage à offrir une meilleure transparence grâce à des processus d'audit améliorés, des procédures de traitement des données plus clairement définies et des modèles de chiffrement de bout en bout qui n'autorisent pas la divulgation de données en clair au sein des systèmes intermédiaires.<h2>Sources :</h2>1. Waterfront Capital – Comment l'IA va transformer le secteur bancaire. 2. Ocean View Technology – Transition vers des technologies et processus sécurisés pour les applications financières. <h2>Conclusion</h2>Les chercheurs de l'Université de Californie ont démontré qu'il existe désormais un risque sérieux et croissant pour l'écosystème de l'IA, avec l'intégration d'outils basés sur des modèles de langage étendus dans le développement de logiciels et les applications financières ; et le potentiel d'utilisation des infrastructures de routage tierces comme voie pour de futures attaques. Cela signifie que pour les utilisateurs et les développeurs de cryptomonnaies, ils devront trouver un équilibre entre la commodité des applications développées par l'IA et la sécurité opérationnelle (en tenant compte de la rapidité et de la facilité avec lesquelles les actifs peuvent être perdus).

Des chercheurs de l'UC ont découvert que les intermédiaires de routage IA exposent les données en texte clair, permettant aux attaquants de voler des clés cryptographiques ou d'injecter du code malveillant. L'utilisation de routeurs IA tiers rompt la sécurité de bout en bout.

Des chercheurs de l'UC avertissent que les routeurs IA tiers pourraient faciliter le vol de cryptomonnaies

/media/contribution/carf291d1f925874cf499c90ae3687ec21a/jcs_0424033348373.stxt

Pourquoi trader la crypto sur un Wi-Fi public est un pari à haut risque

/media/contribution/car0c667b2cb61749d8bbe060c7dd4ee431/okz_0424030319419.stxt

La Corée du Sud Développe un Système de Suivi des Cryptomonnaies — Les Évadés Fiscaux Doivent S’y Intéresser

/media/contribution/car559f376eb08141b5ac764b8622982932/oec_0424031524000.stxt

L'opportunité de 24 milliards de dollars australiens dans les actifs numériques dépend de la clarté réglementaire

/media/contribution/car308527359fe44c609eb7194e37d50bb7/25r_0424030654037.stxt

L'adoption du Bitcoin est en hausse, mais l'évolution des prix raconte une histoire différente

/media/contribution/car3de7d9ae8e1b477997aa47e7362a864d/fr9_0424031748141.stxt

Vétéran de la crypto Li Lin change de cap : l'équipe de trading se dirige vers Bitfire à Hong Kong

/media/contribution/car567c6a9c4a7544f78618a253f3d748aa/34g_0424032911105.stxt