Les agents IA ont commencé à exécuter des transactions et à déplacer des fonds sans approbation humaine constante, ce qui a poussé Edwin Mata, PDG de Brickken, à soutenir que la responsabilité doit suivre l'autorité accordée au logiciel plutôt que d'être attachée à l'IA elle-même.
Sandmark a rapporté le 6 août que les lois existantes ne fournissent pas de réponse unique aux pertes causées par les agents financiers autonomes, laissant aux tribunaux le soin d'examiner l'utilisateur, le développeur, la plateforme et l'institution impliqués dans chaque transaction.
Le rapport indique que le droit des contrats, les règles de négligence, la responsabilité du fait des produits et les obligations fiduciaires pourraient tous s'appliquer, selon qui contrôlait l'agent et ce qui a causé la perte. Un utilisateur peut supporter le résultat d'une transaction autorisée, tandis qu'un développeur ou une plateforme pourrait faire face à des réclamations si une conception défectueuse, des protections faibles ou des informations corrompues ont poussé l'agent au-delà de son rôle prévu.
Commentant la question, Edwin Mata, avocat et PDG et co-fondateur de la plateforme de tokenisation Brickken, a déclaré à crypto.news que la responsabilité ne devrait jamais être directement attribuée au logiciel.
« En vertu de la loi actuelle, l'IA n'est pas une personne morale capable d'assumer des devoirs ou d'engager sa responsabilité. C'est un système technique agissant au nom d'une personne physique ou morale. »
Selon Mata, une enquête devrait plutôt établir qui a autorisé l'agent, quels intérêts il représentait et quels pouvoirs il a reçus. Une telle enquête aiderait à distinguer une décision perdante prise dans le cadre d'une stratégie approuvée d'une transaction qui a dépassé les limites de l'agent.
Mata a comparé la relation juridique à une procuration, en vertu de laquelle une partie reçoit la permission d'agir pour une autre dans un cadre défini. Lorsqu'un émetteur, une banque ou un investisseur autorise un agent à effectuer des transactions, a-t-il dit, le mandant assumerait normalement les conséquences des actions qui restent dans cette autorité.
Selon le même raisonnement, un investisseur ne pourrait pas rejeter une transaction simplement parce que le logiciel a produit un résultat défavorable. Une perte de prix ne montre pas en soi que l'agent a agi sans permission ou qu'une autre partie n'a pas rempli ses obligations.
« Un émetteur ne peut pas rejeter une transaction défavorable mais autorisée simplement parce que la décision a été générée par un logiciel », a déclaré Mata.
La responsabilité peut changer lorsqu'un agent dépasse son mandat. Mata a déclaré qu'un développeur, une plateforme ou une institution financière pourrait être exposé si sa conception ou ses contrôles ont causé ou permis la défaillance, bien que l'évaluation finale dépende des faits et du droit applicable.
Sandmark a cité des distinctions légales similaires dans son rapport. Chanté Eliaszadeh, fondatrice d'Astraea Counsel, a déclaré à la publication que la responsabilité suivrait généralement le contrôle. Elle a ajouté que les utilisateurs sont généralement le point de départ lorsque les agents agissent en leur nom, mais les développeurs pourraient courir des risques si un système commercialisé pour le trading autonome échouait de manière prévisible.
La question est devenue urgente à mesure que les agents obtiennent un accès direct aux portefeuilles et aux systèmes de paiement. En mai, un rapport de Keyrock a révélé que les agents IA avaient réglé 73 millions de dollars via 176 millions de transactions au cours des 12 mois précédents, l'USDC représentant 98,6 % des paiements examinés.
Coinbase a également connecté des agents au trading, à la gestion de portefeuille et aux paiements sous des limites définies par l'utilisateur. En juillet, Chainalysis avait compté plus de 100 millions de paiements liés à x402 sur Base, bien que la société d'analyse ait déclaré que le minage de meme-coins et l'activité automatisée ont contribué aux totaux de transactions précoces. Les chiffres ne représentaient donc pas uniquement des agents indépendants achetant des biens ou des services.
Bien qu'une personne puisse formellement approuver l'activité d'un agent, Mata a déclaré que le consentement seul ne fournit pas un contrôle significatif si la personne ne peut pas comprendre l'autorité accordée.
Une délégation efficace, à son avis, nécessite une liste d'actions autorisées et d'actifs éligibles, ainsi que des limites pour les transactions individuelles et les dépenses totales. Un mandat devrait également spécifier sa durée, les conditions nécessitant un examen humain, le droit du mandant de révoquer l'accès et un registre de chaque action entreprise.
De tels contrôles apparaissent déjà dans les produits commerciaux. Anchorage Digital a introduit les services bancaires agentiques en mai avec des identités vérifiées, des limites de dépenses et des contrôles d'audit pour les systèmes autonomes accédant aux rails de paiement crypto et traditionnels.
Visa et Wirex ont testé séparément les paiements en stablecoins initiés par des agents pour les abonnements logiciels, les budgets marketing et les approvisionnements. Selon Wirex, les essais ont été conçus pour examiner la sécurité, la fiabilité, la transparence et le contrôle du consommateur lorsque le logiciel initie des paiements pour un utilisateur ou une entreprise.
Un guide de juin sur les paiements agentiques expliquait comment x402 permet aux logiciels autonomes de payer des données, des services informatiques et des ressources en ligne en utilisant des stablecoins. Étant donné que ces paiements peuvent avoir lieu sans qu'une personne n'approuve chaque transaction, les systèmes d'autorisation doivent établir ce que l'agent peut acheter, combien il peut dépenser et quand son accès prend fin.
Mata a cité l'ERC-8226, la proposition de Norme de Mandat d'Agent Réglementé, comme un modèle pour rendre l'autorité déléguée vérifiable.
Déposé en tant que projet de norme Ethereum le 12 avril, l'ERC-8226 est conçu pour les agents IA opérant avec des actifs réglementés tokenisés. La proposition a été rédigée par les contributeurs de Brickken Ludovico Rossi, Dario Lo Buglio, Thamer Dridi et Nabil El Alami Khalifi.
Connu sous le nom de RAMS, le standard permettrait à un mandant vérifié de donner à un agent onchain une autorisation limitée par l'actif, l'action, la durée et la valeur monétaire. Un contrat de jeton réglementé pourrait vérifier le mandat lorsque l'agent tente d'exécuter une transaction.
La proposition sépare trois questions qui peuvent survenir lors d'une transaction initiée par un agent. Un registre d'identité confirmerait l'existence de l'agent, un fournisseur de conformité déterminerait si le mandant est éligible pour transiger l'actif, et le registre RAMS vérifierait si l'action prévue s'inscrit dans le mandat délégué.
Selon le projet de spécification, un mandat pourrait fixer un montant maximum pour une transaction et un montant cumulatif sur plusieurs transactions. Il pourrait également inclure les heures d'activation et d'expiration, les actifs autorisés, les actions approuvées, les fonctions de révocation et les registres montrant l'étendue de l'autorité déjà utilisée par l'agent.
Mata a déclaré que le RAMS ne transférerait pas la responsabilité à l'agent ni ne rembourserait un mandant pour une perte autorisée. Au lieu de cela, la norme proposée fournirait des preuves montrant qui a accordé l'autorité, ce que l'agent pouvait faire et si la transaction est restée dans ces limites.
« Son but est de rendre l'attribution vérifiable : qui a accordé l'autorité, ce que l'agent était autorisé à faire, s'il est resté dans ces limites et quelle personne ou quel contrôle a échoué lorsque ce ne fut pas le cas. »
L'ERC-8226 reste un projet plutôt qu'une norme Ethereum adoptée ou une exigence légale. Sa page de discussion énumère également des questions non résolues, notamment si les jetons achetés par un agent doivent rester dans le portefeuille de l'agent ou être directement réglés dans le portefeuille du mandant.
Pour les marchés américains, les règles existantes sur les valeurs mobilières imposent déjà des obligations aux entreprises qui donnent accès aux bourses et aux systèmes de négociation alternatifs.
En vertu de la règle 15c3-5 de la SEC, un courtier-négociant fournissant un accès au marché doit maintenir des contrôles de risque financiers et réglementaires sous son contrôle direct et exclusif, sous réserve d'exceptions limitées. Les directives de la SEC stipulent que le courtier-négociant reste responsable de l'efficacité de ces contrôles même lorsqu'il utilise une technologie fournie par un tiers indépendant.
La règle exige des vérifications pré-négociation automatisées conçues pour arrêter les ordres qui dépassent les seuils de crédit ou de capital prédéfinis. Elle exige également des contrôles qui restreignent les systèmes de trading aux personnes autorisées, bloquent les transactions de titres interdites et fournissent des rapports d'exécution immédiats au personnel de surveillance.
Pour les paiements des consommateurs, le Règlement E exige que les virements électroniques préautorisés soient assortis d'une autorisation écrite ou authentifiée de manière similaire du titulaire du compte. Les directives du CFPB stipulent également que le processus d'autorisation devrait démontrer l'identité et l'accord du consommateur, tout en permettant au consommateur d'arrêter ou de révoquer les paiements futurs selon des procédures spécifiées.
Les règles actuelles du CFPB n'indiquent pas directement comment une instruction permanente telle que « gérer mon portefeuille » devrait s'appliquer lorsqu'un agent IA sélectionne et exécute indépendamment des transferts individuels. Sandmark a rapporté que les avocats restent divisés sur la question de savoir si un paiement d'agent manipulé ressemblerait à un transfert non autorisé causé par des identifiants volés ou à une transaction autorisée effectuée sous un accès précédemment accordé.
En dehors des États-Unis, la vice-gouverneure de la Banque d'Angleterre, Sarah Breeden, a déclaré en juin que les cadres de surveillance financière n'ont pas été conçus pour les agents autonomes et qu'exiger l'approbation humaine pour chaque action pourrait être irréaliste. Elle a ajouté que les régulateurs envisageaient des mesures de protection renforcées, y compris des disjoncteurs ou des interrupteurs d'arrêt général à l'échelle du marché si des modèles d'IA défectueux menaçaient les systèmes de trading.
