Los agentes de IA han comenzado a ejecutar operaciones y mover fondos sin la aprobación humana constante, lo que ha llevado al CEO de Brickken, Edwin Mata, a argumentar que la responsabilidad debe recaer en la autoridad otorgada al software, en lugar de atribuirse a la propia IA.
Sandmark informó el 6 de agosto que las leyes existentes no proporcionan una respuesta única para las pérdidas causadas por agentes financieros autónomos, lo que deja a los tribunales la tarea de examinar al usuario, al desarrollador, a la plataforma y a la institución involucrada en cada transacción.
El informe indicó que el derecho contractual, las normas de negligencia, la responsabilidad por productos y los deberes fiduciarios podrían aplicarse, dependiendo de quién controlaba al agente y qué causó la pérdida. Un usuario podría asumir el resultado de una operación autorizada, mientras que un desarrollador o una plataforma podrían enfrentar reclamaciones si un diseño defectuoso, salvaguardias débiles o información corrupta empujaron al agente fuera de su función prevista.
Comentando sobre el tema, Edwin Mata, abogado y CEO y cofundador de la plataforma de tokenización Brickken, dijo a crypto.news que la responsabilidad nunca debería asignarse directamente al software.
“Según la ley actual, la IA no es una persona jurídica capaz de asumir deberes o responsabilidades. Es un sistema técnico que actúa en nombre de una persona natural o jurídica.”
Según Mata, una investigación debería establecer en su lugar quién autorizó al agente, qué intereses representaba y qué poderes recibió. Dicha investigación ayudaría a distinguir una decisión perdedora tomada dentro de una estrategia aprobada de una transacción que excedió los límites del agente.
Mata comparó la relación legal con un poder notarial, según el cual una parte recibe permiso para actuar en nombre de otra dentro de un alcance definido. Cuando un emisor, banco o inversor autoriza a un agente a realizar transacciones, dijo, el principal normalmente asumiría las consecuencias de las acciones que se mantengan dentro de esa autoridad.
Bajo el mismo razonamiento, un inversor no podría rechazar una operación simplemente porque el software produjo un resultado desfavorable. Una pérdida de precio no demuestra por sí misma que el agente actuó sin permiso o que otra parte incumplió sus deberes.
“Un emisor no puede desentenderse de una transacción desfavorable pero autorizada simplemente porque la decisión fue generada por software”, dijo Mata.
La responsabilidad puede cambiar cuando un agente excede su mandato. Mata dijo que un desarrollador, plataforma o institución financiera podría enfrentar exposición si su diseño o controles causaron o permitieron el fallo, aunque la evaluación final dependería de los hechos y la ley aplicable.
Sandmark citó distinciones legales similares en su informe. Chanté Eliaszadeh, fundadora de Astraea Counsel, dijo a la publicación que la responsabilidad generalmente seguiría al control. Afirmó que los usuarios suelen ser el punto de partida cuando los agentes actúan en su nombre, pero los desarrolladores podrían enfrentar riesgos si un sistema comercializado para el comercio autónomo fallara de manera previsible.
La cuestión ha cobrado urgencia a medida que los agentes obtienen acceso directo a carteras y sistemas de pago. En mayo, un informe de Keyrock encontró que los agentes de IA habían liquidado 73 millones de dólares a través de 176 millones de transacciones durante los 12 meses anteriores, con USDC representando el 98,6% de los pagos examinados.
Coinbase también ha conectado agentes para el comercio, la gestión de carteras y los pagos bajo límites establecidos por el usuario. En julio, Chainalysis había contado más de 100 millones de pagos vinculados a x402 en Base, aunque la firma de análisis dijo que la agricultura de memecoins y la actividad automatizada contribuyeron a los totales iniciales de transacciones. Por lo tanto, las cifras no representaban solo a agentes independientes comprando bienes o servicios.
Aunque una persona puede aprobar formalmente la actividad de un agente, Mata dijo que el consentimiento por sí solo no proporciona un control significativo si la persona no puede comprender la autoridad que se le concede.
La delegación efectiva, en su opinión, requiere una lista de acciones permitidas y activos elegibles, junto con límites para transacciones individuales y el gasto total. Un mandato también debe especificar su duración, las condiciones que requieren revisión humana, el derecho del principal a revocar el acceso y un registro de cada acción realizada.
Tales controles ya están apareciendo en productos comerciales. Anchorage Digital introdujo la banca agéntica en mayo con identidades verificadas, límites de gasto y controles de auditoría para sistemas autónomos que acceden a cripto y a rieles de pago tradicionales.
Visa y Wirex han probado por separado pagos de stablecoins liderados por agentes para suscripciones de software, presupuestos de marketing y adquisiciones. Según Wirex, los ensayos fueron diseñados para examinar la seguridad, la fiabilidad, la transparencia y el control del consumidor cuando el software inicia pagos para un usuario o una empresa.
Una guía de junio sobre pagos agénticos explicó cómo x402 permite que el software autónomo pague por datos, servicios de computación y recursos en línea utilizando stablecoins. Debido a que esos pagos pueden ocurrir sin que una persona apruebe cada transacción, los sistemas de autorización deben establecer qué puede comprar el agente, cuánto puede gastar y cuándo termina su acceso.
Mata señaló el ERC-8226, la propuesta de Estándar de Mandato de Agente Regulado, como un modelo para hacer verificable la autoridad delegada.
Presentado como un borrador de estándar de Ethereum el 12 de abril, el ERC-8226 está diseñado para agentes de IA que operan con activos tokenizados regulados. La propuesta fue escrita por los colaboradores de Brickken Ludovico Rossi, Dario Lo Buglio, Thamer Dridi y Nabil El Alami Khalifi.
Conocido como RAMS, el estándar permitiría a un principal verificado dar permiso a un agente onchain que esté limitado por activo, acción, duración y valor monetario. Un contrato de token regulado podría verificar el mandato cuando el agente intente ejecutar una transacción.
La propuesta separa tres preguntas que pueden surgir durante una operación liderada por un agente. Un registro de identidad confirmaría que el agente existe, un proveedor de cumplimiento determinaría si el principal es elegible para realizar transacciones con el activo, y el registro RAMS verificaría si la acción planificada se encuadra dentro del mandato delegado.
Según la especificación preliminar, un mandato podría establecer una cantidad máxima para una transacción y una cantidad acumulativa para múltiples transacciones. También podría incluir tiempos de activación y expiración, activos permitidos, acciones aprobadas, funciones de revocación y registros que muestren cuánta autoridad ya ha utilizado el agente.
Mata dijo que RAMS no transferiría la responsabilidad al agente ni reembolsaría a un principal por una pérdida autorizada. En cambio, el estándar propuesto proporcionaría evidencia mostrando quién otorgó la autoridad, qué podía hacer el agente y si la transacción se mantuvo dentro de esos límites.
“Su propósito es hacer que la atribución sea verificable: quién concedió la autoridad, qué se le permitió hacer al agente, si se mantuvo dentro de esos límites y qué persona o control falló cuando no lo hizo.”
El ERC-8226 sigue siendo un borrador y no un estándar de Ethereum adoptado ni un requisito legal. Su página de discusión también enumera preguntas sin resolver, incluyendo si los tokens comprados por un agente deben permanecer en la cartera del agente o liquidarse directamente en la cartera del principal.
Para los mercados estadounidenses, las normas de valores existentes ya imponen deberes a las empresas que proporcionan acceso a las bolsas y a los sistemas de negociación alternativos.
Según la Regla 15c3-5 de la SEC, un corredor de bolsa que proporciona acceso al mercado debe mantener controles de riesgo financieros y regulatorios bajo su control directo y exclusivo, sujetos a excepciones limitadas. La guía de la SEC establece que el corredor de bolsa sigue siendo responsable de la efectividad de esos controles, incluso cuando utiliza tecnología suministrada por un tercero independiente.
La norma exige comprobaciones automatizadas previas a la operación diseñadas para detener órdenes que excedan los umbrales de crédito o capital preestablecidos. También requiere controles que restrinjan los sistemas de negociación a personas autorizadas, bloqueen transacciones de valores prohibidas y entreguen informes de ejecución inmediatos al personal de supervisión.
Para los pagos de consumo, la Regulación E exige que las transferencias electrónicas de fondos preautorizadas incluyan una autorización escrita o autenticada de manera similar por parte del titular de la cuenta. La guía del CFPB también dice que el proceso de autorización debe demostrar la identidad y el acuerdo del consumidor, al tiempo que le permite detener o revocar futuros pagos bajo procedimientos específicos.
Las normas actuales del CFPB no establecen directamente cómo debe aplicarse una instrucción permanente como "gestionar mi cartera" cuando un agente de IA selecciona y ejecuta de forma independiente transferencias individuales. Sandmark informó que los abogados siguen divididos sobre si un pago de agente manipulado se parecería a una transferencia no autorizada causada por credenciales robadas o a una transacción autorizada realizada bajo acceso previamente concedido.
Fuera de Estados Unidos, la subgobernadora del Banco de Inglaterra, Sarah Breeden, dijo en junio que los marcos de supervisión financiera no estaban diseñados para agentes autónomos y que exigir la aprobación humana para cada acción podría ser poco realista. Afirmó que los reguladores estaban considerando salvaguardias más sólidas, incluidos interruptores de circuito o "kill switches" a nivel de mercado si los modelos de IA defectuosos amenazaran los sistemas de negociación.
USDC