Agen AI telah mulai mengeksekusi perdagangan dan memindahkan dana tanpa persetujuan manusia yang konstan, mendorong CEO Brickken Edwin Mata untuk berpendapat bahwa pertanggungjawaban harus mengikuti wewenang yang diberikan kepada perangkat lunak, bukan melekat pada AI itu sendiri.
Sandmark melaporkan pada 6 Agustus bahwa undang-undang yang ada tidak memberikan jawaban tunggal untuk kerugian yang disebabkan oleh agen keuangan otonom, meninggalkan pengadilan untuk memeriksa pengguna, pengembang, platform, dan institusi yang terlibat dalam setiap transaksi.
Laporan tersebut mengatakan bahwa hukum kontrak, aturan kelalaian, tanggung jawab produk, dan kewajiban fidusia semuanya dapat berlaku, tergantung pada siapa yang mengendalikan agen dan apa yang menyebabkan kerugian. Seorang pengguna mungkin menanggung hasil dari perdagangan yang diotorisasi, sementara pengembang atau platform dapat menghadapi klaim jika desain yang cacat, perlindungan yang lemah, atau informasi yang korup mendorong agen keluar dari peran yang dimaksud.
Mengomentari masalah ini, Edwin Mata, seorang pengacara dan CEO serta salah satu pendiri platform tokenisasi Brickken, mengatakan kepada crypto.news bahwa tanggung jawab tidak boleh diberikan langsung kepada perangkat lunak.
“Berdasarkan hukum yang berlaku, AI bukanlah badan hukum yang mampu menanggung tugas atau pertanggungjawaban. Ini adalah sistem teknis yang bertindak atas nama orang perseorangan atau badan hukum.”
Menurut Mata, investigasi seharusnya menetapkan siapa yang mengizinkan agen tersebut, kepentingan siapa yang diwakilinya, dan wewenang apa yang diterimanya. Penyelidikan semacam itu akan membantu membedakan keputusan yang merugikan yang dibuat dalam strategi yang disetujui dari transaksi yang melampaui batas agen.
Mata membandingkan hubungan hukum tersebut dengan surat kuasa, di mana satu pihak menerima izin untuk bertindak atas nama pihak lain dalam lingkup yang ditentukan. Ketika penerbit, bank, atau investor mengotorisasi agen untuk bertransaksi, katanya, prinsipal biasanya akan menanggung konsekuensi dari tindakan yang tetap berada dalam wewenang tersebut.
Berdasarkan alasan yang sama, seorang investor tidak dapat menolak perdagangan hanya karena perangkat lunak menghasilkan hasil yang tidak menguntungkan. Kerugian harga itu sendiri tidak menunjukkan bahwa agen bertindak tanpa izin atau bahwa pihak lain gagal dalam tugasnya.
“Penerbit tidak dapat melepaskan transaksi yang tidak menguntungkan tetapi diizinkan hanya karena keputusan itu dihasilkan oleh perangkat lunak,” kata Mata.
Tanggung jawab dapat berubah ketika agen melampaui mandatnya. Mata mengatakan pengembang, platform, atau lembaga keuangan dapat menghadapi risiko jika desain atau kontrolnya menyebabkan atau memungkinkan kegagalan, meskipun penilaian akhir akan tergantung pada fakta dan hukum yang berlaku.
Sandmark mengutip perbedaan hukum serupa dalam laporannya. Chanté Eliaszadeh, pendiri Astraea Counsel, mengatakan kepada publikasi tersebut bahwa tanggung jawab umumnya akan mengikuti kendali. Dia mengatakan pengguna biasanya menjadi titik awal ketika agen bertindak atas nama mereka, tetapi pengembang dapat menghadapi risiko jika sistem yang dipasarkan untuk perdagangan otonom gagal dengan cara yang dapat diperkirakan.
Pertanyaan ini menjadi mendesak karena agen memperoleh akses langsung ke dompet dan sistem pembayaran. Pada bulan Mei, laporan Keyrock menemukan bahwa agen AI telah menyelesaikan $73 juta melalui 176 juta transaksi selama 12 bulan sebelumnya, dengan USDC menyumbang 98,6% dari pembayaran yang diperiksa.
Coinbase juga telah menghubungkan agen ke perdagangan, manajemen portofolio, dan pembayaran di bawah batas yang ditetapkan pengguna. Pada bulan Juli, Chainalysis telah menghitung lebih dari 100 juta pembayaran terkait x402 di Base, meskipun perusahaan analitik mengatakan penambangan meme-coin dan aktivitas otomatis berkontribusi pada total transaksi awal. Oleh karena itu, angka-angka tersebut tidak hanya mewakili agen independen yang membeli barang atau jasa.
Meskipun seseorang dapat secara resmi menyetujui aktivitas agen, Mata mengatakan persetujuan saja tidak memberikan kendali yang berarti jika orang tersebut tidak dapat memahami wewenang yang diberikan.
Delegasi yang efektif, menurutnya, membutuhkan daftar tindakan yang diizinkan dan aset yang memenuhi syarat, bersama dengan batasan untuk transaksi individu dan total pengeluaran. Mandat juga harus menentukan durasinya, kondisi yang memerlukan tinjauan manusia, hak prinsipal untuk mencabut akses, dan catatan setiap tindakan yang diambil.
Kontrol semacam itu sudah mulai muncul dalam produk komersial. Anchorage Digital memperkenalkan perbankan agen pada bulan Mei dengan identitas terverifikasi, batas pengeluaran, dan kontrol audit untuk sistem otonom yang mengakses kripto dan jalur pembayaran tradisional.
Visa dan Wirex telah secara terpisah menguji pembayaran stablecoin yang dipimpin agen untuk langganan perangkat lunak, anggaran pemasaran, dan pengadaan. Menurut Wirex, uji coba tersebut dirancang untuk memeriksa keamanan, keandalan, transparansi, dan kontrol konsumen ketika perangkat lunak memulai pembayaran untuk pengguna atau bisnis.
Panduan bulan Juni untuk pembayaran agen menjelaskan bagaimana x402 memungkinkan perangkat lunak otonom membayar data, layanan komputasi, dan sumber daya online menggunakan stablecoin. Karena pembayaran tersebut dapat terjadi tanpa persetujuan seseorang untuk setiap transaksi, sistem otorisasi harus menetapkan apa yang dapat dibeli agen, berapa banyak yang dapat dihabiskan, dan kapan aksesnya berakhir.
Mata menunjuk ke ERC-8226, Standar Mandat Agen Terregulasi yang diusulkan, sebagai salah satu model untuk membuat wewenang yang didelegasikan dapat diverifikasi.
Diajukan sebagai standar draf Ethereum pada 12 April, ERC-8226 dirancang untuk agen AI yang beroperasi dengan aset terregulasi yang ditokenisasi. Proposal ini ditulis oleh kontributor Brickken Ludovico Rossi, Dario Lo Buglio, Thamer Dridi, dan Nabil El Alami Khalifi.
Dikenal sebagai RAMS, standar ini akan memungkinkan prinsipal terverifikasi untuk memberikan izin kepada agen onchain yang dibatasi oleh aset, tindakan, durasi, dan nilai moneter. Kontrak token terregulasi dapat memeriksa mandat ketika agen mencoba mengeksekusi transaksi.
Proposal tersebut memisahkan tiga pertanyaan yang mungkin muncul selama perdagangan yang dipimpin agen. Registri identitas akan mengkonfirmasi bahwa agen tersebut ada, penyedia kepatuhan akan menentukan apakah prinsipal memenuhi syarat untuk bertransaksi dalam aset tersebut, dan registri RAMS akan memverifikasi apakah tindakan yang direncanakan termasuk dalam mandat yang didelegasikan.
Berdasarkan spesifikasi draf, mandat dapat menetapkan jumlah maksimum untuk satu transaksi dan jumlah kumulatif di beberapa transaksi. Mandat juga dapat mencakup waktu aktivasi dan kedaluwarsa, aset yang diizinkan, tindakan yang disetujui, fungsi pencabutan, dan catatan yang menunjukkan berapa banyak wewenang yang telah digunakan agen.
Mata mengatakan RAMS tidak akan mentransfer tanggung jawab kepada agen atau mengganti prinsipal atas kerugian yang diotorisasi. Sebaliknya, standar yang diusulkan akan memberikan bukti yang menunjukkan siapa yang memberikan wewenang, apa yang diizinkan agen untuk dilakukan, dan apakah transaksi tetap berada dalam batasan tersebut.
“Tujuannya adalah untuk membuat atribusi dapat diverifikasi: siapa yang memberikan wewenang, apa yang diizinkan agen untuk dilakukan, apakah itu tetap dalam batasan tersebut dan orang atau kontrol mana yang gagal ketika tidak.”
ERC-8226 tetap menjadi draf daripada standar Ethereum yang diadopsi atau persyaratan hukum. Halaman diskusinya juga mencantumkan pertanyaan-pertanyaan yang belum terselesaikan, termasuk apakah token yang dibeli oleh agen harus tetap berada di dompet agen atau langsung masuk ke dompet prinsipal.
Untuk pasar AS, aturan sekuritas yang ada sudah menempatkan tugas pada perusahaan yang menyediakan akses ke bursa dan sistem perdagangan alternatif.
Berdasarkan Aturan SEC 15c3-5, broker-dealer yang menyediakan akses pasar harus mempertahankan kontrol risiko keuangan dan regulasi di bawah kendali langsung dan eksklusifnya, tunduk pada pengecualian terbatas. Pedoman SEC menyatakan bahwa broker-dealer tetap bertanggung jawab atas efektivitas kontrol tersebut bahkan ketika menggunakan teknologi yang disediakan oleh pihak ketiga independen.
Aturan tersebut mensyaratkan pemeriksaan pra-perdagangan otomatis yang dirancang untuk menghentikan pesanan yang melebihi batas kredit atau modal yang telah ditetapkan. Aturan tersebut juga mensyaratkan kontrol yang membatasi sistem perdagangan untuk orang yang berwenang, memblokir transaksi sekuritas terlarang, dan memberikan laporan eksekusi segera kepada staf pengawasan.
Untuk pembayaran konsumen, Regulasi E mensyaratkan transfer dana elektronik praterotorisasi untuk membawa otorisasi tertulis atau yang diautentikasi serupa dari pemegang rekening. Pedoman CFPB juga mengatakan bahwa proses otorisasi harus menunjukkan identitas dan perjanjian konsumen, sambil memungkinkan konsumen untuk menghentikan atau mencabut pembayaran di masa mendatang berdasarkan prosedur yang ditentukan.
Aturan CFPB saat ini tidak secara langsung menyatakan bagaimana instruksi berdiri seperti “kelola portofolio saya” harus berlaku ketika agen AI secara independen memilih dan mengeksekusi transfer individual. Sandmark melaporkan bahwa para pengacara tetap terbagi apakah pembayaran agen yang dimanipulasi akan menyerupai transfer tidak sah yang disebabkan oleh kredensial yang dicuri atau transaksi yang diotorisasi yang dilakukan di bawah akses yang diberikan sebelumnya.
Di luar Amerika Serikat, Wakil Gubernur Bank of England Sarah Breeden mengatakan pada bulan Juni bahwa kerangka pengawasan keuangan tidak dirancang untuk agen otonom dan bahwa persyaratan persetujuan manusia untuk setiap tindakan mungkin tidak realistis. Dia mengatakan regulator sedang mempertimbangkan perlindungan yang lebih kuat, termasuk pemutus sirkuit atau sakelar pemutus pasar jika model AI yang cacat mengancam sistem perdagangan.
USDC
