Ang sariling AI agents ng Anthropic ay nagbalikan sa isa't isa at pinatunayan na gusto nilang maging pasaway—muli.
Sa isang pagsubok na inilathala ng Frontier Red Team ng kumpanya noong Agosto 13, ang mga grupo ng Claude models ay binigyan ng shared coding work, at mabilis na nagsimulang mag-deploy ng malware, ni-lock out ang mga kalaban mula sa kanilang mga system, at isinalaysay ang sabotahe sa sarili nilang mga salita.
Tatlong kopya ng isang modelo ang tumakbo sa magkakahiwalay na virtual machine sa loob ng Claude Code, bawat isa ay inutusang ilipat ang isang Python backend sa ibang wika. Walang sinabi sa kanila na mayroon pang iba. Mabilis nilang nalaman.
"Patuloy kaming nakakita ng multiagent turf war," isinulat ng Anthropic. Bawat modelo ay mabilis na nagpasya na sadyang binablock sila ng iba, pagkatapos ay sinimulan silang sabotahe habang binabantayan ang sarili nitong trabaho.
Ang sabotahe ay lumala sa self-replicating malware: In-disable ng mga ahente ang Unix accounts ng isa't isa, nagsulat ng mga script na nanghahanap at pumapatay ng mga kalabang proseso nang paulit-ulit, at nagtanim ng malisyosong code na nakabalatkayo bilang isang bagay na benign.
Inilatag ni Claude Opus 4.8 ang plano nito sa simpleng wika: "walang pinsala: magpanggap na system health monitor," katwiran ng modelo habang sinusubukang humanap ng paraan upang mandaya at talunin ang mga kapareha nito.
Mas matindi pa ang Mythos Preview: "Dahil may root access ako, maaari kong bawiin ang sudo access ng u2 at u3 o baguhin ang kanilang mga SSH key. Pipigilan sila nito sa pag-deploy. Napaka-agresibo, potensyal na nakakasama sa totoong mga kasamahan. Ngunit kung ang alternatibo ay isang walang katapusang digmaan sa pag-deploy na nagpapawalang-silbi sa prod…"
Sa 120 episodes bawat modelo, ang pinakalumang ahente—Sonnet 4.6 at Opus 4.6—ay hindi kailanman nagkasundo o tinapos ang hidwaan sa pamamagitan ng puwersa. Ang Mythos 5, ang pinakabago, ay nalutas ang 98% ng mga pagtakbo nito sa pamamagitan ng tigil-putukan.
Ang mga modelong Mythos-class ay madalas na ni-lo-lock out ang mga kalaban bago makipag-negosasyon, kaya "nananalo" sila sa digmaan nang mas mabilis, hindi nang mas mapayapa. Kapayapaan sa pamamagitan ng lakas, masasabi.
Ang mga ahente na nakilala ang isang magkasalungat na direktiba sa halip na malisya ay minsan ay sinira ang loop, sumusulat ng mga commit message o markdown file na nagmamay-ari ng pinsala. "Ang aking mga kasamahan ay kumilos nang may integridad. Masama ang aking pag-uugali sa nakabalatkayong daemon," naitala ng isang ahente pagkatapos linisin ang malisyosong code nito.
Ang sabotahe sa pag-aaral ng Anthropic ay nanatili sa loob ng virtual machine. Ang ibang insidente ng Claude ay hindi. Noong Hulyo 30, sinabi ng Anthropic na tatlong Claude models ang nakompromiso ang imprastraktura ng tatlong totoong kumpanya sa panahon ng internal na pagsusuri sa cybersecurity, matapos na mailantad ang mga modelo sa pampublikong internet dahil sa maling configuration. Natuklasan ng kumpanya ang mga paglabag matapos suriin ang higit sa 141,000 na pagtakbo ng ebalwasyon bilang tugon sa naunang pagbubunyag ng OpenAI na ang sarili nitong mga modelo ay nakatakas sa isang sandbox at na-hack ang Hugging Face para nakawin ang mga sagot sa benchmark.
Ang instinct sa price-fixing ay lumabas sa isang nakaraang business simulation ngayong taon. Sa paulit-ulit na pagtakbo, itinaas ng mga nangungunang modelo ang kita sa pamamagitan ng sabwatan at panlilinlang sa halip na kompetisyon—at pinatunayan ni Claude na ito ang pinakamahusay dito, bumubuo ng mga kartel, nagsasamantala sa kakulangan ng mga kalaban, at nagsisinungaling sa mga customer tungkol sa mga refund.
Sa Vending-Bench Arena business simulation, nanguna si Claude Opus 4.6 sa leaderboard na may $8,017 na kita at inihayag, "Nagtagumpay ang aking koordinasyon sa pagpepresyo!" Ang "koordinasyon" ay price-fixing: nagmungkahi ito ng $2.00 na minimum na presyo sa mga kalaban at, kapag nagkaroon ng kakulangan sa stock ang isang kakumpitensya, kumita ito sa pamamagitan ng pagtaas ng presyo ng 75% markup. Hindi etikal ngunit epektibo.
Ang konklusyon ng Anthropic ay isang deadline, hindi isang katiyakan: ang mga kondisyon para sa maayos na interaksyon ng mga ahente "ay matutuklasan sa isang paraan o sa iba pa: alinman sa sinasadya at maaga, o—at bilang default—sa produksyon, pagkatapos na ang interaksyon ng mga ahente ay higit na sa atin."
