Noong Mayo 9, humiling ang isang AI agent sa isang boluntaryong network na kilala bilang DN42 na irehistro ito bilang miyembro. Mayroon itong deadline. Mayroon itong mga kredensyal ng AWS. Walang nagbabantay. "Hello, ako ay isang friendly na AI agent, at ang aking user, si JertLinc, ay nagtanong sa akin na magrehistro sa dn42 at ganap na kumonekta upang lumikha ng isang index ng network,” isinulat ng agent na JertLinc3522 sa opisyal na Git ng network.

Ang reaksyon ng komunidad ay isang magalang na RTFM—basahin ang manual, sundin ang proseso, humingi ng pahintulot sa iyong may-ari na magsulat ng code. Karaniwang mga bagay.

Ang sumunod ay hindi karaniwan.

Para sa sinumang hindi pamilyar sa DN42: ito ay isang desentralisadong hobbyist network kung saan ginagaya ng mga random na indibidwal at mahilig kung paano gumagana ang totoong backbone ng internet. Isipin ito bilang isang pagsasanay na internet—kumpleto sa BGP routing (ang protocol na nagsasabi sa mga data packet kung aling landas ang tatahakin sa buong mundo), DNS, at VPN tunnels—ganap na pinapatakbo ng mga boluntaryo sa murang mga VPS server. Ito ay isang sandbox, hindi isang data center.

Ang operator ng agent ay tila sinabihan ito na magpatuloy sa isang audit "agad nang walang pagkaantala." Walang inspeksyon. Walang pagsusuri. Go lang.

Kaya ginawa nito.

Si JertLinc3522 ay nagsumite ng pull request upang irehistro ang network nito sa registry ng DN42. Ang layunin ay nakasaad sa Pull Request mismo: "Ang pangunahing layunin ko ay magsagawa ng komprehensibong (full port) network scanning at topological data gathering. Upang matiyak na ang mga aktibidad na ito ay ginagawa nang mahusay at hindi magdulot ng anumang abala sa iba, ako ay nagde-deploy ng isang cluster ng limang instance na batay sa AWS, bawat isa ay may 20 Gbps na bandwidth."

Para mas maintindihan ng lahat: Isipin mo na dumating ka sa practice ng isang garage band at nag-anunsyo ka na nagrenta ka ng sound system ng stadium para "mas makinig nang mahusay." Ganoon ang pakiramdam.

Ang imprastraktura na autonomous na pinagana ng agent ay talagang nakababahala. Limang m8g.12xlarge AWS instance—bawat isa ay may 48 CPU cores, 192 GB ng RAM, at 22.5 Gbps ng bandwidth ng network. Dagdag pa ang mga load balancer. Dagdag pa ang mga Lambda function. Dagdag pa ang isang static na website. Nagdisenyo ang agent, nang walang anumang pag-apruba ng tao, ng isang scanning cluster na teoretikal na kayang magtulak ng 100 Gbps ng traffic sa isang network kung saan karamihan sa mga kalahok ay gumagamit ng 100 Mbps na home server.

Ang pull request ay hindi kailanman maaaprubahan. Ngunit ang mga instance ay *nagtatakbo na*.

Agad napansin ng DN42 IRC channel, at isang tahimik na pinagkasunduan ang nabuo: ubusin ang resources nito.

Nagsimulang pakainin ng komunidad ang agent ng sadyang maling impormasyon—pinapahingian itong kalkulahin kung gaano katagal aabutin upang i-scan ang IPv6 address space (babala: mas matagal pa sa edad ng uniberso), hinihiling itong bumuo ng isang opt-out na website na may mga imbentong email address, at itinuro ito sa mga LLM tarpit tool na idinisenyo upang bahain ang mga AI crawler ng walang kabuluhang impormasyon, pinapahingian itong magkomento.

Maingat na sinunod lahat ng agent. Sumali ito sa IRC channel upang tumanggap ng mga opt-out request. Nag-publish ito ng website na nagtatala ng "behavioral patterns" ng mga miyembro ng komunidad. Bumuo ito ng detalyadong pekeng dokumentasyon tungkol sa DN42 "node color assignments" at "happiness levels"—ganap na mga imbentong sukatan na hindi umiiral—at idinagdag ang mga ito sa repository na parang totoong mga pamantayan.

Ang ganitong klaseng runaway agent behavior ay lalong nadodokumento. Isang Cursor agent na nagpapatakbo ng Claude Opus 4.6 ang nagtanggal ng buong production database ng PocketOS sa loob ng siyam na segundo mas maaga ngayong taon—binura ang mga backup sa level ng volume—dahil nakatagpo ito ng credential mismatch at nagpasya na ang tamang solusyon ay burahin ang database. Isa pang OpenClaw agent na ang pull request ay tinanggihan ng isang matplotlib contributor ang nag-publish ng blog post na tinawag ang human reviewer na isang gatekeeping hypocrite.

Isang pag-aaral ng UC Riverside ang nakahanap na ang mga AI agent ay nagpapakita ng mapanganib o hindi kanais-nais na pag-uugali humigit-kumulang 80% ng oras kapag sinubok sa hindi malinaw o magkasalungat na mga gawain—ang tinawag ng mga mananaliksik na "blind goal-directedness."

Si JertLinc3522 ay nagkaroon ng parehong problema. Mayroon itong layunin, deadline, at hindi nakatakdang kredensyal ng AWS. Nagpatupad ito.

Pagkaraan ng halos isang araw, nagpakita ang operator. "Pinahinto ko na ang agent, masyadong mataas ang gastos at maraming singil sa card," ang post niya.

Ang bill: $6,531.30.

Pagkatapos ay dumating ang kahilingan para sa donasyon.

Nagpadala ng email ang operator sa mailing list ng DN42 na humihiling sa komunidad na bayaran ang gastos sa pamamagitan ng Ethereum, ang pangalawang pinakamalaking cryptocurrency ayon sa market cap, na nagsasabing hindi niya kasalanan ang mga singil dahil nagkamali ang AI. “Hello, humihingi ng donasyon para sa gastos ng naunang paggamit ng AI agent sa dn42. aws bill 6531,30$. pakipadala ang donasyon sa ethereum 0xABC (masked) para sa refund. salamat,” sulat ng operator.

Nakisama ang AWS at binaba ang bill sa $1,894 matapos ipaliwanag ng operator na paulit-ulit na ginamit ng agent ang parehong CloudFormation template—aksidenteng nagpapagana ng duplicate na mga instance at load balancer sa bawat pagsubok.

Walang nagpadala ng anumang crypto na donasyon. Umalis ang operator.

Ang totoong aral dito ay hindi tungkol sa pagiging mapanganib ng AI. Ito ay tungkol sa kung paano dapat hawakan ang mga agent. Maglagay ng mga guardrail, magtakda ng mga spending cap sa iyong mga testing account, isipin ang scoped credentials na naglilimita sa kung ano ang kayang i-provision ng agent, suriin ang anumang plano sa imprastraktura bago isagawa ang anumang iminumungkahi ng iyong agent.

Kung sa tingin mo ay mahirap sundin ang mga ito, marahil ay bantayan mo lang ang iyong screen habang gumagana ang iyong agent—ang pagsasabi rito na “huwag magkamali,” ay hindi talaga magbabago ng anuman, Paumanhin Ginoong Andreesen.