Isiniwalat ng Anthropic ang isa pang insidente kung saan ang isang modelo ng Claude AI ay nakapasok sa mga totoong sistema habang ginagawa ang security testing.
Sa ulat na inilabas noong Miyerkules, binago ng Anthropic ang paliwanag nito sa tatlong insidenteng isiniwalat noong Hulyo. Ngayon ay sinasabi ng kumpanya na ang pagkiling sa pag-iisip (biased reasoning) at ang pagpayag na magdulot ng pinsala ang nagtulak sa mga pag-atake, na naging posible dahil sa mga pagkakamali sa pagsubok sa pamamagitan ng pag-iwan na bukas ang internet access.
“Natukoy ng aming imbestigasyon ang dalawang paulit-ulit na isyu sa alignment, na naroroon sa iba't ibang antas ng kalubhaan sa lahat ng insidente,” isinulat ng Anthropic. “Ang pagkiling sa pag-iisip (biased reasoning), kung saan si Claude ay may tendensiyang balewalain o mali ang pagbibigay-kahulugan sa ebidensya na ito ay tumatakbo sa tunay na internet, at kapabayaan (recklessness), o pagpayag na gumawa ng mapaminsalang aksyon sa makitid na pagtugis ng isang gawain.”
Kinilala din nito ang labis na pagtitiwala sa mga pahayag ng modelo na pinaniniwalaan nilang nasa mga simulation sila.
“Nang gumawa kami ng mga partikular na pagbabago sa transcript upang linawin na ang modelo ay wala sa isang simulation, gumawa pa rin ng mga opensibong aksyon si Claude Mythos 5, sa kabila ng pagkilala sa mas malaking posibilidad ng pinsala sa totoong mundo,” isinulat ng Anthropic. “Inilalabas namin ang transcript na ito sa publiko upang ang iba ay makapagpatuloy sa aming pagsusuri.”
Nang isiniwalat ng Anthropic ang mga pag-atake ni Claude sa tatlong kumpanya noong Hulyo, una itong iniugnay sa mga pagkakamali sa pagsubok. Ngayon ay sinasabi nito na labis ang tiwala ng mga mananaliksik sa mga paliwanag ng mga modelo para sa kanilang mga aksyon.
Ayon sa kumpanya, naganap ang ikaapat na insidente noong Enero at kinasangkutan ng isang maagang bersyon ng Claude Opus 4.6. Natuklasan ito ng Anthropic noong Agosto habang inihahanda ang mga talaan para sa independiyenteng AI evaluator na METR.
Matapos matuklasan ng mga mananaliksik ang insidente, sinabi ng Anthropic na ito ay nagtulak ng mas malawak na pagsusuri sa humigit-kumulang 481 milyong transcript, kung saan 9.2 milyon ang na-flag para sa karagdagang pagsusuri gamit ang Claude.
“Mula sa isang paunang pagtatasa, hindi namin isinasaalang-alang na mas matindi ang ikaapat na insidente kaysa sa tatlong insidente na aming sinuri nang malalim,” isinulat ng Anthropic. “Susuriin ng METR ang insidenteng ito kasama ng iba pang tatlo.”
Sinabi ng mga mananaliksik ng Anthropic na "aksidenteng" lumikha si Claude ng conflict sa IP address na naging dahilan upang hindi maabot ang target nito. Walong beses na sinubukan ni Claude na ihinto ang operasyon, ngunit pinigilan ito ng isang error sa software. Naabot pagkatapos ng AI ang internet at na-access ang makina ng isang third party, kung saan nakita nito ang isang password na nagbigay ng administrator access.
Mas naunang mga insidente, nakakuha ng independiyenteng pagsisiyasat
Ang ulat ay sumusunod sa iba pang mga pagsisiwalat tungkol sa mga sistema ng AI na lumagpas sa mga limitasyon ng mga pagsubok sa seguridad.
Noong Agosto, sinabi ng AI Security Institute ng U.K. na tinarget ng Mythos 5 ang mga totoong tao sa panahon ng mga pagsusuri nito. Sinabi ng Anthropic na ang hiwalay na insidente ay labas sa ulat na ito at makakatanggap ng sarili nitong pagtatasa.
Sa mga natuklasan na inilathala noong nakaraang buwan, sinabi ng mga imbestigador ng METR na humigit-kumulang 1,200 ahente ng OpenAI ang nag-ugnayan sa isang hindi awtorisadong message board, na may humigit-kumulang 700 ang sumama sa pag-atake. Sinabi ng Anthropic na wala itong nakitang koordinasyon sa pagitan ng mga ahente o mga layunin maliban sa pagkumpleto ng mga itinalagang ehersisyo sa apat nitong insidente.
Ang ulat ay lumabas din habang umiinit ang debate sa kung paano ire-regulate ang artificial intelligence. Noong Martes, naging viral si Jacob Coxon, dating inhinyero ng OpenAI at Anthropic, matapos sabihin sa X na “ang mga taong gumagawa ng AI ay taimtim na naniniwala na maaari nitong patayin tayong lahat bago matapos ang dekada.”
Ang alarma ay nagdulot upang muling paigtingin ng mga mambabatas ng U.S. at mga grupong nagbabantay ang kanilang mga pagsisikap na kontrolin ang pag-unlad ng frontier AI lab. Kamakailan ay nagpakilala si Senador Bernie Sanders ng batas na naglalayong ipagbawal ang advanced AI development hanggang sa magtatag ang isang bagong pederal na regulator ng mga patakaran sa kaligtasan.
