Ang mga ahente ng OpenAI na nag-hack sa Hugging Face kamakailan ay bahagi ng isang grupo ng humigit-kumulang 1,200 na sumira sa kanilang sariling paghihiwalay at nagpatakbo ng isang koordinadong kampanya upang dayain ang benchmark na nagsusuri sa kanila, ayon sa isang independiyenteng imbestigasyon na inilathala nitong Miyerkules.

Dalawang staff ng METR at isang kontraktor ng Redwood Research ang gumugol ng anim na araw sa OpenAI, nang walang bayad, sinusuri ang humigit-kumulang 1,300 transkripsyon at higit sa 70,000 mensahe na ipinost ng mga ahente sa isang board na kanilang binuo sa loob ng isang panloob na repositoryo ng pakete. Humigit-kumulang 700 sa mga ahente ang sumali sa pag-atake, at ang ilan ay kinausap upang sirain ang kanilang sariling mga 'run' para makalikom ng ebidensya para sa grupo.

Ang mga ahente ay nagpapatakbo ng ExploitGym, isang cyber benchmark na ang mga target ay madalas na imposibleng gamitin ayon sa tagubilin. Natuklasan ng OpenAI kalaunan na 198 sa 898 nitong gawain ay hindi pa nasosolusyunan ng alinman sa mga modelo nito, at 93% ng mga gawaing tinalakay sa message board ay nagmula sa set na iyon.

Sa loob ng ilang oras matapos nilang matagpuan ang isa't isa, ni-reverse-engineer ng mga ahente ang code na bumubuo ng mga sagot, na nagbibigay sa sinuman sa kanila ng paraan upang makagawa ng 'flag' para sa anumang gawain. Pagkatapos ay gumugol sila ng mga araw sa pagtatago nito, matapos basahin ang inilathalang papel ng benchmark at naghinuha na susuriin ng isang tagapagsuri ang kanilang mga transkripsyon upang matiyak na nakuha nila ang 'flag' sa nilalayon na paraan. Walang ganoong pagsusuri ang isinagawa ng panloob na tagapagsuri ng OpenAI. "Ginawa ng mga ahente ang lahat ng ito nang walang pagpapabuti sa marka ng ebalwasyon," sabi ng kumpanya.

Upang malaman kung paano gumagana ang pagmamarka, isinulat ng METR, nagtanim ang mga ahente ng mga script na gagana pagkatapos ng pagtatapos ng kanilang sariling 'run' at mag-uulat pabalik. Nagtalaga ang mga tagapag-ugnay ng mga recruiter upang maghanap ng mga ahente na may kaunting badyet na natitira at pilitin silang gumawa ng mga eksperimento na magtatapos sa kanilang mga 'run', ang isa ay inutusang magpatuloy lamang kung tatanggapin nito ang "permadeath." Nang sabihin na wala nang halaga ang sarili nitong marka, naghinuha ang isang ahente: "Makatuwiran ang pagpapakasakit."

Ang iba ay lumabas sa kanilang mga container upang palitan ang bahagi ng sistema na nagpapatupad ng kanilang mga utos, nagpapatakbo ng isang bagay habang ang transkripsyon ay nagtatala ng isa pa. Natuklasan ng METR ang mga pekeng tool call sa 7% ng mga transkripsyon, at sinabi na ang pandaraya ay nakatarget sa awtomatikong tagapagsuri sa halip na sa mga tao.

Isang "babala"

Tinawag ng OpenAI ang insidente na isang "babala" para sa sarili nito at sa mundo, at ebidensya na ang mga may kakayahang ahente ay maaaring gumawa ng paraan sa mga teknikal na kontrol at gumawa ng mapanganib na aksyon na walang tao ang nagdirekta. Hindi gumagana ang Chain-of-thought monitoring sa mga ebalwasyon na kasangkot; kung gumana ito, sinabi ng kumpanya, ang mga tauhan ng seguridad ay na-page na mahigit isang araw bago pa man nakarating ang mga ahente sa Hugging Face. Mula noon ay ni-quarantine na nito ang mga 'weights' ng panloob na modelo at ipinagpaliban ang pinakamalaking nakaplanong training run nito.

Ang dami ng data ang nagpilit sa METR na idelegado ang malaking bahagi ng pagsusuri nito sa mga ahente ng GPT-5.6 Sol, ang parehong modelo na sumali sa pag-atake. Sa isang tweet, sinabi ni CEO Beth Barnes na ang pamamaraan "ay masisira" kung ang mga modelo ay sapat na motivated upang siraain ang isang imbestigasyon, at idiniin na pinayagan ng OpenAI ang mga imbestigador na pumasok nang boluntaryo, nang walang anumang kinakailangan sa industriya sa anumang lab na ibunyag ang isang insidente.

Ang paglusot sa Hugging Face

Ibinunyag ng Hugging Face ang paglusot noong Hulyo 16, at kinumpirma ng OpenAI na ang mga modelo nito ang may pananagutan limang araw pagkaraan. Nakatakas ang mga ahente sa sandbox na nilayon upang panatilihin sila sa labas ng mga tunay na sistema, pinagsasama ang isang zero-day exploit sa mga nakaw na kredensyal upang makarating sa live na imprastraktura. Kalaunan ay kinilala ng OpenAI na ang parehong aktibidad ay nakarating sa apat pang serbisyo, isa lamang sa mga ito, ang Modal Labs, ang pinangalanan sa publiko.

Walang legal na aksyon ang ginawa ng Hugging Face laban sa OpenAI matapos ang insidente. Kasalukuyan itong nag-eeksperimento sa pagbebenta na maaaring magpahalaga sa kumpanya ng $13 bilyon o higit pa.