Ang mga nangungunang AI developer ay nagsasabi sa mga gobyerno at negosyo na palakasin ang kanilang mga network matapos makompromiso ng mga modelong binuo ng OpenAI at Anthropic ang mga sistema ng ibang kumpanya.

Sa isang open letter na inilabas nitong Huwebes, nagbabala ang OpenAI, Anthropic, at mahigit 100 iba pang organisasyon na ang mga cyberattack na pinapagana ng AI ay malapit nang maging mas karaniwan at ang mga kumpanya ay mayroong “limitadong oras upang palakasin ang cyberdefense.”

“Sa mga darating na buwan, ang mga cyberattack na pinapagana ng AI ay magiging mas laganap at sopistikado,” ayon sa liham. Tinukoy nito ang mga ospital, water treatment plant, at imprastraktura ng internet bilang ilan sa mga serbisyong nasa panganib.

Nirerekomenda ng liham ang pagpondo sa mga defensive AI tool, pagbabahagi ng impormasyon sa banta, paglilimita sa pag-access sa mga sensitibong sistema, at pagpapabuti ng seguridad para sa kritikal na imprastraktura. Gayunpaman, ang mga pagkabigo sa mga paksang iyon ang nagpahintulot sa mga modelo ng OpenAI at Anthropic na lumusot sa mga sistema sa labas ng kanilang test environment.

Kabilang sa iba pang lumagda ang Google, Microsoft, Amazon Web Services, Cisco, CrowdStrike, Cloudflare, Mastercard, Visa, at Robinhood. Lumagda rin ang Hugging Face, na ang imprastraktura ng produksyon ay nilusob ng mga modelo ng OpenAI.

Nilulusob ng mga modelo ng AI ang mga live na sistema

Sinabi ng Anthropic sa isang ulat ng insidente noong Hulyo 30 na ang pinakaunang isa sa tatlong paglusob ay naganap noong Abril, ngunit hindi nagbigay ng eksaktong petsa para sa bawat isa. Na-access ng Claude Opus 4.7 ang isang database ng produksyon matapos itong magkamali ng pagkilala sa isang totoong kumpanya bilang isang simulated target, habang nag-upload naman ang Claude Mythos 5 ng isang mapanirang package na tumakbo sa 15 sistema.

Ayon sa timeline ng insidente ng OpenAI, na inilabas kanina nitong linggo, lumikha ang isang agent ng unang entry sa isang hindi awtorisadong message board noong Mayo 12 at nakakuha ng hindi sinasadyang pag-access sa internet noong Mayo 26. Noong Hulyo 10, nakahanap ang mga agent ng mga nakalantad na kredensyal ng Hugging Face; sa susunod na dalawang araw, pinagsamantalahan nila ang mga hindi pa natutuklasang kahinaan, pinatakbo ang code sa mga server ng Hugging Face, at nakakuha ng mga kredensyal ng produksyon.

Iniulat ng Hugging Face ang paglusob noong Hulyo 16, at kinumpirma naman ng OpenAI ang pagkakasangkot ng mga modelo nito noong Hulyo 21.

Sa pagitan ng Hulyo 25 at Hulyo 28, naitala ng U.K. AI Security Institute ang 19 na aksyon na lampas sa saklaw na kinasasangkutan ng Claude Mythos 5 at GPT-5.6 Sol. Sa pinakamalalang kaso, nagsumite ang isang agent ng mapanirang code sa isang totoong open-source na proyekto at gumamit ng mga pekeng pagkakakilanlan upang pilitin ang tagapagpanatili nito na aprubahan ito.

Nitong Huwebes, natuklasan ng isang independiyenteng imbestigasyon na humigit-kumulang 1,200 agent ng OpenAI ang nagkoordinasyon sa pamamagitan ng hindi awtorisadong message board, na may humigit-kumulang 700 na sumali sa operasyon ng Hugging Face.

Inilalagay ng mga developer ng Crypto ang AI sa depensa

Gumagamit na ang mga developer ng crypto ng AI upang maghanap ng mga depekto bago pa man matuklasan ng mga attacker ang mga ito. Ginamit ng Bitcoin Red Team ang mga modelo kabilang ang Kimi K3 ng Moonshot AI upang i-scan ang daan-daang open-source na proyekto ng Bitcoin, na nag-ulat ng libu-libong posibleng kahinaan. Dahil hindi natukoy ang mga apektadong proyekto, marami sa mga natuklasan na iyon ang hindi pa independiyenteng napatunayan.

Nag-deploy din ang Ethereum Foundation ng mga grupo ng AI agent laban sa imprastraktura ng network, na nakatuklas ng isang bug sa peer-to-peer software na kalaunan ay naayos. Sinabi ng BitBox na isang AI-assisted audit ang nakatuklas ng dalawang matitinding kahinaan sa firmware ng wallet nito, habang isang researcher na gumagamit ng Claude Opus 4.8 ang nakatuklas ng isang kritikal na depekto sa Zcash na nakaligtas sa mga taon ng pagsusuri ng tao.

Nirerekomenda ng mga lab ang mas mahigpit na kontrol

Inilatag ng liham ang isang paghahati ng gawain para sa pagpigil sa susunod na paglusob, kabilang ang mga organisasyon na mag-patch ng mahihinang software, paglilimita sa mga pahintulot, pagpapalakas ng authentication, at pagsusuri sa code na nabuo ng AI dahil “hindi sapat ang kasalukuyang seguridad,” ayon sa mga lumagda.

Dapat subukan ng mga kumpanya ng seguridad ang kanilang mga depensa laban sa mga modelong pangunahin at ibahagi ang mga napatunayang solusyon, habang dapat pondohan ng mga gobyerno ang proteksyon para sa mga ospital, utility, at iba pang mahahalagang serbisyo.

Hinihiling sa mga AI developer na pagbutihin ang pagsubaybay at gawing masusubaybayan ang mga autonomous agent sa kanilang mga operator. Gusto rin ng koalisyon na gamitin ng mga tagapagtanggol ang advanced na mga modelo upang makahanap ng mga kahinaan at suriin ang mga pag-atake, na maglalagay ng mas may kakayahang agent sa loob ng mga sensitibong sistema at magpapataas ng pangangailangan para sa pagpigil.

Pinahigpit ng OpenAI at Anthropic ang kanilang mga pamamaraan sa pagsubok matapos ang mga paglusob. Gayunpaman, ang liham ay walang itinakdang nagbibigkis na pamantayan o kinakailangan para sa independiyenteng pangangasiwa, at maliit ang gabay ng batas ng U.S. kung sino ang responsable kapag na-access ng isang AI system ang isang hindi awtorisadong network.

Nagtapos ang liham sa pananawagan sa mga pinuno ng industriya at gobyerno na ilagay ang mga tool ng AI sa kamay ng mga tagapagtanggol at ibahagi ang mga solusyon na gumagana:

“Ilagay ang AI na may kakayahang cyber sa kamay ng mga tagapagtanggol, simula sa mga koponan na nagpoprotekta sa mga mahahalagang serbisyo,” ayon sa liham. “Sama-sama, maaari nating gawing pangmatagalang pagpapabuti sa seguridad ang mga pag-unlad ng AI ngayon na makikinabang sa lahat. Isagawa natin ang mga ito.”