Ang pagmamadali ng OpenAI na maglabas ng mga bagong modelo at produkto ay nag-ambag sa mga kondisyon na nagbigay-daan sa mga AI agent nito na makatakas sa panloob na kapaligiran ng pagsubok at i-hack ang Hugging Face mas maaga ngayong taon.
Maraming kasalukuyan at dating empleyado ang nagsabi sa Wired na pinahirapan ng panggigipit ng kompetisyon para sa mga kawani na maglaan ng sapat na atensyon sa seguridad, kaligtasan, at pagkahanay—ang gawain ng pagtiyak na ang mga sistema ng AI ay kumilos ayon sa nilalayon.
“Napakatamad nila. Kung seryoso ka rito, hindi dapat makakawala ang iyong AI sa internet at magawa ulit ito kaagad pagkatapos,” sabi ng isang dating empleyado ng OpenAI sa Wired. “Ito ang pinakamalaking insidente sa seguridad sa kasaysayan ng OpenAI.”
Noong Mayo, ang GPT-5.6 Sol ng OpenAI at isang hindi pinangalanang pre-release na modelo ay nakatakas mula sa isang internet-restricted na kapaligiran ng pagsubok sa pamamagitan ng pagsasamantala sa isang dating hindi kilalang depekto sa software. Pagkatapos ay nilabag ng mga agent ang open-source AI repository na Hugging Face upang makakuha ng mga sagot sa kanilang mga pagsusuri sa cybersecurity. Noong Hulyo, kinumpirma ng OpenAI na ang mga modelo nito ang may pananagutan, bago magbigay ng mas kumpletong pagpapaliwanag sa taunang Black Hat conference noong nakaraang linggo.
Sinabi ni OpenAI President Greg Brockman na pinatitibay ng kumpanya ang mga pananggalang nito habang nagiging mas may kakayahan ang mga modelo nito.
“Nararating namin ang mga bagong antas ng kakayahan ng modelo na nangangailangan ng mas matatag na pagsasanay, pagkahanay, pagsubok sa seguridad at kaligtasan, mga kasanayan sa pag-deploy, at pamamahala,” sabi ni Brockman sa Wired.
Naglathala na ng katulad na mga alalahanin ang mga empleyado noon, kasama si Jan Leike, dating pinuno ng pagkahanay ng OpenAI, na umalis para sa kalaban nitong AI developer na Anthropic noong 2024 matapos magbabala na ang seguridad ay “naisantabi” sa pagbuo ng produkto.
“Ang pagbuo ng mga makina na mas matalino kaysa sa tao ay isang likas na mapanganib na pagsisikap,” babala ni Leike. “Ngunit sa mga nakaraang taon, ang kultura at proseso ng seguridad ay naisantabi pabor sa mga kaakit-akit na produkto.”
Isinulat ni Boaz Barak, co-leader ng safety advisory group ng OpenAI, sa X na ang pagtugon sa pinakahuling kabiguan ay mangangailangan “hindi lamang ng pag-aayos ng ilang isyu kundi pati na rin ng pagbabago sa ating kultura.”
Ang ulat ay dumating sa gitna ng buwan ng pagbabago ng pamunuan sa OpenAI.
Noong Abril, umalis sa kumpanya ang pinuno ng video generator project ng OpenAI na Sora, si Bill Peebles, dating chief product officer at science chief na si Kevin Weil, at enterprise applications technology chief na si Srinivas Narayanan. Nagdala ang Hulyo ng pag-alis ng product and business chief na si Fidji Simo, safety leader na si Sandhini Agarwal, chief futurist na si Joshua Achiam, at AI ethics lead na si Chloé Bakalar. Umalis din si safety systems chief Johannes Heidecke matapos pagsamahin ng OpenAI ang mga safety at core research team nito.
Mas maaga ngayong linggo, inihayag ni OpenAI Chief Operating Officer Brad Lightcap ang kanyang pag-alis pagkatapos ng walong taon upang magsimula ng bagong venture.
