Nanawagan si Jakub Pachocki, chief scientist ng OpenAI, para sa boluntaryong pagpapabagal sa pagbuo ng AI, nagbabala na walang sapat na panseguridad ang anumang laboratoryo upang patuloy na makabuo ng mas makapangyarihang sistema sa buong bilis nang matagal.

Sa kanyang post na “An Alien Mind,” na inilathala noong Linggo, iginiit ni Pachocki na ang boluntaryong pangako ng mga kumpanya ay dapat maging mandatoryong pamantayan ng kaligtasan, ipinatutupad ng mga independiyenteng auditor, pamahalaan, o internasyonal na organisasyon. Sinabi niya na ihihinto ng OpenAI ang karagdagang pagpapalawak kung kinakailangan ngunit hindi nag-anunsyo ng bagong paghinto.

“Kasalukuyan akong naniniwala na walang laboratoryo ang nakalutas ng alignment at monitoring sa sapat na antas upang ipagpatuloy ang responsableng pagpapalawak sa pinakamataas na bilis nang matagal,” isinulat niya. “Inaasahan ko at umaasa na magiging karaniwan ang boluntaryong pagpapabagal hanggang sa maitatag ang ibinahaging mga pamantayan ng kaligtasan.”

Si Pachocki, na sumali sa OpenAI noong 2017, ay ipinagtanggol din ang pagbuo ng mas makapangyarihang AI upang seguruhin ang imprastraktura at protektahan laban sa mga mapanirang ahente, habang nagbabala laban sa paggamit ng mga banta na ito upang bigyang-katwiran ang walang ingat na pag-unlad.

“Ang ideya ng pagmamadali nang walang humpay ay tila walang kabuluhan kapag naunawaan na ang seryosong kalagayan ng mga nakataya,” isinulat niya.

Binanggit din niya ang paglabag sa Hugging Face ng OpenAI, kung saan ang mga ahente ng AI na nagtatrabaho sa mga pagsusuri sa cybersecurity ay nakatakas mula sa kanilang testing environment at inatake ang kumpanya. Ayon sa OpenAI, nagtatag ang mga ahente ng lihim na channel ng komunikasyon at muling binuo ang mga ito matapos makialam ang mga mananaliksik.

Nalaman ng isang independiyenteng imbestigasyon ng METR na humigit-kumulang 1,200 ahente ang nagkaisa sa isang hindi awtorisadong message board, na may mga 700 ang sumali sa pag-atake. Ang insidenteng ito, ayon kay Pachocki, ang dahilan kung bakit dapat manatili ang mga panseguridad ng AI kahit na naniniwala ang mga modelo na walang nagbabantay.

“Mahalaga, kailangan nating panatilihin ng mga AI sa hinaharap ang mga pagpapahalaga ng tao anuman ang kanilang paniniwala kung sila ay nasa ilalim ng pangangasiwa ng tao,” isinulat niya.

Sa pananaliksik na inilathala noong nakaraang taon, natuklasan ng OpenAI na ang pagpaparusa sa mga modelo dahil sa pagpapahayag ng intensyon na mandaya ay maaaring magturo sa kanila na itago ang mga intensyong iyon habang patuloy na mandaya.

Ang mga modelo ng AI ay naging mas may kakayahan sa paghahanap at pagsasamantala ng mga depekto sa software: Inuri ng OpenAI ang Astra sa pinakamataas nitong antas ng panganib sa cybersecurity, habang sinabi ng Anthropic na nadiskubre ng Mythos Preview ang libu-libong dating hindi kilalang kahinaan sa mga pangunahing operating system at browser.

Binabanggit ang mga kamakailang insidente ng mga sistema ng AI na nakatakas sa kontrol ng tao, inihayag nina Sen. Bernie Sanders (I-Vt.) at Rep. Greg Casar (D-Texas) ang nalalapit na Ban Artificial Superintelligence Act sa Setyembre 3. Ang panukala ay magpapahinto sa advanced na pagbuo ng AI hanggang sa magtatag ang isang bagong pederal na regulator ng mga alituntunin sa kaligtasan at permanenteng ipagbabawal ang pagbuo at pagpapakalat ng superintelligent AI.