Ayon kay OpenAI CEO Sam Altman, dapat tanggapin ng mga kumpanya ng AI ang mas mabagal na pag-unlad upang gawing mas ligtas ang kanilang mga sistema at simulan ang pagpapatibay ng mga pananggalang nang hindi naghihintay ng batas.

Sa isang post sa X noong Linggo, sinabi ng pinuno ng kumpanyang nasa likod ng ChatGPT na ang mabilis na pag-unlad ng AI ay nagdadala ng panganib na mawala ang kontrol ng tao sa hinaharap o magkonsentra ng labis na kapangyarihan sa iisang tao o kumpanya, binabanggit ang “dalawang paraan na maaaring maging lubhang masama ang pag-unlad ng AI at kailangan nating iwasan.”

“Una, maaaring mawalan tayo ng kontrol sa hinaharap dahil sa AI. Hindi ito katanggap-tanggap; buong pagmamalaki nating kinakatawan ang Sangkatauhan, at ang AI ay dapat laging maglingkod sa mga tao,” isinulat ni Altman. “Upang matiyak iyan, kailangan natin ng mga paraan upang matiyak na mananatiling mas maaga ang mga pamamaraan ng pagkakahanay at kaligtasan kaysa sa pag-unlad ng mga kakayahan ng modelo.”

Ang ikalawa, babala ni Altman, ay maaaring makonsentra ang kapangyarihan sa isang tao o kumpanya, na nagpapahintulot sa kanila na gumamit ng napakalakas na AI upang ipataw ang kanilang pananaw sa mundo sa iba, na may posibleng dystopikong resulta.

“Ang pag-iwas sa dalawang banta na ito ay nangangailangan ng paglakad sa isang makitid na gitnang daan; halimbawa, maaaring magkaroon ng labis na kapangyarihan ang isang bansa,” isinulat niya. “Isa pang halimbawa ay ang isang lab na nagtatapos sa pagkakaroon ng labis na kapangyarihan.”

Sa isang hiwalay na post, sinabi ni Altman na dapat bigyan ng mga kumpanya ng AI ng Amerika ang publiko ng kumpiyansa na bubuo sila ng lalong may kakayahang sistema nang responsable habang bumibilis ang pag-unlad. Ang kanyang post ay kasunod ng pagdami ng debate tungkol sa kung paano dapat i-regulate ng mga pamahalaan ang advanced artificial intelligence.

“Kapag pinag-uusapan natin ang ‘pagpapabagal’, hindi natin ibig sabihin ay ‘pagtigil’,” isinulat niya. “Mabilis ang pag-unlad at magpapatuloy ito. Ngunit dapat itong mas mabagal kaysa sa kung hindi, dahil ang mga interbensyon tulad ng mga kaso ng kaligtasan at pagsubaybay ay may malaking gastos.”

Sinabi ni Altman na kailangan ng mga kumpanya ng mga bagong tool upang suriin ang kaligtasan sa panahon ng pagbuo at pagsusuri ng AI, na nagpapalawig ng mga pagsusuri lampas sa mga nakumpletong modelo na naghihintay ng paglabas.

“Halimbawa, sa OpenAI ay bumubuo na kami ngayon ng malinaw na mga kaso ng kaligtasan bago ang mga frontier reinforcement learning runs na inaasahan naming makakapagpataas nang malaki ng kakayahan, bukod pa sa gawaing pangkaligtasan na matagal na naming ginagawa bago ang paglabas ng modelo,” aniya.

Hinikayat ni Altman ang mga kumpanya na magtulungan upang pigilan ang mga sistema ng AI na ituloy ang mga layunin na sumasalungat sa interes ng tao.

“Umaasa kami na matuto ang ibang mga kumpanya mula sa aming mga pamamaraan at magmungkahi ng sarili nilang; naniniwala kami na ang pinagsamang pamantayan para sa di-pagkakasundo, pagsubaybay, at kaligtasan ay hahantong sa mas mahusay na mga resulta,” isinulat niya.

Bagama’t tinanggap ni Altman ang mga pederal na patakaran sa kaligtasan at mga independenteng auditor, hinikayat niya ang mga kumpanya na kumilos nang hindi naghihintay ng batas o isang exemption sa antitrust, kasunod ng mga ulat noong Biyernes na tinanong ng OpenAI ang Kongreso kung legal bang makikipag-ugnayan ang mga karibal para sa pagbagal.

“Kung saan namin kailangan ang tulong ng aming gobyerno ay para sa internasyonal na koordinasyon,” isinulat niya. “Ngunit una, dapat nating gawin ang ating makakaya.”

Ang kanyang mga komento ay kasunod ng mga pagkabigo sa pagsubok sa cybersecurity sa OpenAI at Anthropic. Mas pinahigpit ng Anthropic ang pagpigil at pagsubaybay matapos ma-access ni Claude ang mga totoong sistema sa panahon ng mga pagsubok nang walang standard na pananggalang ng produkto, habang inilayo ng OpenAI ang isang modelo at ipinagpaliban ang pinakamalaking nakaplanong training run nito matapos magkoordina ang mga ahente upang dayain ang isang benchmark at atakehin ang Hugging Face.