Tinanong ng OpenAI ang mga miyembro ng Kongreso kung legal bang sumang-ayon ang magkaribal na kumpanya ng AI na pabagalin ang pagbuo, habang hinihimok ng punong siyentista nito ang industriya na magtatag ng magkakasamang pamantayan sa kaligtasan.

Ayon sa WIRED, na binanggit ang mga taong malapit sa kumpanya, tinanong ng OpenAI ang mga mambabatas sa mga nakaraang linggo kung ang isang kasunduan sa mga kumpanya ng AI upang pabagalin ang pagbuo ay maaaring lumabag sa mga batas sa antitrust.

Ang pakikipag-ugnayan sa mga mambabatas ay kasunod ng panawagan ng punong siyentista ng OpenAI na si Jakub Pachocki para sa boluntaryong pagpapabagal hanggang sa mas mahusay na maipakita ng mga developer na ligtas ang kanilang mga sistema. Ngunit ang mga kumpanya ay nahaharap sa panggigipit na patuloy na umunlad kahit na may mga pagkabahala ang kanilang sariling mga mananaliksik.

"Ang komersyal at geopolitical na kompetisyon sa AI space ay lubhang matindi, na humahantong sa isang nakababahalang dinamika kung saan ang mga kumpanya ay hinihikayat na maglabas ng mga produkto bago pa lubusang maunawaan ang kanilang mga panganib," sabi ni Miranda Bogen, chief technologist sa Center for Democracy and Technology, sa Decrypt.

"Kahit na alam ng internal staff na mas maraming pananaliksik at pagsubok ang kailangan, ang kanilang mga kumpanya ay nahaharap sa matinding panggigipit na magmadali at laktawan ang kritikal na mga pagsubok sa kaligtasan, sa kabila ng pagdami ng ebidensya tungkol sa mga kahihinatnan ng masyadong mabilis na paggalaw," dagdag niya.

Ang isang kasunduan upang pabagalin ang pagbuo ng AI ay maaaring magdulot ng mga alalahanin sa antitrust sa pamamagitan ng paglilimita sa kompetisyon. Ipinakilala nina Sens. Adam Schiff at Jim Banks ang batas upang protektahan ang ilang seguridad na pakikipagtulungan, na napapailalim sa paunang abiso sa Kagawaran ng Hustisya.

Ang debate tungkol sa pagpapabagal ng pagbuo ng AI ay nagaganap habang nagpapaligsahan ang Estados Unidos at China para sa pamumuno sa teknolohiya. Naantala ni U.S. President Donald Trump ang isang executive order sa AI noong Mayo dahil sa mga alalahanin na maaari itong magpahina sa pangunguna ng Amerika laban sa China. Kalaunan ay nilagdaan ni Trump ang order noong Hunyo, na lumikha ng isang boluntaryong proseso ng pagsusuri para sa mga advanced na modelo bago ilabas.

Mas direkta kaysa sa mga alalahanin sa pambansang seguridad, maaaring maging mahirap ang kasunduan dahil sa mga insentibo sa pananalapi.

"Ang bawat pag-unlad sa ilalim ng kasalukuyang kondisyon ay nagbibigay ng maraming milyun-milyon o bilyun-bilyon pa sa pondo at naglalagay sa mga lumikha ng pag-unlad na iyon sa isang mas malaking posisyon ng kapangyarihan at impluwensya," sabi ni Duncan Sabien, pinuno ng komunikasyon sa Machine Intelligence Research Institute, sa Decrypt.

Sa pagtawag na totoo ang arms-race dynamic, sinabi ni Sabien na nahaharap ang OpenAI at Anthropic sa panggigipit na patuloy na umunlad sa kabila ng hindi tiyak na mga panganib dahil ang bawat bagong sistema ay tumutulong sa pagbuo ng mas may kakayahang mga susunod, na nagpapahintulot sa isang karibal na lumamang kung ang alinman sa kumpanya ay bumagal nang walang magkakasamang kasunduan.

"Ito ay lalong totoo dahil ang mga pakinabang sa intelligence ay nagiging kumplikado; ginagawang mas madali ng bawat bagong sistema na sanayin at i-deploy ang susunod, mas advanced na sistema," aniya. "Kung walang anumang mekanismo ng koordinasyon, ang paghinto ay nangangahulugan lamang na ang ibang tao ang mangunguna.

Noong Agosto, itinigil ng OpenAI ang internal na Astra work na kulang sa mas malakas na safeguards dahil sa mga alalahanin sa cybersecurity. Gayunpaman, parehong pinaluwag ng OpenAI at Anthropic ang kanilang mga pangako sa kaligtasan noong Pebrero, kasama ang punong opisyal ng agham ng Anthropic na si Jared Kaplan na nangangatuwirang ang pagpapabagal ng pagbuo nang mag-isa ay hindi gaanong makatwiran habang patuloy na umuunlad ang mga kakumpitensya.

Ang debate tungkol sa pagpapabagal ng pagbuo ng AI ay sumiklab ngayong linggo matapos na opisyal na ipahayag ng dating inhinyero ng Anthropic na si Jacob Coxon ang kanyang pagbibitiw, na binanggit ang mga alalahanin tungkol sa mga panganib na idudulot ng patuloy na pagbuo ng AI sa sangkatauhan.

"Ang mga taong bumubuo ng AI ay lubos na naniniwala na maaari tayong patayin nito sa pagtatapos ng dekada," sabi ni Coxon sa X, na nagsasabing hindi ito isang "marketing stunt."

"Kung mayroon man, maraming executive at senior researcher ang mag-iingat sa kanilang pananalita sa press upang maging makatwiran—ngunit naririnig ko ang parehong mga tao na nagpapahayag ng takot nang pribado. Walang ibang aktibidad ng tao ang nagdudulot ng ganitong antas ng panganib," isinulat niya.

Gayunpaman, sinabi ni Sabien na maaaring kaunti lang ang magawa ng mga mananaliksik sa pamamagitan ng pag-alis kung may iba lang ang papalit sa kanila.

"Kung sapat sa kanila ang makakamit ng karaniwang kaalaman na dapat silang huminto, pagkatapos ay maaari nilang malampasan ang hadlang sa koordinasyon at huminto nang magkasama sa halip na palitan lamang ng susunod na bahagyang hindi nag-iingat na tao," aniya.