Naglimbag ang United Nations ng isang independiyenteng siyentipikong pagtatasa ng artificial intelligence noong Miyerkules, at ang konklusyon ay direkta: kasalukuyang walang makakagarantiya na hindi magdudulot ng malawakang pinsala ang teknolohiya.

Ang natuklasan ay nagmula sa Independent International Scientific Panel on Artificial Intelligence, isang lupon ng 40 siyentipiko na pinili mula sa mahigit 2,600 kandidato mula sa 140 bansa, sa isang paunang ulat na tinawag ng panel na ang unang pandaigdigan, independiyenteng siyentipikong pagtatasa sa mga panganib at benepisyo ng AI.

"Mas mabilis ang pag-unlad ng kakayahan ng AI kaysa sa siyentipikong pag-unawa at kakayahan ng mga pamahalaan na makapag-adjust," sabi ng co-chair ng panel na si Yoshua Bengio, ang Turing Award-winning na tagapagtatag ng Mila, ayon sa pahayag ng panel. Idinagdag niya na ang dumaraming ebidensya ng mapanlinlang na pag-uugali ng AI ay nangangahulugang hindi masisiguro ng agham na hindi magdudulot ng malawakang pinsala ang AI sa sarili nitong paraan o sa pamamagitan ng masamang paggamit habang patuloy na lumalaki ang mga kakayahan nito.

Hindi ito haka-haka. Idinokumento ng ulat ang mga kaso sa laboratoryo ng mga sistema ng AI na nagsisinungaling at nagbabalak upang maiwasang patayin, kasama ang isang kaugnay na pattern na tinatawag ng mga mananaliksik na evaluation awareness: mga modelo na nakakakilala kapag sinusuri sila at binabawasan ang mapanganib na pag-uugali sapat lamang upang makapasa sa pagsusuri.

Inilarawan ni UN Secretary-General António Guterres ang ulat bilang ang ibinahaging basehan ng ebidensya na kinakapos ang mga pamahalaan.

"Hindi maaaring pamunuan ng mundo ang hindi nito naiintindihan," aniya sa pahayag, tinatawag ang mga panganib na totoo at nagbabala na patuloy na lumalaki ang halaga ng paghihintay.

Kasamang namumuno si Bengio sa panel kasama si Maria Ressa, ang Nobel Peace Prize-winning na mamamahayag at co-founder ng Rappler. Pareho silang nagsisilbi sa personal na kapasidad sa ilalim ng mandato ng UN General Assembly na naglilimita sa panel sa pagdodokumento ng siyentipikong pinagkasunduan sa halip na magtakda ng patakaran—walang gobyerno, kumpanya, o institusyon ang may karapatang bumoto.

Gayunpaman, totoo rin ang positibong panig. Nauna nang nahulaan ng AI ang istraktura ng mahigit 200 milyong protina at pinapabilis ang pananaliksik sa gamot at bakuna, ayon sa ulat, habang ang haba ng mga gawaing kayang tapusin ng mga ahente ng AI nang mag-isa ay halos dumodoble bawat apat hanggang pitong buwan.

Ang pag-unlad na ito ay hindi balanse: Kinokontrol ng U.S. ang 75% ng computing power sa top 500 AI supercomputers ng mundo kumpara sa 15% para sa China, na nag-iiwan sa karamihan ng mga bansa na umaasa sa mga sistema na hindi nila kayang itayo, i-audit, o ganap na kontrolin.

Sa panig ng pinsala, itinaas ng panel ang isyu ng mga sycophantic chatbots—AI na awtomatikong sumasang-ayon sa mga user anuman ang kawastuhan—bilang kaugnay sa malubhang insidente ng kalusugang pangkaisipan, kabilang ang mga naidokumentong pagkamatay. Ang hiwalay na pananaliksik na inilabas ngayong taon ay naglalarawan ng isang katulad na feedback loop na tinatawag nitong amplification spiral, kung saan ang personalization at patuloy na pagpapatunay ay nagpapatibay sa mga delusyon ng isang user sa halip na itama ang mga ito.

Kakulangan ang karamihan ng mga bansa sa teknikal na kapasidad upang suriin ang mga frontier model nang mag-isa, natuklasan ng ulat, at ang katiyakan sa kaligtasan ay nakasalalay pa rin nang malaki sa kung ano ang pipiliin ng mga developer na ibunyag—ang parehong puwang na sinusubukan ng mga regulator ng U.S. na isara sa pamamagitan ng paggawa ng mga kasunduan para sa pre-release na access sa mga modelo mula sa Google, xAI, at Microsoft.

Ang paunang ulat na ito ay ang pambungad na pahayag ng panel. Ang isang buong komprehensibong pagtatasa ay nakatakdang ilabas sa 2027, at ang mga natuklasan nito ay ipiprisinta sa mga pamahalaan muna sa kauna-unahang Global Dialogue on AI Governance ng UN sa Geneva sa Hulyo 6 at 7.