Binuksan ni UN Secretary-General António Guterres ang unang Global Dialogue on AI Governance sa Geneva noong Lunes, sinasabi sa 193 bansa na ang AI ay nalalampasan na ang mga institusyon na nilayon upang pamahalaan ito—at na ang sangkatauhan ay nagpapatakbo ng isang eksperimento sa sarili nito "nang walang plano, at walang pahintulot."
"Ang artificial intelligence ay umuunlad sa bilis na walang kontrol,” sabi ni Guterres sa pambungad ng kanyang keynote. “Isang teknolohiya na maaaring muling hubugin ang mga ekonomiya, baguhin ang mundo ng trabaho, impluwensyahan ang halalan, at balansehin ang seguridad ay ipinapakalat nang mas mabilis kaysa sa sinuman—kabilang ang mga taong gumagawa nito—ay kayang makasabay."
Kasama sa silid ang lahat ng 193 miyembrong estado ng UN, na nagtipon sa Geneva sa unang Global Dialogue on AI Governance, isang multilateral na pagtatangka upang pamahalaan ang isang teknolohiya na nalampasan na ang lahat ng sumusubok gawin ito.
Ang meme na ginamit ni Guterres upang ipaliwanag ang mga panganib ng hindi pinamamahalaang AI ay vibe coding—isang termino na nilikha ni Andrej Karpathy, founding member ng OpenAI at dating direktor ng AI sa Tesla, upang ilarawan ang pagprograma batay sa pakiramdam: sabihin sa AI ang iyong gusto, hayaan itong hawakan ang iba pa, huwag suriing mabuti. Kamakailan ay idinagdag ito ng Merriam-Webster sa kanilang diksyunaryo.
Kinilala ni Guterres na ang vibe coding "ay maaaring makagawa ng mga himala." habang mas maraming tao ang nagtitiwala sa mga produktong binuo ng AI.
"Ngunit hindi natin maaaring i-vibe-code ang katotohanan," aniya. "Hindi natin maaaring i-vibe-code ang kinabukasan ng sangkatauhan."
Ang mga numero sa likod ng linyang iyon ay hindi malambot. Sinabi ni Guterres na inabot ng 15 taon ang internet upang umabot sa isang bilyong tao at dalawa naman ang AI. Inilarawan niya ang kasalukuyang mga sistema bilang "hindi na mga kasangkapan na naghihintay ng tagubilin—sila ay nagsusulat ng code, kumikilos online, at gumagawa ng mga pagpili nang paunti-unti ang pangangasiwa ng tao."
"Ang ating mga institusyon ay itinayo upang pamahalaan ang mga makina na sumusunod sa mga utos. Hindi sila handa para sa mga makinang nagdedesisyon."
Ang diyalogo ay nagmula sa 2024 Global Digital Compact, na nagtatag ng internasyonal na pamamahala ng AI bilang isang mandato ng UN sa unang pagkakataon. Ang pambungad na sesyon nito dalawang taon pagkaraan ay tumanggap din ng preliminaryong ulat ng Independent International Scientific Panel on Artificial Intelligence—40 siyentipiko mula sa 140 bansa—na naglathala noong nakaraang linggo ng pagtuklas na walang sinuman ang kasalukuyang makapagagarantiya na ang AI ay hindi magdudulot ng mapaminsalang pinsala.
Bilis ang isa sa tatlong babala na kinuha ni Guterres mula sa panel. Ang pangalawa ay kapangyarihan: ang pag-compute, data, at talento na nakakonsentra sa iilang kumpanya at bansa, karamihan sa mundo ay naiwan sa labas ng mga desisyon na humuhubog na sa ito, isang bagay na nag-aalala rin sa ibang mga eksperto sa AI tulad nina Yann Lecun, Andy Kowinski at Yoshua Bengio.
Ang pangatlo ay katotohanan—ang isang kasinungalingan na pinagana ng makina ay nakakakumbinsi na ngayon nang kasing epektibo ng isang napatunayang katotohanan, unti-unting lumalalim ang tinatawag ni Guterres na "integridad ng ating information ecosystem."
Mga batang guinea pig at killer robot
Kabilang sa mga konkretong panukala ni Guterres ang isang AI Child Safety Pledge na nangangailangan sa mga kumpanya na patunayan ang kaligtasan sa pamamagitan ng independiyenteng pagsubok bago maabot ng anumang AI ang mga bata, panatilihin ang zero tolerance para sa pagbuo ng mga imahe ng child sexual abuse, at ikonekta ang mga batang naghihirap sa totoong suporta ng tao sa halip na iwan silang mag-isa sa isang chatbot. "Walang bata ang dapat maging guinea pig para sa hindi reguladong AI."
At pagkatapos ay naroon ang mga killer robot. Tinawag ni Guterres ang mga nakamamatay na awtonomong sandata—mga makina na pumipili at pumapatay ng target nang walang paghuhusga ng tao—na "nakapandidiri sa moral" at humingi ng pagbabawal sa pamamagitan ng internasyonal na batas.
Nasa talahanayan na ng diskusyon ang mga estado. Hindi niya iminungkahi na magtagal sila.
Muling magpupulong ang Dialogue sa New York sa 2027. Nanawagan din si Guterres sa General Assembly na lumikha ng Global Fund para sa AI na nakatuon sa access sa computing para sa mga umuunlad na bansa, at hinamon ang bawat pangunahing kumpanya ng AI na patakbuhin ang lahat ng data center sa renewable energy sa taong 2030—ang taon na tinatayang lampasan ng mga pasilidad na iyon ang lahat maliban sa limang bansa sa pagkonsumo ng kuryente.
