Sinasabi ng AEREDIUM na ang seguridad ng enterprise AI ay dapat lumipat mula sa kaligtasan ng modelo patungo sa cryptographic containment at structural authorization controls.

Nang ibunyag ng OpenAI na ang isa sa mga modelo ng AI nito ay nakatakas sa isang pinaghihigpitang kapaligiran ng pagsubok at nilabag ang imprastraktura ng Hugging Face, mabilis na nakatuon ang talakayan sa kaligtasan ng AI. Ang mga tanong ay pamilyar: Maaari bang maiayon ang mga sistema ng AI? Maaari ba silang pagkatiwalaan? Sapat na ba ang mga kasalukuyang guardrail upang maiwasan ang mapaminsalang pag-uugali?

Ayon kay Eitan Katz, Chief Strategy Officer sa AEREDIUM, nawawala sa mga tanong na iyon ang mas malaking aral.

“Hindi lang ito isang insidente ng kaligtasan ng AI,” sabi ni Katz. “Ito ay isang pagkabigo sa containment. Kapag ang isang ahente ng AI ay naging sapat na may kakayahan, ang mga guardrail lamang ay hindi na sapat. Kailangan ng mga organisasyon ng imprastraktura na kayang ipatupad nang cryptographically kung ano ang awtorisado, at hindi awtorisado, na gawin ng isang ahente ng AI.”

Mahalaga ang pagkakaiba dahil ang kaligtasan ng AI at containment ng AI ay lumulutas ng iba't ibang problema.

Nakatuon ang kaligtasan ng AI sa pag-impluwensya sa pag-uugali ng isang modelo. Tinatanong nito kung ang isang sistema ng AI ay maaaring tumanggi sa mapaminsalang kahilingan, maiwasan ang pagbuo ng mapanganib na output, o sundin ang mga tagubilin ng tao. Ang containment ng AI ay nagsisimula mula sa ibang pagpapalagay: anuman ang kakayahan o katalinuhan ng isang ahente ng AI, hindi ito dapat kailanman lumampas sa awtoridad na tahasang ibinigay dito.

Ang insidente ng OpenAI at Hugging Face ay naglalarawan ng pagkakaibang iyon.

Ayon sa sariling pagbubunyag ng OpenAI, sinadya ang pagpapatakbo ng ebalwasyon na may hindi pinaganang production classifiers at nabawasang cyber refusals. Ginagawa nitong partikular na nakapagtuturo ang insidente. Sa halip na magpakita ng pagkabigo sa refusal training, ipinakita nito kung ano ang nangyayari kapag ang structural controls ang naging pangunahing linya ng depensa. Gaya ng argumento ni Katz, kapag wala ang mga filter sa pag-uugali, ituturing ng isang may kakayahan, nakatuon sa layunin na ahente ang nakapaligid na imprastraktura bilang magagamit na ibabaw maliban kung may mas malalim na pumipigil dito.

Iyon ang dahilan kung bakit, ayon kay Katz, ang containment ay hindi sa pundasyon ay isang problema sa pag-filter.

Ang mga guardrail ng modelo ay nananatiling mahalaga para sa pagbabawas ng di-sinasadyang maling paggamit at pagtaas ng halaga ng kaswal na pang-aabuso. Ngunit ang mga ito ay probabilistic sa kalikasan, at ipinapalagay ng mga ito na ang isang sistema ng AI ay maaaring mapigilan o makumbinsi na huwag gumawa ng hindi kanais-nais na aksyon. Ang isang sapat na may kakayahang ahente na nag-o-optimize patungo sa isang tiyak na layunin ay maaaring sa halip maghanap ng paraan upang lampasan ang mga kontrol na iyon. Ang matibay na hangganan ng seguridad, sabi ni Katz, ay dapat umiral sa ibaba ng mismong modelo.

“Ang matibay na kontrol ay estruktural,” isinulat ni Katz. “Ang awtoridad ay kailangang limitahan sa ibaba ng punto ng desisyon, sa mismong key.”

Ang kanyang konklusyon ay simple: “Ang isang aksyon sa labas ng mandato ay hindi binabarahan. Hindi ito maaaring gawin.”

Ang pilosopiyang iyon ang bumubuo sa pundasyon ng AERPOLICE.

Sa halip na subukang alamin kung ang isang modelo ng AI ay kumikilos nang ligtas, ang AERPOLICE ay idinisenyo upang suriin kung ang imprastraktura ng isang organisasyon ay kayang maglaman ng mga autonomous na ahente ng AI sa pamamagitan ng structural controls. Nakatuon ang framework kung ang awtoridad ay cryptographically enforced, kung ang mga pahintulot ay limitado, at kung ang mga autonomous na ahente ay pinipigilan sa pagpapatupad ng mga aksyon sa labas ng mga mandato na ibinigay sa kanila.

Para kay Katz, ang mga implikasyon ay lumalampas sa sariling AI deployments ng isang organisasyon.

Ang tanong ay hindi na lamang kung mapagkakatiwalaan ba ang personal na AI agents. Dapat ding ipagpalagay ng mga negosyo na ang mas may kakayahang panlabas na AI agents ay kalaunan ay makikipag-ugnayan sa kanilang mga sistema. Samakatuwid, ang containment ay nagiging bahagi ng pangkalahatang security posture ng isang organisasyon, na tumutukoy kung gaano kahusay kayang harapin ng imprastraktura nito ang mga autonomous, goal-directed na ahente anuman ang kanilang pinagmulan.

Binabago din nito kung paano dapat isipin ng mga negosyo ang tungkol sa responsibilidad. Ang seguridad ay hindi na maaaring umasa lamang sa pag-uugali ng modelo o sa mga patakaran ng anumang AI provider na ginagamit ng isang organisasyon. Kailangan ng mga organisasyon ng mga kontrol na nagpapatupad ng sarili nilang mga hangganan ng awtorisasyon nang independyente sa mismong modelo.

Wala sa mga ito, ayon kay Katz, ang nagpapababa sa kahalagahan ng kaligtasan ng AI. Ang mga guardrail ay patuloy na gumaganap ng isang mahalagang papel sa pagbabawas ng di-sinasadyang pinsala at pagpapabuti ng pangkalahatang ekosistema ng AI. Ngunit hindi sila dapat ipagkamali sa security boundary na nagpoprotekta sa mga sistema ng negosyo.

Ang mas malawak na aral mula sa insidente ng OpenAI at Hugging Face, ayon kay Katz, ay ang seguridad ng enterprise AI ay pumapasok sa isang bagong yugto. Habang ang mga autonomous na ahente ng AI ay nagiging mas may kakayahan, lalong mangangailangan ang mga organisasyon ng imprastraktura na makapagpapatupad kung ano ang awtorisadong gawin ng mga ahenteng iyon, sa halip na umasa lamang sa kung ano ang inaasahang gawin nila.

Ang kinabukasan ng seguridad ng enterprise AI, ayon sa kanya, ay mas kaunti ang pag-asa kung ang isang modelo ng AI ay kumikilos nang tama, at mas marami sa kung ito ay estruktural na pinipigilan mula sa paglampas sa awtoridad nito.