Ipinagbawal ng Alibaba sa mga empleyado nito ang paggamit ng Claude Code ng Anthropic sa mga kapaligiran ng trabaho simula Hulyo 10 dahil sa diumano'y mga isyu sa seguridad na kinasasangkutan ng mga naka-embed na backdoor, ayon sa isang taong pamilyar sa desisyon.
Ayon sa isang pinagmulan na pamilyar sa usapin, ang paghihigpit ay ilalapat sa lahat ng internal na kapaligiran ng trabaho ng Alibaba at magkakabisa sa Hulyo 10. Sinabi ng tao na naabot ng kumpanya ang desisyon dahil sa diumano'y mga panganib sa seguridad na konektado sa mga naka-embed na backdoor sa coding assistant.
Sa oras ng paglathala, hindi pa naglalabas ng opisyal na pahayag ang Alibaba, at walang karagdagang detalye tungkol sa diumano'y mga isyu sa seguridad o ang saklaw ng paghihigpit ang inihayag.
Ang pinakabagong development ay dumating ilang linggo matapos mawalan ng access ang mga modelo ng Claude ng Anthropic sa isa pang malaking grupo ng customer ng enterprise sa Hong Kong. Noong Hunyo, iniulat ng Financial Times na pinahinto ng JPMorgan ang mga empleyado sa Hong Kong sa pagpili ng mga modelo ng Claude mula sa aprubadong listahan ng bangko ng mga large language model dahil sa mga tuntunin ng lisensya ng Anthropic na namamahala kung saan maaaring gamitin ang mga modelo.
Sinabi ng ulat na ipinakilala ng Goldman Sachs ang isang katulad na paghihigpit matapos matukoy na ang mga tuntunin ng serbisyo ng Anthropic ay nagbukod ng paggamit sa buong Greater China, kabilang ang Hong Kong. Sinabi kalaunan ng Anthropic sa Financial Times na hindi kailanman opisyal na sinuportahan ang Claude sa Hong Kong, habang tumangging magkomento ang JPMorgan.
Ang mga paghihigpit na iyon ay nagdagdag sa mga alalahanin sa ilang institusyong pinansyal sa Hong Kong habang ang mga advanced na tool ng AI ay mas malalim na isinasama sa software development, pananaliksik, at mga daloy ng trabaho sa mga serbisyo pinansyal, ayon sa Financial Times.
Ang desisyon ng Alibaba ay sumunod din sa ilang magulong linggo para sa pinakabagong sistema ng AI ng Anthropic. Noong Hulyo 1, ibinalik ng kumpanya ang pampublikong access sa mga modelo nitong Claude Fable 5 at Mythos 5 matapos alisin ng mga awtoridad ng U.S. ang mga paghihigpit sa pag-export na nagpilit sa Anthropic na suspindihin ang mga ito noong Hunyo.
Sinabi ng Anthropic na ipinagpatuloy nito ang deployment matapos ang inilarawan nitong produktibong talakayan sa mga opisyal ng U.S. at nagdagdag ng mga bagong classifier na dinisenyo upang makita at harangan ang mas maraming gawain na nauugnay sa cybersecurity. Sinabi ng kumpanya na ang mga karagdagang pananggalang ay tumugon sa mga alalahanin ng gobyerno tungkol sa posibleng maling paggamit sa pamamagitan ng mga teknik ng jailbreak.
Habang ipinagtatanggol ang teknolohiya nito, pinagtatalunan ng Anthropic na ang naiulat na jailbreak ay nagsasangkot ng isang limitadong paraan sa halip na isang unibersal na pag-bypass ng mga proteksyon sa kaligtasan ng mga modelo. Inihayag din ng kumpanya ang pinalawak na kooperasyon sa gobyerno ng U.S. sa pagsubok ng modelo, pagsusuri sa kaligtasan, pagsubaybay sa maling paggamit, at pagbabahagi ng impormasyon na nauugnay sa mga panganib ng jailbreak.
