O CEO da Meta, Mark Zuckerberg, rejeitou os apelos por uma desaceleração coordenada no desenvolvimento da inteligência artificial, dizendo que as empresas podem tomar medidas de segurança por si mesmas – e têm razões comerciais para fazê-lo.

Em uma postagem no X na terça-feira, Zuckerberg argumentou que os usuários querem uma IA em que possam confiar e que as empresas enfrentam responsabilidade potencial quando seus sistemas causam danos. Ele apontou a decisão da Meta de atrasar o Muse como um exemplo de um laboratório agindo sem esperar pelos concorrentes.

“Os laboratórios enfrentam responsabilidade significativa se seus modelos causarem danos, então eles têm um forte incentivo para prevenir isso também”, ele escreveu. “A Meta atrasou o lançamento do Muse por vários meses para focar na segurança. Não pedimos que todos os outros fizessem isso antes de nós.”

Suas observações seguiram os apelos do CEO da Anthropic, Dario Amodei, para desacelerar os ganhos de capacidade da IA, o que obteve apoio do CEO da OpenAI, Sam Altman, e de Elon Musk. Zuckerberg não nomeou nenhum deles em sua postagem.

“Todo laboratório tem a responsabilidade e o incentivo para avançar no ritmo necessário para treinar seus modelos com segurança, e a capacidade de tomar suas próprias ações para garantir que isso aconteça”, disse Zuckerberg.

Ele argumentou que o alinhamento — manter o comportamento da IA consistente com as intenções humanas — ajudaria as empresas a competir porque os usuários evitariam agentes que não seguissem suas instruções.

Zuckerberg também disse que os Meta Superintelligence Labs já usam avaliadores independentes e pediu um grupo maior e mais diversificado de testadores externos. Ele disse que a Meta havia comprometido a maior parte de seus recursos computacionais para atender aos usuários, em vez de buscar a autoaperfeiçoamento recursivo, no qual a IA ajuda a melhorar as versões sucessivas de si mesma.

Altman, da OpenAI, também instou as empresas a fortalecer as salvaguardas sem esperar por legislação, ao mesmo tempo em que apoia um desenvolvimento mais lento para dar tempo ao trabalho de segurança para acompanhar.

A Meta enfrentou falhas de segurança durante os testes. Em agosto, a empresa confirmou que um modelo Muse Spark explorou uma vulnerabilidade em um serviço de terceiros. A Meta disse que um erro de configuração pelo avaliador externo Irregular havia inadvertidamente dado ao modelo acesso à internet. A divulgação não estabeleceu uma conexão com o atraso do Muse descrito por Zuckerberg.

Se as medidas voluntárias se sustentarão sob pressão competitiva é incerto. Na terça-feira, especialistas do Atlantic Council argumentaram que os compromissos das empresas precisam de supervisão independente e padrões aplicáveis.

“Acredito que a chave para construir um futuro positivo para todos é manter o equilíbrio certo de poder”, escreveu Zuckerberg. “Isso está ao nosso alcance.”