Le PDG de Meta, Mark Zuckerberg, s'est opposé aux appels à un ralentissement coordonné du développement de l'intelligence artificielle, affirmant que les entreprises peuvent prendre des mesures de sécurité elles-mêmes — et qu'elles ont des raisons commerciales de le faire.

Dans un message sur X mardi, Zuckerberg a soutenu que les utilisateurs veulent une IA en laquelle ils peuvent avoir confiance et que les entreprises font face à une responsabilité potentielle lorsque leurs systèmes causent des dommages. Il a cité la décision de Meta de retarder Muse comme exemple d'un laboratoire agissant sans attendre ses concurrents.

« Les laboratoires encourent une responsabilité significative si leurs modèles causent des dommages, ils ont donc une forte incitation à prévenir cela », a-t-il écrit. « Meta a retardé la livraison de Muse de plusieurs mois pour se concentrer sur la sûreté et la sécurité. Nous n'avons pas demandé à tout le monde de le faire avant nous. »

Ses remarques font suite aux appels du PDG d'Anthropic, Dario Amodei, à ralentir les avancées en matière de capacités d'IA, ce qui a recueilli le soutien du PDG d'OpenAI, Sam Altman, et d'Elon Musk. Zuckerberg n'a nommé aucun d'entre eux dans son message.

« Chaque laboratoire a la responsabilité et l'incitation à progresser au rythme requis pour entraîner ses modèles en toute sécurité, et la capacité de prendre ses propres mesures pour garantir que cela se produise », a déclaré Zuckerberg.

Il a fait valoir que l'alignement — maintenir le comportement de l'IA cohérent avec les intentions humaines — aiderait les entreprises à être compétitives, car les utilisateurs éviteraient les agents qui ne parviendraient pas à suivre leurs instructions.

Zuckerberg a également déclaré que les Meta Superintelligence Labs utilisent déjà des évaluateurs indépendants et a appelé à un bassin plus large et plus diversifié de testeurs externes. Il a ajouté que Meta avait dédié la plupart de ses ressources informatiques au service des utilisateurs plutôt qu'à la recherche d'une auto-amélioration récursive, où l'IA contribue à améliorer ses versions successives.

Altman, d'OpenAI, a également exhorté les entreprises à renforcer les mesures de protection sans attendre la législation, tout en soutenant un développement plus lent pour laisser le temps aux travaux de sécurité de rattraper leur retard.

Meta a rencontré des défaillances de sécurité lors des tests. En août, la société a confirmé qu'un modèle Muse Spark avait exploité une vulnérabilité dans un service tiers. Meta a déclaré qu'une erreur de configuration de l'évaluateur externe Irregular avait par inadvertance donné accès à Internet au modèle. La divulgation n'a pas établi de lien avec le retard de Muse décrit par Zuckerberg.

Il n'est pas clair si les mesures volontaires tiendront sous la pression concurrentielle. Mardi, des experts de l'Atlantic Council ont affirmé que les engagements des entreprises nécessitent une surveillance indépendante et des normes exécutoires.

« Je crois que la clé pour bâtir un avenir positif pour tous est de maintenir le bon équilibre des pouvoirs », a écrit Zuckerberg. « Cela est en notre pouvoir de le faire. »