Les manifestants sont de nouveau descendus dans les rues de San Francisco, défilant entre les bureaux d'OpenAI, d'Anthropic et de Google DeepMind, pour réclamer une pause dans le développement d'une IA plus puissante.

La manifestation de samedi, organisée par Stop the AI Race, a dépassé le cadre de la sécurité de l'IA pour inclure des préoccupations concernant les pertes d'emplois, l'impact environnemental de l'IA, l'augmentation des coûts du logement à San Francisco et l'influence croissante des grandes entreprises technologiques.

Organisée par l'ancien chercheur en IA Michaël Trazzi, la marche a appelé les principales entreprises d'IA à cesser d'entraîner de nouveaux modèles d'IA de pointe tout en maintenant la disponibilité des systèmes existants. Les manifestants ont exhorté les entreprises à réorienter la recherche vers la sécurité et l'alignement de l'IA jusqu'à ce que des mesures de protection plus solides soient mises en place, tandis que certains manifestants ont également réclamé une réglementation locale et étatique plus stricte.

Trazzi a déclaré que les objectifs du groupe avaient évolué depuis sa première manifestation en mars.

"Je pense qu'au début de cette année, je ne pensais pas autant à accroître la pertinence politique qu'à convaincre les PDG", a déclaré Trazzi à Decrypt. "Je pense que j'ai évolué vers l'idée que les PDG écoutent réellement, compte tenu des multiples billets de blog et de certains échanges que j'ai eus avec l'un d'entre eux. Je pense aussi que les manifestations sont utiles pour montrer que les gens s'en soucient."

Cette manifestation fait suite à une précédente protestation de Stop the AI Race en mars, lorsque quelque 200 personnes avaient défilé entre les bureaux d'Anthropic, d'OpenAI et de xAI pour demander une pause coordonnée dans le développement de l'IA de pointe. Depuis lors, le groupe a poursuivi sa campagne par des manifestations et un plaidoyer public.

Trazzi s'est dit encouragé par le soutien que le mouvement a attiré depuis lors.

"J'ai été agréablement surpris de voir le NUHW [National Union of Healthcare Workers] approuver la manifestation et la republier sur leurs réseaux sociaux", a-t-il déclaré. "J'ai également été surpris de la rapidité avec laquelle d'autres groupes de la Bay Area, comme AI Action, ont pu se mettre à niveau et travailler avec nous. Je suis également très reconnaissant à QuitGPT pour leur aide dans l'organisation de cet événement."

OpenAI, Anthropic et Google DeepMind n'ont pas immédiatement répondu aux demandes de commentaires de Decrypt.

Les organisateurs ont déclaré qu'ils prévoyaient de continuer à plaider en faveur d'une pause internationale dans le développement de l'IA de pointe tout en encourageant les législateurs à adopter une surveillance plus stricte des systèmes d'IA avancés.

La manifestation intervient alors que les préoccupations concernant la sécurité de l'IA continuent de faire l'objet d'un examen minutieux.

En mai, OpenAI a introduit de nouvelles fonctionnalités de sécurité pour ChatGPT, conçues pour mieux détecter les signes d'automutilation et de violence lors des conversations, alors que l'entreprise faisait face à des poursuites et des enquêtes pour des allégations selon lesquelles son chatbot aurait mal géré des interactions dangereuses.

En juin, l'administration Donald Trump a ordonné à Anthropic de suspendre l'accès à ses modèles Claude Fable 5 et Claude Mythos 5 en raison de risques potentiels de cybersécurité. Plus tôt ce mois-ci, le premier panel scientifique indépendant des Nations Unies sur l'IA a conclu que les scientifiques ne pouvaient pas exclure des "dommages catastrophiques" à mesure que la technologie de l'IA progresse plus vite que la compréhension scientifique et la surveillance gouvernementale.