Google a signé un accord pour fournir au Pentagone ses modèles d'intelligence artificielle pour des travaux classifiés, selon un rapport de The Information.

L'accord permet au Département américain de la Défense d'utiliser l'IA de Google pour « toute fin gouvernementale légale », ont déclaré des personnes proches de l'accord au New York Times. Cette formulation reflète les contrats que le Pentagone a signés le mois dernier avec OpenAI et xAI pour utiliser leurs modèles d'IA sur des réseaux classifiés.

« Nous sommes fiers de faire partie d'un large consortium de laboratoires d'IA de premier plan et d'entreprises de technologie et de cloud fournissant des services et des infrastructures d'IA pour soutenir la sécurité nationale », a déclaré un porte-parole de Google au New York Times. « Nous restons attachés au consensus des secteurs privé et public selon lequel l'IA ne devrait pas être utilisée pour la surveillance de masse domestique ou l'armement autonome sans une supervision humaine appropriée. »

Google n'a pas immédiatement répondu à une demande de commentaire de Decrypt.

Bien que les détails n'aient pas été divulgués, avant l'accord, des centaines d'employés de Google ont signé une lettre ouverte au PDG Sundar Pichai, exhortant l'entreprise à ne pas rendre ses systèmes d'IA accessibles au Pentagone.

« Nous voulons voir l'IA bénéficier à l'humanité ; et non la voir utilisée de manière inhumaine ou extrêmement nuisible », indiquait la lettre. Actuellement, la seule façon de garantir que Google ne soit pas associé à de tels préjudices est de rejeter toute charge de travail classifiée. Autrement, de telles utilisations pourraient se produire sans notre connaissance ou le pouvoir de les arrêter. »

La lettre soutient que les systèmes d'IA « commettent des erreurs » et peuvent « centraliser le pouvoir », et affirme que Google a la responsabilité de prévenir « ses utilisations les plus contraires à l'éthique et dangereuses », y compris les « armes autonomes létales et la surveillance de masse. »

Les employés avertissent qu'une « mauvaise décision prise maintenant causerait des dommages irréparables à la réputation, aux activités et au rôle de Google dans le monde. »

Le Pentagone a accéléré ses efforts pour obtenir des accords avec les grandes entreprises d'IA depuis janvier, lorsque le secrétaire à la Défense Pete Hegseth a déclaré que la technologie devait être intégrée dans l'ensemble de l'armée.

La lettre souligne un fossé croissant entre l'armée et certains développeurs d'IA concernant la manière dont la technologie devrait être utilisée en temps de guerre.

En mars, le Pentagone a désigné Anthropic comme un « risque pour la chaîne d'approvisionnement », interdisant de fait à la startup de San Francisco de travailler avec le gouvernement fédéral, après que le PDG Dario Amodei a refusé d'autoriser l'utilisation illimitée de ses modèles d'IA. Anthropic a depuis poursuivi le Pentagone pour cette désignation tout en cherchant à continuer à travailler avec d'autres branches du gouvernement.

Malgré l'opposition des employés, Google semble aller de l'avant avec son accord avec le Pentagone, alors que le Département de la Défense étend son utilisation de l'intelligence artificielle à travers les opérations classifiées.

« En termes simples, les États-Unis doivent gagner la compétition stratégique pour la suprématie technologique du XXIe siècle », a déclaré Hegseth dans un discours à la Starbase d'Elon Musk en janvier, qualifiant cela de « longtemps attendu ».

« Très bientôt, nous aurons les principaux modèles d'IA du monde sur tous les réseaux non classifiés et classifiés de notre département », a-t-il déclaré.