Un réseau originaire de Russie a utilisé ChatGPT pour promouvoir une organisation se présentant comme un institut universitaire, selon un rapport d'OpenAI publié mercredi.

OpenAI a déclaré avoir banni un groupe de comptes dont les opérateurs utilisaient des invites en russe pour générer des publications et des commentaires sur les réseaux sociaux, principalement en anglais. Ils ont également demandé à ChatGPT de dissimuler les signes que le contenu provenait de Russie.

« Bien que la campagne semble avoir touché un public relativement restreint, sa construction élaborée la distingue des autres opérations d'influence liées à la Russie que nous avons perturbées depuis le début de la guerre en Ukraine », a écrit l'entreprise.

Puisque ChatGPT n'est pas disponible en Russie, OpenAI a déclaré que le groupe utilisait des réseaux privés virtuels (VPN) pour masquer leur localisation et accéder au service.

Le groupe a utilisé ChatGPT pour promouvoir l'International Burke Institute, qui prétendait être un groupe d'experts basé en Israël, à travers des profils d'apparence officielle et des comptes se faisant passer pour des utilisateurs réguliers. OpenAI a découvert que 34 des 36 articles examinés sur le site web de l'institut étaient copiés, et certains étaient attribués à des universitaires qui ne les avaient pas écrits.

« Certains de ces articles dataient de plusieurs années ; d'autres étaient attribués aux mauvais auteurs », a écrit OpenAI. « Par exemple, un article sur le Corridor économique Chine-Pakistan semble avoir été copié d'un original de Cambridge University Press, mais incorrectement attribué à un professeur de l'Université de Nottingham dont l'expertise porte sur la politique sud-asiatique. »

Des campagnes d'influence politique similaires ont également utilisé l'IA générative.

En 2024, OpenAI a identifié une campagne distincte liée à la Russie, appelée Doppelganger. Ce réseau a utilisé ChatGPT pour créer des articles, des publications sur les réseaux sociaux et des commentaires qui louaient la Russie et attaquaient l'Ukraine, l'OTAN et les États-Unis.

Des groupes liés à la Russie ont également utilisé ChatGPT pour des opérations cybernétiques. OpenAI a déclaré que Forest Blizzard, un groupe lié aux services de renseignement militaire russes, a utilisé le chatbot pour rechercher des cibles, rédiger des scripts et soutenir des attaques de phishing.

Bien que le groupe ait pu utiliser des invites en langue russe, OpenAI n'a pas attribué la campagne IBI au gouvernement russe.

Selon OpenAI, certaines personnes en Israël pourraient avoir représenté l'institut lors de conférences ou par le biais de soumissions d'articles. Cependant, leur relation avec la campagne reste incertaine.

« Nous ne sommes pas en mesure de déterminer la relation entre ces individus, l'IBI et les opérateurs en Russie », a écrit OpenAI.