Ce que signifie l’opération d’influence de ChatGPT liée à la Russie pour la recherche en ligne

Un réseau originaire de Russie a utilisé ChatGPT pour promouvoir l’International Burke Institute, et 34 des 36 articles examinés sur le site Web de l’institut ont été copiés ou mal attribués. [Source: Provided Content]

OpenAI a interdit un groupe de comptes dont les opérateurs ont utilisé des invites en russe pour générer des publications et des commentaires sur les réseaux sociaux, principalement en anglais, liés à cette promotion. [Source: Provided Content]

L’opération a tenté de dissimuler son origine russe et, bien qu’élaborée, a atteint des audiences relativement petites. [Source: Provided Content]

Le réseau a employé ChatGPT pour générer du contenu promouvant l’International Burke Institute, en utilisant des invites en russe pour créer des publications en anglais masquant leur origine. Pour opérer dans l’environnement Internet restreint de la Russie, le groupe a utilisé des VPN, masquant ainsi leur localisation puisque ChatGPT est inaccessible en Russie. Ils ont créé des profils et des comptes convaincants pour diffuser le contenu comme s’il provenait d’utilisateurs ou d’académiques authentiques. Malgré cette configuration sophistiquée, l’effort n’a réussi qu’à atteindre de petites audiences.

Un aspect significatif de cette opération était l’ampleur des copies d’articles. Sur 36 articles sur le site de l’institut, 34 ont été trouvés comme étant dupliqués, avec des attributions inexactes, y compris un article sur le corridor économique Chine-Pakistan, qui a été mal attribué d’un original de Cambridge University Press à un professeur de l’Université de Nottingham. Cette attribution méticuleuse mais erronée a conduit à plusieurs divergences, marquant l’opération comme distincte des précédents efforts d’influence, comme décrit dans la source : « Certains de ces articles étaient vieux de plusieurs années ; d’autres étaient attribués aux mauvais auteurs. »

OpenAI a identifié une campagne distincte liée à la Russie en 2024 appelée Doppelganger. Doppelganger a utilisé ChatGPT pour créer des articles, des publications sur les réseaux sociaux et des commentaires faisant l’éloge de la Russie et attaquant l’Ukraine, l’OTAN et les États-Unis. OpenAI a également décrit un groupe appelé Forest Blizzard comme étant lié au renseignement militaire russe. Forest Blizzard a utilisé le chatbot pour rechercher des cibles, rédiger des scénarios et soutenir des attaques de phishing.

OpenAI n’a pas directement attribué la campagne de l’International Burke Institute au gouvernement russe. Certaines personnes en Israël ont pu représenter l’institut lors de conférences ou par le biais de soumissions d’articles, et OpenAI a indiqué qu’il ne pouvait pas déterminer comment ces individus étaient liés à l’opération. « Nous ne sommes pas en mesure de déterminer la relation entre ces individus, l’IBI et les opérateurs en Russie. »

Le rapport décrit une opération d’influence de ChatGPT liée à la Russie qui a employé un déguisement académique pour promouvoir l’International Burke Institute tout en opérant aux côtés d’autres campagnes identifiées comme liées à la Russie et attirant l’attention des chercheurs. Bien que la campagne ait présenté une construction inhabituelle, élaborée et coordonnée, les enquêteurs n’ont pas résolu les affiliations exactes ou la nature des relations entre les individus et les organisations impliquées, laissant des incertitudes substantielles.