Dans l’ombre, la Chine exploite ChatGPT pour orchestrer des campagnes de propagande sur les réseaux sociaux. En utilisant cette technologie avancée, Pékin influence l’opinion publique mondiale, renforçant son image tout en diffusant des messages stratégiques. Découvrez comment cette manœuvre numérique façonne la perception de la puissance chinoise.

La Chine utilise discrètement ChatGPT pour des publications de propagande sur les réseaux sociaux

OpenAI a révélé des preuves montrant que la Chine utilise secrètement ChatGPT pour créer des publications de propagande sur divers réseaux sociaux, tout en menant des opérations de surveillance numérique. Des plateformes telles que Reddit, TikTok, Facebook et X ont été ciblées dans ces activités.

Opérations de propagande identifiées

L’entreprise d’IA a signalé avoir bloqué dix de ces opérations, dont quatre semblent « probablement provenir de Chine ». D’autres pays suspectés d’abuser de ce service incluent la Russie, l’Iran et la Corée du Nord. Selon un rapport de NPR, le chatbot a été utilisé pour générer des publications originales et stimuler l’engagement autour de celles-ci.

Dans un retournement ironique, les personnes impliquées ont également utilisé ChatGPT pour rédiger leurs propres évaluations de performance liées à l’utilisation abusive de l’outil.

Détails des opérations

Les chercheurs d’OpenAI affirment que les propagandistes chinois tirent parti de ChatGPT pour concevoir des publications et des commentaires sur les réseaux sociaux, tout en rédigeant des critiques de performance décrivant ce travail pour leurs supérieurs. Ben Nimmo, enquêteur principal de l’équipe d’intelligence et d’enquêtes d’OpenAI, a commenté : « Ce que nous observons de la part de la Chine, c’est une gamme croissante d’opérations secrètes utilisant un éventail de tactiques toujours plus large ».

Une opération chinoise, surnommée « Sneer Review », a utilisé ChatGPT pour générer de courts commentaires postés sur TikTok, X, Reddit, Facebook et d’autres sites, en anglais, chinois et ourdou. Les sujets abordés comprenaient le démantèlement par l’administration Trump de l’Agence des États-Unis pour le développement international, avec des publications à la fois élogieuses et critiques à ce sujet, ainsi que des critiques d’un jeu taïwanais où les joueurs doivent vaincre le Parti communiste chinois. Dans de nombreux cas, l’opération a généré une publication ainsi que des commentaires y répondant.

Analyse des évaluations de performance

Ironiquement, les évaluations de performance générées par l’IA ont permis d’obtenir des informations précieuses sur ces opérations. OpenAI a déclaré : « Les acteurs derrière Sneer Review ont également utilisé les outils d’OpenAI pour effectuer un travail interne, notamment en créant une évaluation de performance décrivant en détail les étapes nécessaires à l’établissement et à la gestion de l’opération. Les comportements sur les réseaux sociaux que nous avons observés à travers le réseau reflétaient de près les procédures décrites dans cette évaluation ».

Collecte de renseignements

Un autre aspect de cette opération impliquait l’utilisation de ChatGPT pour générer des courriels destinés à des journalistes, des analystes et des hommes politiques dans le cadre d’une apparente opération de collecte de renseignements. Ces actions soulignent la manière dont des outils d’IA avancés sont détournés pour des objectifs de manipulation d’opinion et de surveillance.

Perspectives sur les implications

Ces révélations mettent en lumière les dangers potentiels que les technologies d’IA, comme ChatGPT, peuvent représenter lorsqu’elles sont utilisées à des fins malveillantes. En utilisant des algorithmes pour influencer les discussions en ligne et manipuler les perceptions publiques, des États comme la Chine pourraient transformer l’espace numérique en un champ de bataille pour la propagande.

La sophistication de ces opérations souligne également la nécessité d’une vigilance accrue de la part des plateformes sociales et des gouvernements pour protéger l’intégrité des informations diffusées en ligne.

Pour en savoir plus sur ce sujet, consultez cet article de NPR.