De Massimo Introvigne sur Bitter Winter :
Anthropic révèle une vaste campagne de diffamation anti-dissidente chinoise générée par une IA
Le 11 septembre (date symbolique marquant le 25e anniversaire des attentats du 11-Septembre), Anthropic a publié son rapport de renseignement sur les menaces le plus détaillé à ce jour. Ce rapport documente comment des acteurs étatiques et non étatiques ont tenté d'instrumentaliser son modèle d'IA, Claude, pour des cyberattaques, des opérations d'influence, la surveillance, l'utilisation abusive d'agents biologiques et le développement d'armes. Parmi les conclusions les plus alarmantes figure l'utilisation abusive systématique de Claude par des acteurs basés en Chine et alignés sur l'appareil sécuritaire, de propagande et des affaires religieuses du PCC . Ces opérations ont ciblé des dissidents, des journalistes, des minorités religieuses et des communautés de la diaspora dans le monde entier, y compris des journalistes qui écrivent pour « Bitter Winter ».
Le rapport montre que l'IA a comblé le fossé traditionnel entre les opérations étatiques sophistiquées et les opérateurs isolés. Des capacités offensives qui nécessitaient autrefois des équipes de cyber-spécialistes aguerris peuvent désormais être mises en œuvre par des individus à l'aide de clés API volées ou de plateformes multi-agents accessibles au public. Anthropic souligne que « les attaques sophistiquées ne requièrent plus d'attaquants sophistiqués » et que les chaînes d'attaques reposant sur l'IA se sont multipliées au sein de toutes les catégories d'acteurs, y compris les services de renseignement étatiques. La Chine figure en bonne place parmi eux.
L'un des groupes d'activités les plus préoccupants concernait une opération de renseignement en matière religieuse menée depuis la Chine et ciblant des responsables catholiques, la société civile bouddhiste tibétaine, les pratiquants de Falun Gong et les communautés chrétiennes taïwanaises. Les auteurs utilisaient Claude comme prête-nom pour une équipe d'analystes, lui ordonnant de produire des dossiers en chinois, des « ébauches de recherches sur le personnel », des « rapports d'enquête » et des synthèses quotidiennes de « situation ». Ce ciblage reflétait précisément les priorités de la bureaucratie des affaires religieuses du PCC et du Département du travail du Front uni . Dans un cas, un utilisateur s'est ouvertement identifié comme responsable de la sécurité de l'information pour l'État chinois.
Les acteurs ont collecté les dates et lieux de naissance, les parcours migratoires et les comptes de réseaux sociaux de personnes spécifiques. Ils ont cartographié les lieux de culte, y compris les plans et schémas. Ils ont enjoint Claude d'adopter le « point de vue de la Chine », de qualifier l'administration tibétaine en exil d'« administration séparatiste illégale » et d'appliquer la désignation de « secte maléfique » du PCC au Falun Gong . La couverture médiatique s'étendait à WeChat, Xiaohongshu, Douyin et Weibo, ainsi qu'à LinkedIn, Instagram, Threads, X et Facebook. Le rythme quotidien des reportages ressemblait au fonctionnement interne d'un service gouvernemental.
Un autre groupe d'utilisateurs a utilisé Claude, un système informatique mis en place par des organes de sécurité publique et de sécurité d'État basés en Chine, pour appuyer la surveillance au titre du « maintien de la stabilité » et la répression transnationale. Une unité municipale de cyberpolice a utilisé Claude Code et des compétences personnalisées pour gérer un système de veille des sentiments, interroger une base de données de surveillance gouvernementale et générer des rapports quotidiens sur les incidents politiquement sensibles. Un élève d'une école de police a utilisé Claude pour identifier dix citoyens privés en vue de les « contrôler », notamment en bloquant leurs pétitions, en leur adressant des convocations coercitives et en surveillant étroitement leurs déplacements et leurs communications. Un bureau local de la sécurité d'État a utilisé Claude pour produire des notes de synthèse quotidiennes sur la « situation », formatées selon des modèles officiels, dressant le profil de militants à l'étranger et demandant des renseignements préalables sur les lieux de manifestations à l'étranger, notamment les marches pro-démocratie à Vancouver, les événements culturels ouïghours en Turquie et les projections au Forum de la liberté d'Oslo.
Le système automatisé collectait des listes de médias de la société civile avant de produire chaque rapport, assimilant la défense des droits des Ouïghours au terrorisme et les principales organisations de défense des droits humains à des forces hostiles. Ce discours est conforme à la doctrine des « trois guerres » du PCC : la guerre psychologique, la guerre juridique et la guerre d’opinion.
Une troisième opération impliquait un prestataire basé en Chine, chargé de produire des notes automatisées de « veille de l'opinion publique » pour des clients gouvernementaux. Claude avait pour instruction de se faire passer pour un « analyste principal de l'opinion publique en situation d'urgence au service du gouvernement de la République populaire de Chine ». Le système ingérait quotidiennement entre 15 et plus de 30 articles de presse étrangers provenant de Weibo, X, YouTube, Telegram et Facebook, évaluant leur contenu selon leur sensibilité politique et reformulant les articles critiques envers la RPC en utilisant une terminologie imposée. L'acteur utilisait l'environnement d'exécution de code de Claude pour exécuter un processus entièrement automatisé de génération de documents. Certains documents recommandaient des mesures coercitives qui ne pouvaient être mises en œuvre que par un gouvernement.
Anthropic a également identifié une opération menée en Syrie par un acteur lié au gouvernement chinois, utilisant l'application Claude pour suivre, profiler et recruter des Ouïghours et des formations armées ouïghoures. Les cibles armées étaient des Ouïghours ayant récemment rejoint l'armée syrienne nouvellement formée, unités que la Chine qualifie d'organisations terroristes. L'acteur a utilisé Claude pour identifier en Syrie des individus susceptibles d'avoir accès à ces formations et a tenté de les recruter en leur offrant une rémunération en échange de renseignements. Parallèlement, il a utilisé Claude pour localiser des entreprises ouïghoures et des points d'intérêt en Syrie. Cette activité s'inscrivait dans le cadre d'une campagne de surveillance plus vaste de la diaspora ouïghoure. Anthropic estime que l'acteur était probablement un sous-traitant travaillant pour le compte des services de sécurité de la Chine plutôt qu'un organe étatique agissant directement, mais les priorités de collecte correspondent à celles de la sécurité intérieure chinoise.
Le rapport documente également l'utilisation par un acteur basé en Chine du logiciel Claude pour rédiger un cahier des charges de conduite de tir et des documents d'acquisition pour un système d'armes anti-torpilles sous-marines. Cet acteur a produit une proposition technique de 200 pages, un document de synthèse destiné à la direction et des analyses comparatives des systèmes de l'US Navy. Anthropic estime que cet acteur était lié à l'industrie de défense chinoise.
La section documentant une campagne menée depuis la Chine et ciblant des journalistes ouïghours, dont certains collaborent également à « Bitter Winter », est particulièrement préoccupante. L’auteur de la campagne a utilisé Claude pour structurer des données extraites de groupes WhatsApp et de dizaines de chaînes Telegram, créant ainsi des profils d’individus jugés vulnérables en raison de difficultés financières, de séparation familiale ou de désillusion idéologique. Il a identifié des cibles ayant des proches au Xinjiang, un levier que seule la sécurité intérieure chinoise peut exploiter. Il a planifié une campagne de dénonciation massive et coordonnée, une tentative de délégitimation par des organisations étrangères et une amplification par un réseau de bots contre les journalistes de la diaspora ouïghoure.
Ces opérations menées depuis la Chine n'étaient pas isolées. Anthropic fait état de campagnes parallèles menées par des acteurs russes et iraniens, notamment des opérations d'influence et des réseaux automatisés de désinformation liés aux Gardiens de la révolution. Cependant, les opérations chinoises se distinguent par leur ampleur, leur structure bureaucratique et leur alignement direct sur les priorités sécuritaires du PCC .
L'acteur a également rédigé des appels d'offres pour des plateformes de surveillance et des brochures de présentation destinées à des clients gouvernementaux chinois de niveau administratif, suggérant une structure de relation client-fournisseur. Claude a refusé à plusieurs reprises de produire des scripts d'interrogatoires secrets ou de créer en masse de fausses identités, mais il a tenté à plusieurs reprises de contourner les mesures de sécurité.
Anthropic a perturbé toutes les opérations décrites dans le rapport. L'entreprise souligne que les enseignements tirés ont permis de renforcer les systèmes de sécurité et de détection. Pourtant, les implications sont claires : la Chine ne se contente pas de développer ses propres systèmes d'IA, mais tente activement d'utiliser des modèles d'IA étrangers comme armes pour étendre ses opérations de surveillance, de répression et d'influence.
Ce rapport confirme ce que « Bitter Winter » documente depuis des années : la répression chinoise ne s’arrête pas à ses frontières. Elle s’adapte, évolue et exploite désormais l’intelligence artificielle de pointe pour étendre son emprise. Le fait que ces opérations aient été déjouées est encourageant. Leur existence même est un signal d’alarme.