Dans l’atelier des faussaires : comment les fermes de bots manipulent nos démocraties

Vous est-il déjà arrivé de croiser sur les réseaux sociaux une vague soudaine d’indignation, portée par des dizaines de profils anonymes répétant exactement les mêmes arguments ? Ce qui ressemble à une saute d’humeur populaire dissimule souvent une opération industrielle méticuleusement chiffrée. Des services secrets russes aux officines privées de Tel-Aviv en passant par les bataillons numériques de Pékin, plongée documentée au cœur de la manipulation numérique de l’opinion.

L’illusion du nombre

Prenez un instant pour observer le fil d’actualité de votre réseau social préféré. Un sujet clivant émerge — disons la livraison d’armes à un pays allié, un débat sur l’énergie nucléaire ou une affaire judiciaire touchant une personnalité politique. En quelques minutes, des centaines de commentaires affluent sous les publications des médias, des ministres et des journalistes. Le ton est péremptoire, les arguments identiques, l’agressivité palpable. On éteint son téléphone avec le sentiment amer que la société se fracture irrémédiablement.

Pourtant, derrière une part significative de ce tumulte, il n’y a aucun citoyen en colère. Seulement des lignes de code, des serveurs loués à bas coût et des opérateurs payés pour souffler sur les braises.

Longtemps cantonnée au rang de mythe geek ou d’argument commode pour balayer les critiques politiques, la manipulation de masse par les « fermes de bots » est aujourd’hui un fait établi, documenté et disséqué par les chercheurs, les cellules de renseignement démocratiques et les consortiums de journalistes d’investigation. Le phénomène a changé d’échelle : nous sommes passés du robot élémentaire qui retweete en boucle un mot-dièse à des armées d’identités synthétiques capables de simuler des controverses, d’usurper des identités et de peser sur des échéances électorales.

Comment ces machines fonctionnent-elles ? Qui paie la facture, et pour obtenir quoi ? À partir des enquêtes les plus solides de ces dernières années, ouvrons le capot de cette vaste fabrique à mirages.

Radiographie des grandes manœuvres : trois cas d’école documentés

Pour comprendre la réalité de la manipulation numérique, il faut quitter la spéculation et regarder les preuves matérielles. Trois grandes opérations révélées ces dernières années illustrent à quel point les méthodes diffèrent selon les commanditaires et leurs intentions.

Doppelgänger : l’artillerie lourde du Kremlin

C’est probablement l’une des opérations d’ingérence les plus vastes et les plus sophistiquées jamais observées en Europe. Détectée à l’été 2022 par l’ONG européenne EU DisinfoLab, puis minutieusement documentée en juin 2023 par VIGINUM (l’agence française de vigilance et de protection contre les ingérences numériques étrangères) et par les équipes de sécurité de Meta, la campagne surnommée Doppelgänger (« le sosie ») a visé l’opinion publique de plusieurs pays occidentaux, en premier lieu la France, l’Allemagne, l’Italie et l’Ukraine.

Le mode opératoire relève du clonage méthodique. Les opérateurs ont enregistré des noms de domaine trompeurs (par exemple un site se terminant par .ltd au lieu de .fr) pour copier au pixel près les interfaces de quotidiens reconnus tels que Le Monde, Le Figaro, Le Parisien, Der Spiegel ou The Guardian. La typographie, les logos, les signatures de journalistes réels : tout y était, à une exception près — le contenu de l’article, entièrement fabriqué, affirmait que les sanctions contre la Russie ruinaient l’Europe ou que l’armée ukrainienne était au bord de la déroute.

C’est là que les fermes de bots entrent en scène. Produire un faux article ne sert à rien si personne ne le lit. Pour générer de la visibilité sans se faire repérer par les algorithmes, les équipes de l’opération ont déployé des milliers de comptes automatisés sur Facebook et X (anciennement Twitter). Leur mission : poster ces liens pirates en commentaires sous les publications de personnalités publiques, de médias et d’institutions. Dès qu’un compte était suspendu, une grappe de nouveaux profils prenait le relais.

Les enquêtes de VIGINUM et des services allemands ont formellement relié cette infrastructure à deux sociétés russes, Structura National Technology et l’Agence de design social (SDA), agissant pour le compte des services de l’État russe. L’opération a continué de muter, donnant naissance début 2024 à un réseau plus large encore, baptisé Portal Kombat, agrégeant des dizaines de portails d’information factices orientés vers l’Europe de l’Ouest.

La « Team Jorge » : quand la déstabilisation démocratique devient un service privé

Si l’ingérence russe relève de la guerre hybride d’État à État, l’affaire dite de la Team Jorge a mis en lumière un visage plus insidieux encore : le mercenariat privé de l’opinion.

En février 2023, le collectif international de journalistes d’investigation Forbidden Stories, poursuivant le travail de la journaliste assassinée Daphne Caruana Galizia, a publié une enquête retentissante. Des journalistes sous couverture de Radio France, du quotidien israélien Haaretz et du quotidien britannique The Guardian se sont fait passer pour de potentiels clients auprès d’une officine clandestine basée en Israël, dirigée par Tal Hanan, un ancien des forces spéciales.

Face à des caméras cachées, Hanan a vanté les mérites de son produit phare : une plateforme logicielle propriétaire baptisée AIMS (Advanced Impact Media Solutions). Ce logiciel ne se contentait pas de générer des bots maladroits ; il administrait une armée de plus de 30 000 « personas » numériques d’une crédibilité déroutante. Chaque faux profil disposait d’un historique crédible sur plusieurs plateformes simultanément (X, Facebook, Telegram, LinkedIn, Instagram), d’une adresse physique vérifiable, d’une boîte Gmail active, d’un numéro de téléphone réel pour valider les SMS de sécurité, et même de cartes bancaires virtuelles permettant d’effectuer de micro-achats pour tromper les dispositifs anti-fraude.

Moyennant des contrats facturés en millions d’euros, cette entreprise de l’ombre proposait à des candidats à des élections, des dirigeants contestés ou des entreprises sous le coup de scandales d’orchestrer des campagnes de désinformation sur mesure. L’enquête a documenté l’implication de cette structure dans l’ingérence d’une trentaine de scrutins, principalement en Afrique et en Amérique latine, mais aussi dans des actions d’influence économique et politique en Europe. Le mercenariat d’influence a démontré qu’il suffisait d’avoir un chéquier bien garni pour s’offrir une illusion d’opinion publique.

Spamouflage Dragon : la saturation méthodique à la chinoise

Sur un autre continent, l’appareil d’État chinois pratique une approche différente mais tout aussi massive, documentée sous le nom de Spamouflage (ou Dragonbridge) par le cabinet d’analyse Graphika, les équipes de cybersécurité de Google (TAG) et celles de Meta.

Contrairement aux campagnes russes, qui recherchent la subversion et l’amplification de thématiques locales ultra-clivantes (l’immigration, le pouvoir d’achat, les tensions confessionnelles), le réseau Spamouflage a longtemps privilégié une logique défensive et d’endiguement. Opérant à travers des dizaines de milliers de comptes sur plus de cinquante plateformes — de YouTube à Reddit, en passant par Medium, TikTok et les réseaux traditionnels —, ce réseau s’est employé à traquer la contestation politique.

Lors des manifestations prodémocratie à Hong Kong ou lors des révélations sur la répression des Ouïghours au Xinjiang, les comptes Spamouflage ont inondé les sections de commentaires et les hashtags de référence de contenus promotionnels lénifiants ou de caricatures grossières attaquant les dissidents en exil. L’objectif de ce type de ferme n’est pas toujours de convaincre les internautes occidentaux ; son but premier relève du « déni d’attention » (flooding). En submergeant les algorithmes sous un déluge de messages répétitifs, on invisibilise les voix contestataires et on décourage le débat d’idées contradictoire.

Ces dernières années, les analystes de Graphika ont toutefois noté une montée en agressivité de Spamouflage : les faux comptes ont commencé à se déguiser en citoyens américains pour alimenter les tensions raciales et sociales aux États-Unis, signe que la méthode de la saturation s’adapte désormais aux logiques de guerre psychologique internationale.

Qui tire les ficelles, et dans quel but ?

Derrière ces exemples concrets se dessine un écosystème complexe où se croisent diplomates, espions, communicants sans scrupules et stratèges électoraux. On peut regrouper les acteurs et leurs intentions en trois grandes catégories.

Les appareils étatiques : fragiliser l’adversaire de l’intérieur

Pour une puissance étrangère, l’emploi de fermes de bots relève de la doctrine de la « guerre hybride ». Nul besoin d’envoyer des régiments quand on peut amener une société démocratique à douter de ses propres institutions. Les objectifs sont méthodiques :

Délégitimer le processus électoral : Semer le soupçon sur la sincérité d’un vote ou sur l’impartialité des tribunaux.
Créer des fractures insolubles : Soutenir simultanément les deux extrêmes d’une controverse pour anéantir tout espace de compromis civique.
Affaiblir les alliances internationales : Pousser des récits hostiles aux coalitions multilatérales (OTAN, Union européenne) pour isoler géopolitiquement un partenaire.

Les officines de mercenariat : le cynisme du clic tarifé

Ces agences d’e-réputation et de « relations publiques offensives » ne s’embarrassent d’aucune idéologie. Leurs clients sont des conglomérats industriels souhaitant torpiller un concurrent, des oligarques désireux de blanchir leur réputation avant un procès, ou des partis politiques qui externalisent la basse besogne pour préserver leur respectabilité légale. Leur force réside dans leur flexibilité : elles louent des infrastructures clés en main, exploitent des failles dans les conditions d’utilisation des plateformes et disparaissent derrière des sociétés écrans dès que l’enquête se rapproche.

Les acteurs politiques nationaux : la tentation de l’« astroturfing »

L’ingérence n’est pas toujours étrangère. Au niveau national, de nombreux partis et candidats cèdent à la tentation de l’astroturfing — mot tiré de la marque de gazon synthétique AstroTurf, qui désigne l’action de simuler un mouvement populaire spontané.

L’objectif est de tromper les rédactions et les algorithmes. Si un candidat parvient, grâce à quelques milliers de comptes automatisés, à placer son mot d’ordre en tête des tendances pendant plusieurs heures, il force les matinales radio et les chaînes d’information continue à aborder son thème de campagne. Le bot ne convainc pas directement l’électeur ; il contraint l’agenda médiatique à regarder dans la direction voulue par son commanditaire.

Les mutations à venir : la fin de l’âge artisanal

Si le tableau actuel incite déjà à la vigilance, ce qui se profile à court et moyen terme constitue un changement de paradigme. Trois évolutions majeures transforment en profondeur l’économie de la manipulation en ligne.

L’irruption de l’intelligence artificielle générative

Pendant des années, le point faible des fermes de bots tenait à leur pauvreté stylistique. Un œil attentif repérait sans difficulté les copier-coller massifs, les traductions automatiques maladroites (« bonjour camarade citoyen ») et les comportements temporels aberrants (cinq cents tweets à la minute, 24 heures sur 24).

L’intégration des grands modèles de langage (LLM) abolit ces barrières. Désormais, un seul opérateur peut demander à un système d’intelligence artificielle de décliner un même argument en dix mille variantes sémantiques, en adaptant le registre de langue (du familier au soutenu), l’humour, le vocabulaire argotique et les fautes d’orthographe courantes pour feindre l’humanité.

Plus encore, ces « agents autonomes » ne se contentent plus de diffuser des liens : ils sont programmés pour engager la conversation, répondre aux arguments des internautes avec patience, simuler de l’empathie et introduire des doutes progressifs au fil d’un fil de discussion. Quant aux images de profil, l’époque des photos volées sur des banques d’images gratuites — que l’on démasquait d’une simple recherche inversée — est révolue : les visages générés par réseaux antagonistes génératifs (GAN) n’existent nulle part ailleurs sur le web, rendant leur identification visuelle quasi impossible pour un non-spécialiste.

La migration vers les canaux fermés

Face au renforcement de la régulation sur les grands réseaux publics, les maîtres d’œuvre déplacent une partie croissante de leurs dispositifs vers les messageries chiffrées (Telegram, WhatsApp, Signal). Dans ces espaces clos, protégés du regard des chercheurs indépendants et des agences étatiques de veille, la manipulation se fait plus intime et plus toxique. Des faux profils intègrent des groupes de quartier, des boucles de parents d’élèves ou des canaux de soutien local pour y instiller des théories du complot et de fausses alertes sécuritaires sans contradiction possible.

L’asymétrie économique renforcée

Les décisions de certaines plateformes — notamment la politique adoptée par X consistant à rendre payant et très coûteux l’accès à ses interfaces de programmation (API) — ont porté un coup sévère aux laboratoires universitaires et aux chercheurs indépendants. Paradoxe de notre époque : alors que les faussaires trouvent toujours les moyens techniques de contourner les règles, la communauté scientifique a vu ses outils d’audit et de détection asséchés. Le coût de la surveillance civique augmente au moment précis où le coût de la production de faux profils s’effondre.

Guide d’autodéfense : comment repérer le piège et s’en prémunir ?

Face à des dispositifs aussi complexes, le risque serait de sombrer dans une paranoïa généralisée où chaque contradicteur sur internet serait immédiatement qualifié de « bot russe » ou de « mercenaire payé ». C’est précisément ce que recherchent les stratèges de la confusion : faire en sorte que plus personne n’accorde sa confiance à qui que ce soit.

La réponse démocratique ne réside ni dans la panique ni dans la censure aveugle, mais dans une méthode rigoureuse d’hygiène informationnelle. Voici les réflexes clés à adopter face à des interactions suspectes.

Le réflexe de l’« audit express » d’un compte

Avant de répondre à une interpellation agressive ou de relayer un témoignage spectaculaire, prenez trente secondes pour inspecter la page de l’émetteur :

La date de création : Un compte créé il y a trois semaines avec une poignée d’abonnés, qui commente exclusivement de la politique nationale à jet continu, doit susciter une réserve immédiate.
L’historique des publications : Un véritable être humain a des centres d’intérêt hétérogènes (du sport, des séries, des photos de vacances, des blagues). Un profil dont l’activité ne tourne qu’autour d’une poignée de mots-clés ou qui retweete des centaines de fois par jour sans jamais rien formuler de personnel présente de forts indices d’inauthenticité.
Le ratio abonnés/abonnements : Des comptes qui suivent 4 000 profils mais ne sont suivis que par 12 personnes traduisent généralement une volonté de constituer artificiellement un réseau de diffusion.

Déjouer les clones : scruter les détails techniques

L’affaire Doppelgänger nous a appris que l’habit ne fait pas le moine, ni le logo le média :

Regardez attentivement la barre d’adresse : Si un article ressemble au journal Le Monde mais que son adresse se termine par .info, .ltd ou comporte un tiret inhabituel, fermez l’onglet : il s’agit d’une usurpation.
Méfiez-vous des captures d’écran d’articles ou de tweets : Les falsificateurs fabriquent très facilement de fausses captures d’écran de déclarations attribuées à des élus ou à des personnalités publiques. Si le prétendu tweet n’est sourcé par aucun lien direct vers le profil authentique de la personne, considérez-le comme faux jusqu’à preuve du contraire.

Maîtriser le tempo émotionnel

Le premier carburant des fermes de bots n’est pas la technologie, mais l’émotion humaine. La colère, la peur, le dégoût et le sentiment d’injustice sont les leviers psychologiques qui désactivent le sens critique et déclenchent le partage impulsif.

La règle des cinq minutes : Face à une information sidérante qui confirme miraculeusement vos préjugés ou qui provoque chez vous une vive colère, forcez-vous à ne rien publier, retweeter ou transférer pendant cinq minutes.
Cherchez le recoupement : Si un fait grave vient de se produire, les rédactions professionnelles disposant de correspondants sur place sont en train de le vérifier. Si une information prétendument explosive ne figure sur aucun site d’information de référence après plusieurs heures, l’hypothèse de la manipulation est la plus probable.

Défendre l’espace commun

On a souvent tendance à analyser la désinformation sous un angle purement technologique, comme s’il s’agissait d’un problème de virus informatique qu’une mise à jour logicielle suffirait à éradiquer. C’est une illusion. Les fermes de bots n’inventent pas nos faiblesses : elles exploitent nos divisions préexistantes, nos fatigues collectives et les failles de nos modèles économiques numériques.

En Europe, le Règlement sur les services numériques (Digital Services Act – DSA) pose un cadre inédit qui contraint désormais les très grandes plateformes à rendre des comptes sur leurs algorithmes de recommandation et à prouver leurs efforts pour démanteler les réseaux inauthentiques coordonnés. Mais la loi ne pourra jamais tout résoudre à elle seule.

La meilleure parade contre les armées de fantômes numériques demeure l’esprit critique du public et le soutien indéfectible à une presse indépendante, transparente sur ses méthodes et capable de mener les enquêtes de terrain que les algorithmes ne feront jamais. Sur les réseaux sociaux comme dans la vie publique, le premier devoir civique consiste à ne pas donner son attention à n’importe qui, et à se souvenir qu’un débat démocratique se mène entre citoyens réels, les yeux ouverts.