Les tentatives de désinformation et d'ingérence numérique repartent nettement à la hausse en France. C'est ce que pointe Viginum, le service de l'État chargé de repérer les manipulations de l'information venues de l'étranger. Avec plusieurs échéances électorales qui approchent, la vigilance monte d'un cran, et les acteurs du secteur s'organisent pour tenter de suivre le rythme.
Ce que surveille Viginum
Viginum a été créé en 2021, après plusieurs épisodes de manipulation de l'opinion publique repérés en Europe et ailleurs dans le monde. Sa mission : détecter les campagnes de désinformation menées depuis l'étranger, qui visent à influencer le débat public français. Le service ne s'occupe pas des fausses informations produites par des citoyens ou des médias français : son périmètre, c'est bien les opérations coordonnées, souvent liées à des acteurs étatiques ou à des relais qui leur sont proches.
Concrètement, les équipes de Viginum analysent des milliers de comptes, de pages et de contenus pour repérer des schémas suspects : publication massive et synchronisée, comptes créés en rafale, traduction automatique approximative qui trahit une origine étrangère, ou encore réseaux de sites qui se citent entre eux pour donner une fausse impression de consensus.
Ces derniers mois, le service a constaté une nette accélération de ce type d'opérations. Les cibles privilégiées restent les personnalités politiques, mais aussi les institutions et les processus électoraux eux-mêmes. Le but n'est pas toujours de faire gagner un camp en particulier : parfois, il s'agit simplement de semer le doute, de fatiguer la confiance dans l'information en général, jusqu'à ce que plus personne ne sache qui croire.
L'intelligence artificielle change la donne
Ce qui inquiète le plus les observateurs, c'est la place grandissante de l'intelligence artificielle générative dans ces manipulations. Créer une fausse vidéo, un faux enregistrement audio ou un article entier attribué à quelqu'un qui ne l'a jamais écrit demande aujourd'hui très peu de moyens et très peu de temps. Il y a encore quelques années, ce genre de faux nécessitait un vrai savoir-faire technique, du matériel spécialisé et plusieurs heures de travail. Ce n'est plus le cas : quelques minutes et un outil grand public suffisent souvent.
Les faux comptes, eux aussi, profitent largement de cette évolution. Un compte automatisé peut désormais générer du texte crédible, réagir à l'actualité en temps réel et donner l'illusion d'un vrai débat entre citoyens ordinaires. Multiplié par des centaines ou des milliers de comptes, l'effet devient très difficile à distinguer d'un mouvement d'opinion authentique, surtout pour quelqu'un qui parcourt son fil d'actualité rapidement, sans s'arrêter sur chaque publication.
Les personnalités politiques sont des cibles de choix dans ce contexte. Un discours jamais prononcé, une citation inventée de toutes pièces, une image détournée de son contexte d'origine : le contenu circule vite, parfois avant même qu'un démenti ait eu le temps de sortir. Le mal est souvent fait dès les premières heures de diffusion, quand le contenu est encore partagé sans recul et sans vérification.
Comment repérer le faux
Face à cette vague, des outils de détection se développent en parallèle. Google, par exemple, a mis au point SynthID, une technologie qui appose un marquage invisible à l'œil nu sur les images, l'audio et les vidéos générés par ses propres modèles d'intelligence artificielle, afin de permettre de les identifier plus tard, même après un partage ou une légère modification. D'autres acteurs du secteur travaillent sur des approches similaires, avec l'idée commune de rendre le contenu généré par IA traçable, même quand il a été recopié ou republié plusieurs fois sur des plateformes différentes.
Le problème, c'est que ce type de marquage ne fonctionne que si l'outil qui a servi à créer le faux contenu l'a lui-même intégré dès le départ. Un faux fabriqué avec un logiciel qui ne suit pas cette pratique, ou avec un modèle ouvert modifié pour l'occasion, passe entre les mailles du filet sans aucune difficulté. La course entre les outils de création et les outils de détection reste, pour l'instant, très inégale, et l'écart ne se referme pas vraiment.
Les moteurs de recherche jouent eux aussi un rôle dans cet équilibre, en essayant de mettre en avant les sources jugées fiables plutôt que les contenus viraux non vérifiés qui remontent naturellement grâce au nombre de partages. Mais cela suppose de bien distinguer une source réellement fiable d'une source qui l'imite habilement, ce qui devient de plus en plus difficile à mesure que les faux gagnent en qualité visuelle et en cohérence.
Un enjeu qui dépasse la technique
Au-delà des outils, c'est avant tout une question d'habitude qui se pose au quotidien. Vérifier une source avant de la partager, se méfier d'un contenu trop parfait ou qui circule anormalement vite, croiser l'information avec plusieurs médias reconnus avant de la considérer comme acquise : ces réflexes, encore trop rares dans la population, deviennent presque indispensables à l'approche d'un scrutin important.
Les plateformes ont elles aussi leur part de responsabilité. Ralentir la diffusion d'un contenu signalé comme douteux, le temps qu'une vérification soit faite, ou afficher clairement qu'un contenu a été généré par IA, sont des pistes déjà expérimentées par certains réseaux sociaux, avec des résultats encore inégaux selon les plateformes et les pays concernés.
Viginum publie régulièrement ses constats et ses rapports, mais son rôle s'arrête à l'alerte : le service signale les opérations qu'il détecte, il ne censure rien de lui-même. La responsabilité de trier le vrai du faux reste, au bout du compte, largement entre les mains de chacun. Avec une intelligence artificielle qui progresse plus vite que les garde-fous mis en place pour l'encadrer, l'exercice s'annonce de plus en plus exigeant pour les mois qui viennent, à mesure que les échéances électorales se rapprochent.
Certains pays voisins ont déjà expérimenté des campagnes comparables lors de précédents scrutins, avec des méthodes qui évoluent d'une élection à l'autre. Les équipes qui pilotent ces opérations ajustent leurs techniques en fonction de ce qui a fonctionné ailleurs, ce qui rend la détection encore plus complexe pour les services chargés de la surveiller : un schéma repéré une fois n'est pas forcément réutilisé tel quel la fois suivante.