SAFE : comment Google traque l'AI slop avec des agents IA ?

Le terme circule depuis deux ans chez les modérateurs et les créateurs : l'AI slop. Il désigne ces contenus produits à la chaîne par l'intelligence artificielle, sans autre but que de remplir les plateformes et d'aller chercher des vues. Google vient de publier un court article de recherche sur l'outil qu'il a construit pour les repérer. Son nom : SAFE, pour Scaled Abuse Forensics Examiner, que l'on pourrait traduire par examinateur des abus à grande échelle.

Le document a été repéré le 25 septembre par le site spécialisé Search Engine Journal, puis relayé par de nombreux comptes consacrés au référencement. Il tient en trois pages, signées par sept de ses ingénieurs. L'idée est simple : plutôt que de confier la détection à un seul programme, Google fait travailler plusieurs agents IA ensemble. Chacun traite un morceau de l'enquête, comme le ferait une équipe d'analystes humains.

Pourquoi les filtres classiques ne suffisent plus ?

Pendant des années, les contenus abusifs se reconnaissaient à la répétition. Une vidéo ou un texte copié des centaines de fois laissait une empreinte facile à repérer. L'IA générative a changé les règles. Les réseaux qui produisent ce contenu fabriquent maintenant des variantes toutes différentes, adaptées à chaque langue ou pays. Et dès qu'un filtre commence à les bloquer, ils modifient leurs consignes de génération.

Les auteurs parlent de synthetic gap, le délai entre l'apparition d'une nouvelle technique de production automatisée et la mise en place de la parade. Pendant ce temps, les contenus passent. Les enquêtes manuelles, elles, ne tiennent pas le rythme : un analyste peut examiner un réseau, pas des milliers par jour.

Un agent chef d'orchestre et trois enquêteurs

SAFE repose sur quatre agents. Le premier, dit racine, joue le rôle de chef d'enquête. Il reçoit un groupe de chaînes suspectes, répartit le travail entre les trois autres, puis vérifie leurs conclusions avant de rendre un verdict : attaque coordonnée ou activité normale.

Chacun des trois agents spécialisés regarde le dossier sous un angle différent. Le premier examine le contenu lui-même, le deuxième le comportement des comptes, le troisième les liens entre eux. C'est le croisement de ces regards qui fait la différence. Une vidéo douteuse peut passer inaperçue, une activité étrange aussi, mais les deux réunies dans un seul réseau forment un vrai faisceau de preuves.

Le contenu analysé par un modèle de langage

L'agent chargé du contenu s'appuie sur un grand modèle de langage adapté à la détection des violations déjà connues. Il cherche les traces de production automatisée : scripts qui se répètent d'une vidéo à l'autre, incohérences visuelles typiques de la génération, signatures communes à plusieurs chaînes.

Il a une seconde mission, plus subtile. Un autre modèle, entraîné avec seulement quelques exemples, doit repérer les contenus qui ne correspondent à aucune règle écrite mais qui en violent l'esprit. C'est précisément la faille qu'exploitent les fraudeurs : rester juste à côté de ce que les filtres savent reconnaître. Google indique vouloir ajouter à cet agent une capacité de compréhension des règles elles-mêmes, pour suivre leur évolution au fil du temps.

Des mises en ligne trop bien synchronisées

Le deuxième agent s'intéresse à la manière dont les comptes se comportent. Il regarde l'infrastructure utilisée, comme le réseau de connexion ou l'empreinte des appareils, et les rythmes de publication. Un humain publie à des heures irrégulières, avec des pauses et des oublis. Une ferme de contenus, beaucoup moins.

Le document donne un exemple parlant du type de conclusion produite. Dans un groupe, toutes les chaînes utilisent la même version du système d'exploitation et publient leurs vidéos dans un créneau de cinq secondes. Aucun collectif de créateurs indépendants ne se comporte ainsi.

Remonter tout le réseau, pas un compte isolé

Le troisième agent cartographie les relations entre les chaînes à l'aide d'un service de graphe, qui recense les connexions déjà établies. Il fouille aussi les signaux bruts pour trouver des liens qui n'apparaissent pas au premier regard.

L'objectif est de sortir du jeu du chat et de la souris. Supprimer une chaîne ne sert pas à grand-chose si les quarante autres du même réseau continuent de publier. En visant l'ensemble de l'opération, SAFE permet de traiter le problème à la source.

Déjà en service, mais sans résultats chiffrés

Le système n'est pas un simple prototype. Les auteurs écrivent que les premiers résultats de déploiement montrent une identification nettement plus rapide des nouvelles menaces synthétiques, avec un temps d'enquête réduit par rapport au travail d'un analyste seul.

Le document reste en revanche très discret sur les chiffres. Il liste les critères d'évaluation prévus : accord entre le verdict de l'agent et celui d'un analyste humain, nombre de tendances abusives découvertes qui auraient échappé aux classificateurs, temps de traitement moyen d'un dossier. Aucun résultat n'est publié. Même quand le système n'arrive pas à trancher, ses conclusions doivent accélérer le travail de la personne qui prend le relais. SAFE est pensé comme un renfort, pas comme un juge unique.

SAFE vise-t-il aussi les sites dans la recherche Google ?

C'est la question qui agite le monde du référencement depuis la parution. Search Engine Journal rapproche cette publication des mises à jour anti-spam du moteur de recherche, nombreuses en 2026 (mars, juin puis août). Il rappelle aussi qu'un autre système visant les contenus générés par IA, baptisé S-CTS, avait déjà été repéré auparavant. Le site présente toutefois ce lien comme une possibilité, pas comme un fait établi.

Le texte de Google, lui, ne parle jamais de pages web ni de résultats de recherche. Il décrit des réseaux qui mettent en ligne des vidéos, cite des études sur les comportements artificiels observés sur YouTube et raisonne en identifiants de chaînes. Tout indique que SAFE a été conçu pour les plateformes vidéo du groupe. Rien n'empêche que la même architecture serve un jour ailleurs, mais le document ne l'affirme nulle part.

Côté moteur de recherche, Google continue de présenter SpamBrain, son système anti-spam fondé sur l'IA, comme la pièce maîtresse de ses mises à jour.

Ce que SAFE traque vraiment

SAFE ne cherche pas à sanctionner l'usage de l'IA en soi. Ce qu'il traque, c'est la combinaison d'une production de masse, d'une coordination artificielle entre comptes et de contenus sans intérêt pour ceux qui les reçoivent. Un créateur qui s'aide d'outils d'IA pour une partie de son travail ne présente pas ce profil. Un réseau de cinquante chaînes qui publient les mêmes vidéos remaniées à la même seconde, si.

Pour les plateformes, l'enjeu dépasse la propreté des résultats. Chaque vague d'AI slop fait baisser la confiance des utilisateurs et noie le travail des vrais créateurs sous un flot de copies. En automatisant l'enquête elle-même, et pas seulement la détection, Google change d'échelle. Il faudra attendre les premiers chiffres pour savoir si la méthode tient ses promesses.