Aller au contenu
Tech et Web · Intelligence artificielle

Un réseau d'articles promotionnels payés influence les réponses de moteurs d'IA, selon une prépublication

Des services vendent de la visibilité dans les réponses des moteurs d'IA en faisant publier, pour leurs clients, des articles promotionnels sur des plateformes de contenus écrits par les internautes. Cette prépublication, qui n'a pas encore été relue par d'autres chercheurs, décrit un réseau de 1 985 comptes sur trois plateformes chinoises.

Par Publié le
Tech et Web : Un réseau d'articles promotionnels payés influence les réponses de moteurs d'IA, selon une prépublication

Un réseau de comptes qui fait la promotion de produits

Une prépublication mise en ligne sur arXiv, une archive de textes scientifiques publiés avant relecture par d'autres chercheurs, décrit un réseau lié à des services qui vendent de la visibilité dans les réponses des moteurs génératifs. Ces moteurs synthétisent des pages web récupérées pour produire des réponses, des recommandations ou des classements. Les services d'optimisation pour moteurs génératifs (GEO, de l'anglais generative engine optimization) font publier, pour des clients qui paient, des articles promotionnels sur des plateformes de contenus créés par les utilisateurs (UGC, pour user-generated content).

Les chercheurs ont mesuré une de ces opérations sur trois grandes plateformes chinoises. Ils y relèvent 1 985 comptes liés au réseau et 466 357 placements promotionnels, que l'étude déduit de ses observations plutôt que de constater directement. Le réseau promeut des produits de catégories diverses, avec un nombre croissant de comptes. Ses campagnes coordonnées durent des mois et touchent plusieurs plateformes à la fois. Ses contenus, des articles en forme de liste (listicles), évoluent au fil du temps.

Entre 4,5 % et 20 % des pages citées attribuables au réseau

Sur neuf moteurs génératifs, américains et chinois, les chercheurs estiment qu'entre 4,5 % et 20 % des pages citées qu'ils peuvent retrouver sont attribuables au réseau. La fourchette dépend de la rigueur avec laquelle on rattache une page au réseau.

Sur huit de ces neuf moteurs, des clients du réseau sont nommés dans 52 % des réponses, contre 68 % pour les leaders de leur catégorie. Selon les auteurs, le placement de contenus sur ces plateformes influe sur les réponses des moteurs génératifs.

Comment l'étude a été menée

Il s'agit d'une mesure faite en conditions réelles, sur le terrain : les chercheurs ont observé une opération existante sur trois plateformes chinoises et examiné les pages citées par neuf moteurs génératifs, américains et chinois. Le résumé ne précise ni la durée exacte du suivi, ni la façon dont les comptes ont été identifiés, ni la liste des produits concernés.

Ce que cela change

Pour les personnes qui utilisent ces moteurs pour s'informer, une partie des pages citées dans les réponses peut être attribuée à un réseau rémunéré. Ce type de promotion suscite des inquiétudes dans les domaines médical et financier, où des conseils trompeurs peuvent causer du tort. Le résumé ne dit pas quelle part des placements relève de ces domaines.

Sur le plan de la défense, contrôler le contenu de chaque page ne suffit pas face à des placements coordonnés, estiment les auteurs : des signaux au niveau des comptes et des plateformes sont nécessaires pour une protection efficace.

Ce que l'étude ne prouve pas

La part attribuée au réseau est une estimation, pas un décompte exact : le résumé reconnaît qu'elle varie selon la rigueur du critère, d'où la fourchette de 4,5 % à 20 %. Les placements eux-mêmes sont déduits des observations.

D'autres limites découlent de la méthode telle que le résumé la décrit. L'étude porte sur un seul réseau, sur trois plateformes chinoises et neuf moteurs : elle ne couvre ni d'autres plateformes, ni d'autres pays, ni d'autres moteurs. Une marque cliente qui apparaît dans une réponse ne permet pas, à elle seule, de dire quelle part de cette présence revient au réseau. Enfin, le résumé ne dit pas si les conseils publiés sont effectivement trompeurs dans les cas étudiés : il mesure la présence et l'influence du réseau, pas la justesse des contenus.

Ce qui reste à établir

Le résumé n'annonce pas de suite précise. Plusieurs questions restent ouvertes : la part réelle du réseau dans les réponses reste une fourchette ; l'effet des placements sur d'autres moteurs, d'autres plateformes ou d'autres pays n'est pas évalué ici ; la part des contenus liés à la santé ou à la finance n'est pas précisée.

Ces résultats doivent encore être relus par d'autres chercheurs avant d'être considérés comme solides.

Sources