Depuis quelques mois, Reddit est envahi par des bots IA, suscitant l’inquiétude des utilisateurs. Avec des millions de messages automatisés, la plateforme peine à contrôler ce phénomène. La responsabilité revient à Reddit, qui doit impérativement renforcer ses mesures pour protéger l’intégrité de sa communauté.

Reddit est victime de spams par des bots IA

Reddit autorise les bots IA à récolter des publications des utilisateurs

Le problème des bots IA sur Reddit a pris de l’ampleur et la responsabilité en revient à la plateforme elle-même. En effet, Reddit a signé un contrat de 60 millions de dollars pour permettre à des entreprises, dont Google, d’utiliser des publications d’utilisateurs pour former leurs intelligences artificielles. Ce choix a ouvert la porte à une exploitation abusive de la plateforme, rendant les utilisateurs vulnérables à des spams générés par des bots.

Une stratégie ciblée pour protéger un contrat

Pour protéger cet accord, Reddit a restreint l’accès à d’autres entreprises, y compris des robots d’exploration web. Cela signifie que seul Google peut indexer le site, ce qui a conduit à une situation où d’autres sociétés se sont senties exclues. Cela a donné lieu à une augmentation des faux contenus, les entreprises cherchant à influencer les résultats des chatbots en utilisant Reddit comme tremplin.

Des bots IA pour générer des publications frauduleuses

Les entreprises ont compris qu’en créant des publications de spam sur Reddit, elles pouvaient améliorer la visibilité de leur contenu dans les réponses des chatbots IA. Steve Huffman, le PDG de Reddit, a confirmé que des entreprises utilisaient des bots IA pour générer ces faux posts, espérant ainsi que ces contenus seraient repris par des systèmes d’IA, comme ceux développés par Google. Cela constitue une forme de manipulation, visant à intégrer le contenu publicitaire dans les résultats des intelligences artificielles.

"Depuis 20 ans, nous luttons contre ceux qui cherchent à gagner en popularité sur Reddit", a déclaré Huffman. "Nous nous indexons très bien dans les moteurs de recherche. Si vous voulez apparaître dans ces moteurs, vous devez bien performer sur Reddit. Maintenant, avec les LLM, c’est la même chose. Si vous voulez figurer dans les LLM, vous pouvez le faire via Reddit."

Un cercle vicieux alimenté par les agences

Des responsables d’agences publicitaires ont confirmé à des médias tels que le Financial Times qu’ils publiaient effectivement du contenu sur Reddit pour augmenter la probabilité que leurs publicités apparaissent dans les réponses des chatbots génératifs. Cette stratégie a créé un cercle vicieux, où la recherche de visibilité entraîne une prolifération de contenus non authentiques.

Huffman précise que la solution réside dans la garantie que les publications soient « rédigées par des humains et votées par des humains ». Il évoque une « course aux armements » permanente pour maintenir l’intégrité du contenu sur la plateforme.

Problèmes internes et solutions envisagées

Reddit est désormais confronté à une multitude de défis pour bloquer ces bots IA. Parmi les solutions explorées, certaines incluent des dispositifs de vérification biométrique, comme l’appareil de scan de l’iris proposé par Sam Altman d’OpenAI. Cette approche soulève également des questions éthiques sur la vie privée des utilisateurs et leur consentement.

Une communauté en émoi

Les utilisateurs de Reddit, déjà mécontents que leurs publications soient vendues comme matériel d’entraînement pour l’IA, se sentent encore plus trahis en découvrant que le problème croissant des spams par des bots découle directement de cette décision commerciale. Ce sentiment de désillusion s’est intensifié, les utilisateurs considérant que Reddit est à l’origine de cette situation problématique.

Une responsabilité partagée

Il est impératif que Reddit prenne des mesures concrètes pour résoudre ce problème. Le fait d’être au centre d’une telle controverse pose des questions sur l’avenir de la plateforme et sur la manière dont elle gère la relation avec ses utilisateurs. L’enjeu est de protéger l’intégrité de la communauté tout en répondant aux besoins commerciaux de l’entreprise.

Pour approfondir ce sujet, vous pouvez consulter ce lien vers un article sur le sujet.