Sur Reddit, la lutte contre la fraude liée à l’IA prend de l’ampleur. Cependant, cette initiative soulève des préoccupations quant à la confidentialité des utilisateurs. Alors que la plateforme s’efforce de protéger ses membres, un équilibre délicat entre sécurité et respect des données personnelles est nécessaire.
Expérience AI non autorisée
Des chercheurs de l’Université de Zurich ont mené une expérience frauduleuse à grande échelle sur le subreddit très populaire Change My View. Des modèles de langage AI ont pris diverses identités, notamment celle d’une victime de viol et d’un conseiller en traumatologie. Au total, ces bots AI ont publié plus de 1 700 commentaires en prétendant être des humains.
Cela a été exécuté en violation des règles de Reddit et des normes éthiques bien établies qui exigent le consentement éclairé pour les expériences psychologiques.
Les modérateurs de CMV ont déposé une plainte formelle auprès de la commission d’éthique de l’université, qui a répondu en déclarant avoir émis un avertissement formel au chercheur principal, mais a outrageusement décidé que la publication du document irait de l’avant.
Reddit contre-attaque
Reddit a condamné cette « expérience inappropriée et hautement non éthique ». Le PDG Steve Huffman a déclaré que la plateforme réagirait en introduisant de nouvelles mesures destinées à « garder Reddit humain ».
Pour garder Reddit humain et répondre aux exigences réglementaires en évolution, nous aurons besoin de davantage d’informations. Plus précisément, nous devrons savoir si vous êtes un humain, et dans certaines régions, si vous êtes un adulte. Mais nous ne voulons jamais connaître votre nom ou qui vous êtes. La manière dont nous ferons cela est en collaborant avec divers services tiers qui peuvent nous fournir les informations essentielles et rien d’autre. Aucune solution n’est parfaite – y compris le statu quo – mais nous ferons de notre mieux pour préserver l’humanité et l’anonymat de Reddit.
Mais pourrait s’avérer impopulaire
Reddit a toujours permis des comptes anonymes, et beaucoup de ses utilisateurs ont de bonnes raisons de vouloir garder leur identité privée. Ils peuvent, par exemple, souhaiter partager des informations très personnelles dans certains subreddits.
Bien que Huffman affirme que les nouvelles mesures ne révéleront pas les noms des utilisateurs, TechCrunch fait état d’un manque de transparence inquiétant concernant les plans de l’entreprise.
Un porte-parole de Reddit a refusé d’expliquer dans quelles circonstances la société exigerait des utilisateurs de passer par un processus de vérification et n’a pas partagé plus de détails sur les services tiers que la société utiliserait ni sur le type d’informations d’identification personnelle que les utilisateurs devraient fournir.
Le site pointe aussi un exemple récent des risques associés aux comptes anonymes devenant identifiables.
Regardez comment Meta a remis des conversations privées entre une femme du Nebraska et sa fille de 17 ans, discutant des projets de cette dernière de mettre fin à une grossesse. L’assistance de Meta a conduit les forces de l’ordre à obtenir un mandat de perquisition, ce qui a entraîné des accusations criminelles contre la mère et la fille.
Des nouvelles plus positives de Reddit
Sur une note plus positive, de nombreux Redditors préfèrent l’ancienne interface à la nouvelle, et Huffman a promis de maintenir old.reddit en ligne « tant que les gens l’utilisent ».
Photo par Matthew Henry sur Unsplash
Nous utilisons des liens d’affiliation automatisés générant des revenus. Plus.
Qu’est-ce qui s’est passé avec l’expérience AI sur Reddit ?
Les chercheurs de l’Université de Zurich ont mené une fraude AI à grande échelle sur le subreddit Change My View, où des modèles de langage ont pris diverses identités. Cela a violé les règles de Reddit et les normes éthiques établies, car les utilisateurs n’ont pas donné leur consentement.
Comment Reddit réagit-il à cette situation ?
Reddit a condamné cet « expérience inappropriée et hautement non éthique » et a annoncé qu’il allait introduire de nouvelles mesures pour « garder Reddit humain » et répondre aux exigences réglementaires évolutives.
Ces nouvelles mesures affecteront-elles l’anonymat des utilisateurs ?
Bien que Reddit affirme que ces mesures ne révéleront pas les noms des utilisateurs, il existe des préoccupations concernant le manque de transparence sur le processus de vérification et les informations personnelles requises.
Y a-t-il des bonnes nouvelles pour Reddit ?
Oui, des Redditors préfèrent l’ancienne interface, et le PDG Steve Huffman a promis de maintenir old.reddit en ligne tant que les gens l’utilisent.
