Reddit a annoncé la mise en place de nouveaux outils basés sur des modèles de langage à grande échelle (LLM) conçus pour éliminer plus efficacement le spam, les faux comptes et les contenus générés par des bots. Selon l'entreprise, les résultats sont déjà visibles : les utilisateurs sont confrontés à des contenus indésirables beaucoup moins fréquemment qu'il y a quelques mois. La plateforme a affiché des statistiques de performance impressionnantes pour ses systèmes. Des mécanismes automatisés bloquent environ 23 millions de vues de spam par jour, détectent près de 25 000 publications et commentaires suspects et invalident près de deux millions de votes inauthentiques émis par de faux comptes. Reddit indique également que, grâce à l'utilisation de ses propres modèles d'IA, l'exposition des utilisateurs au spam a diminué de 20 % au premier trimestre 2026 par rapport aux trois mois précédents. Les nouvelles solutions entrent en action avant même la publication du premier message. Des algorithmes analysent le comportement des comptes dès leur création, à la recherche de schémas subtils révélant une activité de bots coordonnée ou un intérêt artificiellement généré pour un contenu spécifique. De plus, les comptes automatisés suspects peuvent être tenus de confirmer qu'ils ont été créés par des humains. Il s'agit d'une mesure de sécurité supplémentaire visant à limiter la création massive de comptes utilisés pour manipuler les discussions.

Ces nouveaux outils ne se limitent pas à la lutte contre le spam. Reddit utilise également l'IA pour détecter les discours haineux et les contenus incitant à la violence. Actuellement, le système couvre toutes les publications en anglais, mais l'entreprise prévoit d'étendre sa prise en charge à d'autres langues. L'entreprise affirme également que le délai entre la détection d'une infraction et la prise de mesures a été réduit à moins de cinq secondes. Selon Reddit, cela a permis de réduire de plus de 40 % l'exposition des utilisateurs aux contenus préjudiciables. Il s'agit d'un tournant symbolique pour le service, dont la relation avec l'intelligence artificielle a été tumultueuse ces dernières années. La plateforme a lutté contre l'utilisation non autorisée de ses données pour l'entraînement des modèles d'IA en introduisant un système de licences de contenu. Parallèlement, elle intègre de plus en plus cette technologie, comme en témoignent les nouveaux systèmes de modération et l'évolution du moteur de recherche Reddit Answers.