Alors que la pandémie a restreint ses capacités humaines à assurer la modération des contenus sur ses plateformes, Facebook a de plus en plus recours à l’intelligence artificielle (IA), y compris pour détecter les « memes » porteurs de messages de haine. « L’IA détecte désormais, de façon proactive, 89 % des contenus haineux que nous retirons, contre 80 % au trimestre précédent », note un communiqué du groupe américain publié mardi. « Rien qu’au premier trimestre 2020, nous avons agi sur 9,6 millions de contenus qui enfreignaient nos règles en la matière, soit 3,9 millions de plus ». Signe que la tâche est plus ardue sur Instagram, ce taux de détection proactive tombe à 44 % sur l’application de photos et vidéos, d’après Guy Rosen, vice-président du groupe Facebook.

Les équipes du réseau social planétaire ont mis une base de données de 10 000 memes à disposition de chercheurs, pour qu’ils développent des algorithmes capables de repérer les messages problématiques. Facebook a aussi fait part de ses propres progrès : son outil d’IA SimSearchNet est censé être capable de reconnaître des copies d’une image originale, malgré d’éventuelles modifications pour la détourner de son sens initial et échapper à la détection automatique. Côté linguistique, les algorithmes de la plateforme peuvent désormais « comprendre » de mêmes messages dans différentes langues.