Le 8 juin 1966, Peter Handke , prix Nobel de littérature 2019, fait jouer à Francfort sa pièce « Insultes au public ». L'émission, initialement accueillie avec scepticisme , fut un succès , et déclina la pensée non conventionnelle du brillant écrivain. Mais aujourd'hui nous avons affaire à des réseaux sociaux , et les messages haineux quittent le champ de l'expérimentation pour prendre une toute autre pertinence dans le monde réel, notamment lorsque l'intelligence artificielle ( IA ) est en jeu. À présent, il devrait être clair pour tout le monde que l'intelligence artificielle est seulement aussi bonne que le matériel sur lequel elle s'entraîne , et cela, comme l' enseigne Timnit Gebru , jamais trop cité , est particulièrement valable dans les grands algorithmes de création de langage , tels que GPT-3 . Le youtubeur Yannic Kilcher a quand même voulu expérimenter l'hypothèse, et a formé un modèle d'IA basé sur GPT-3 sur le forum verbalement plus violent et raciste de 4chan , Politically Incorrect (/pol/).

Le résultat? Une série de bots générés par un modèle (appelé GPT-4chan) capable de créer une vague de haine et de générer 15 000 posts (plus de 10% des posts sur /pol/) à fort contenu raciste en une seule journée , avec un mélange de "offensif, nihilisme, trolling et méfiance profonde". De toute évidence, Kilcher a pris ses précautions pour surmonter les défenses de 4chan contre les bots et son modèle était si convaincant qu'il a fallu deux jours aux utilisateurs pour s'en apercevoir, à quel point ils ont même commencé à s'accuser mutuellement d'être des bots. . Le YouTuber a dit qu'il voulait faire une blague , mais le problème est que le modèle a été partiellement partagé sur le référentiel IA Hugging Face , à tel point que le site l'a ensuite supprimé craignant qu'il puisse être utilisé par des personnes malveillantes .