YouTube étend l'accès à sa fonctionnalité de détection de ressemblance générée par l'IA, et cet outil sera disponible pour tous les utilisateurs éligibles de plus de 18 ans dans les prochaines semaines. Jusqu'à présent, cette solution était principalement réservée à une sélection de créateurs, de journalistes, de politiciens et de personnalités publiques, mais la plateforme souhaite désormais offrir un niveau de protection similaire à un groupe d'utilisateurs beaucoup plus large. Cette fonctionnalité est conçue pour détecter les contenus utilisant l'IA et le visage d'une personne sans son consentement. L'outil fonctionne au sein de YouTube Studio et utilise une vérification faciale unique pour identifier les vidéos synthétiques ou modifiées publiées sur la plateforme. Pour participer, les utilisateurs doivent fournir une pièce d'identité et enregistrer une courte vidéo selfie, qui servira à créer un modèle facial pour le système de détection. Une fois cette fonctionnalité activée, les utilisateurs pourront vérifier si leur image apparaît dans du contenu généré par l'IA et signaler les vidéos qui enfreignent le règlement de YouTube concernant la confidentialité. La plateforme souligne que l'objectif est de réduire le risque que les spectateurs soient induits en erreur par des deepfakes usurpant l'identité de personnes réelles.

YouTube se prépare à la montée en puissance des contenus générés par l'IA et travaille à la création d'outils permettant aux créateurs et aux utilisateurs de mieux contrôler leur image. Auparavant, les plateformes de réseaux sociaux réagissaient souvent aux deepfakes uniquement après des signalements ou une couverture médiatique. YouTube souhaite désormais être plus proactif et donner aux utilisateurs les moyens de surveiller eux-mêmes ces contenus. D'après les informations communiquées à The Verge, il n'existe pas de critères stricts pour être considéré comme un créateur éligible à cet outil. Le porte-parole de YouTube, Jack Malon, a souligné que, qu'un utilisateur publie sur la plateforme depuis des années ou qu'il débute, il devrait bénéficier du même niveau de protection. Pour l'instant, cette fonctionnalité ne concerne que les visages et non les clones vocaux générés par IA, dont la popularité ne cesse de croître sur Internet. Quoi qu'il en soit, cette solution permettra aux utilisateurs soucieux de voir leur image utilisée dans des contenus falsifiés de détecter et de signaler ces vidéos sans avoir à effectuer de recherche manuelle sur la plateforme.

Les deepfakes sont de plus en plus faciles à créer et de plus en plus difficiles à distinguer des images authentiques. Ce problème touche non seulement les célébrités et les personnalités politiques, mais aussi les internautes ordinaires. Les principaux bénéficiaires seront les créateurs de contenu, les streamers, les personnalités publiques et les utilisateurs qui publient activement du contenu en ligne. Cependant, avec le développement de l'IA, des mesures de sécurité similaires pourraient devenir la norme pour tous. YouTube annonce que cette fonctionnalité sera déployée progressivement au cours des prochaines semaines. Une fois disponible, les utilisateurs la trouveront dans YouTube Studio, dans les sections « Détection de contenu » et « Ressemblance ». Ils pourront alors lancer la procédure de vérification et autoriser l'utilisation de la technologie de détection de ressemblance.