De nos jours, il est de plus en plus facile de télécharger des applications qui intègrent l'intelligence artificielle générative sur votre appareil et, comme pour toute nouvelle technologie, il est important qu'il y ait un engagement à limiter son utilisation inappropriée . C'est précisément pour cette raison que Google a fait savoir hier que les applications capables de générer du contenu via l'IA devront disposer d'un moyen de signaler le matériel offensant . Les développeurs devront implémenter un bouton spécial pour permettre aux utilisateurs de signaler le contenu inapproprié et de garantir que leur application reste sur le Play Store . Cette mise en œuvre devrait devenir obligatoire à partir du début de l'année prochaine . Selon Google, la nouvelle politique n'affectera pas les applications qui utilisent l'intelligence artificielle uniquement pour résumer du matériel (comme des livres) et les applications conçues pour la productivité. Au lieu de cela, les chatbots , les applications qui génèrent des images via l'IA et celles qui permettent la création de contenu vocal ou vidéo de personnes réelles, seront donc concernées . Il est clair qu'il est important pour l'entreprise de Mountain View de cibler les contenus extrêmement problématiques tels que les deepfakes sexuels non consensuels, les escroqueries utilisant des inscriptions de personnes réelles, les contenus électoraux trompeurs et les applications d'IA générative « destinées avant tout à être sexuellement gratifiantes » .

Pour Google, cependant, étant donné que l'intelligence artificielle générative est "une catégorie d'applications en évolution rapide" , de nouvelles révisions de ses politiques ne peuvent être exclues pour s'adapter aux progrès continus de la technologie en question. En attendant, la société travaille également sur les autorisations du Play Store, limitant l’immensité des données auxquelles les applications ont accès comme :