Contrairement à de nombreux gouvernements occidentaux, le gouvernement chinois ne veut pas simplement laisser libre cours au développement de systèmes dans le domaine de l'intelligence artificielle générative. À l'avenir, une licence d'État serait nécessaire, avec laquelle la Chine essaie également de censurer les systèmes d'IA. Selon le Financial Times , citant des sources proches du régulateur chinois, la Cyberspace Administration of China (CAC) souhaite créer un système dans lequel les vendeurs de modèles d'IA générative doivent obtenir une licence avant de commercialiser leurs produits. Auparavant, le CAC voulait être un peu plus détendu dans le traitement des modèles d'IA. En fait, en avril, une première ébauche des directives du gouvernement chinois pour traiter les modèles d'IA indiquait initialement que les fournisseurs devaient enregistrer leur produit dans les 10 jours suivant la publication. Maintenant, l'agence, qui est également responsable de la censure étendue d'Internet en Chine, est en train de renverser la vapeur.

Apparemment, les inquiétudes des autorités gouvernementales chinoises selon lesquelles une réglementation trop prudente des nouvelles offres soutenues par l'IA de diverses entreprises chinoises pourraient permettre la distribution de "contenus indésirables" prédominent actuellement. Dès avril, le CAC précisait dans son premier projet de régulation des systèmes d'IA qu'une chose s'applique avant tout à l'intelligence artificielle : le parti a toujours raison. Il a déclaré que le contenu de l'IA devrait "incarner les valeurs socialistes fondamentales" et non des choses qui "sapent le pouvoir de l'État, favorisent le renversement du système socialiste, incitent à la division du pays ou sapent l'unité nationale", a déclaré le rapport du Financial Times. De plus, les développeurs de modèles d'IA doivent s'assurer que les données utilisées pour former les modèles de langage sont toujours vérifiées pour "l'exactitude, la précision, l'objectivité et la diversité". Bien sûr, le gouvernement chinois est avant tout soucieux d'éviter les "hallucinations" qui surviennent avec les services d'IA générative, qui ont déjà fait sensation avec Google Bard, ChatGPT et le chatbot Bing de Microsoft . L'IA délivre des réponses erronées, insultantes voire racistes qui peuvent causer plus de dégâts qu'elles ne sont utiles. Pour cette raison également, les autorités chinoises ont clairement indiqué que les fournisseurs de services d'IA générative doivent assumer la quasi-totalité de la responsabilité du contenu généré par les systèmes. Si l'un des services, qui devient de plus en plus populaire en Chine, devait causer des problèmes de "contenu", cela devrait également signifier des effets drastiques pour les grandes entreprises chinoises de l'Internet par le biais de la répression étatique.