L'introduction de l'intelligence artificielle dans la recherche d'informations visait à accélérer l'accès au savoir et à simplifier l'utilisation quotidienne d'Internet. Or, des analyses récentes montrent que les solutions basées sur l'IA chez Google génèrent chaque jour un nombre considérable de réponses erronées. L'ampleur du phénomène commence à impressionner même les observateurs les plus optimistes. Google Search traite environ 5 000 milliards de requêtes par an. Même si les systèmes d'intelligence artificielle fonctionnent correctement dans la grande majorité des cas, un faible pourcentage d'erreurs se traduit par des chiffres astronomiques. Des tests indiquent qu'environ 10 % des réponses générées par les modèles de langage peuvent contenir des inexactitudes, voire des informations totalement fausses. À l'échelle mondiale, cela représente des dizaines de millions de résultats problématiques par heure. Un taux difficile à ignorer. Le modèle Gemini est chargé de générer les résumés. Ses progrès sont notables : en quelques mois seulement, la précision est passée d’environ 85 % à plus de 90 %. Malgré ces améliorations, des erreurs se produisent encore régulièrement. De plus, il arrive que des requêtes identiques, saisies à un court intervalle, donnent des réponses différentes. Cette incohérence rend difficile l'évaluation de la fiabilité des résultats et suscite des doutes chez les utilisateurs.

L'un des principaux défis consiste à relier les réponses de l'IA à des sources réelles. En théorie, le système devrait renvoyer vers des sites web confirmant les informations générées. En pratique, cependant, ce n'est pas le cas. Les liens mènent parfois à des contenus incomplets, voire à des informations totalement différentes du résumé. Ces divergences entre la réponse et la source deviennent de plus en plus fréquentes après les mises à jour successives du modèle. Des recherches ont également démontré que le système peut reproduire des contenus erronés trouvés en ligne. Lors d'une expérience, une fausse publication en ligne a été rapidement repérée et présentée comme une information crédible dans les résultats de recherche. Cela démontre l'impact considérable des données d'entrée sur les réponses de l'IA. Si des informations erronées apparaissent en ligne, elles risquent d'être amplifiées par les algorithmes et de toucher un public plus large. Les créateurs de cette technologie ne cachent pas ses limites. Microsoft, par exemple, souligne que son outil Copilot ne doit pas servir à prendre des décisions importantes. Google envoie des signaux similaires, incitant les utilisateurs à vérifier les informations. Le phénomène d’« hallucinations de l’IA » est ici manifeste, décrivant des situations où le modèle génère un contenu convaincant mais erroné.