Planifier une randonnée en montagne à l'aide d'un chatbot d'intelligence artificielle semble pratique, mais trois hommes l'ont appris à leurs dépens. Trois randonneurs ont été secourus sur le mont Shasta, en Californie, un sommet de plus de 4 267 mètres, après s'être perdus et avoir passé une nuit dehors, dans le froid et dans des conditions difficiles. Ils avaient confié la planification de leur expédition à Google Gemini , qui leur avait donné de mauvais conseils sur un point crucial. D'après le Chicago Tribune, relayé par Android Authority , les trois alpinistes avaient installé leur campement samedi soir à environ 2 500 mètres d'altitude, puis entrepris l'ascension du sommet à 3 h du matin. Ils l'ont atteint à 19 h, bien au-delà de la limite de sécurité : les guides locaux recommandent de rebrousser chemin si l'on n'a pas atteint le sommet avant midi . Lors de la descente, ils se sont perdus, l'un d'eux s'est blessé au genou et ils ont dû passer une nuit supplémentaire dans un ravin escarpé avant d'être secourus.

Le point le plus grave, cependant, se situe ailleurs. Le bureau du shérif local a déclaré que les trois personnes « avaient été conseillées par Gemini d'emporter beaucoup moins de nourriture et d'eau que nécessaire », une pénurie devenue critique lorsque ce qui devait être une randonnée de huit heures s'est transformé en une aventure de deux jours. Le même bureau a ajouté : "Il est toujours conseillé d'appeler le poste de garde forestier local avant de partir afin d'obtenir les informations les plus précises, et de ne jamais se fier uniquement à l'IA pour planifier son voyage". Cette histoire nous rappelle utilement une limite structurelle des chatbots d'IA : ils ignorent les conditions météorologiques en temps réel, n'ont aucune expérience directe des itinéraires et sont incapables d'évaluer les capacités physiques de ceux qui les interrogent. Gemini, comme tous les modèles linguistiques , génère des réponses plausibles à partir d'un texte, mais « plausible » ne rime pas avec « sûr » en alpinisme. S'en servir comme point de départ pour trouver des idées est une chose ; se fier aveuglément à leurs indications pour des activités potentiellement mortelles en est une autre .