Dans un lycée de Floride, un système de détection d'armes basé sur l'intelligence artificielle a confondu une clarinette avec une arme à feu, provoquant l'arrêt complet du dispositif de sécurité et le confinement de l'établissement. L'incident s'est produit mardi au lycée Lawton Chiles d'Oviedo. Une alarme automatique a déclenché l'alerte rouge à l'école, et l'administration ainsi que la police ont été dépêchées sur place. Ce n'est qu'après une enquête approfondie qu'il est apparu clairement que la menace présumée provenait d'un élève qui transportait un instrument de musique. La directrice de l'école, Melissa Laudani, a informé les parents des événements, soulignant qu'il n'y avait aucune menace réelle pour les élèves ou le personnel. Elle a également encouragé les jeunes à discuter avec eux des comportements susceptibles d'être mal interprétés par les systèmes de sécurité de l'établissement. Ses paroles étaient censées rassurer les parents, mais le simple fait de déclencher l'alarme a soulevé des inquiétudes et des questions quant à la fiabilité de la technologie, qui détermine de plus en plus le fonctionnement quotidien des établissements d'enseignement aux États-Unis.

Les écoles publiques du comté de Seminole utilisent la plateforme ZeroEyes, un système commercial de détection des menaces basé sur l'analyse vidéo en temps réel. Cette technologie s'intègre aux caméras de surveillance existantes et utilise des algorithmes de vision par ordinateur entraînés sur des centaines de milliers d'images représentant différents types d'armes à feu. L'idée est que, lorsque l'algorithme détecte une arme potentielle, l'enregistrement soit envoyé aux analystes du centre de surveillance de l'entreprise, où l'alerte doit être confirmée avant d'avertir l'établissement scolaire et les services d'urgence. Dans le cas de l'incident d'Oviedo, cette étape n'a pas empêché le déclenchement des procédures d'urgence. Des documents publics indiquent que le district scolaire verse environ 250 000 $ pour un abonnement au système ZeroEyes. Cependant, les responsables de l'éducation n'ont pas précisé si cette technologie a déjà permis de déjouer une menace réelle. Les statistiques officielles concernant le nombre de fausses alertes et les taux de détection d'armes font également défaut. L'entreprise affirme être présente dans 43 États et collaborer avec des dizaines de districts scolaires, notamment en Floride, mais les rapports publics sur la fiabilité du système restent limités.

Suite à cet incident, les parents réclamant une plus grande transparence se font de plus en plus entendre. Des questions se posent quant aux réels avantages de la mise en place de ce système et quant à la fiabilité des informations reçues par les établissements scolaires pour en évaluer le fonctionnement. Les critiques soulignent que l'absence d'audits indépendants favorise une confiance aveugle dans cette technologie. Les analystes de la sécurité publique affirment que de telles solutions peuvent créer une fausse impression de contrôle plutôt que de réduire réellement le risque de violence. Les fausses alertes fréquentes entraînent du stress, des perturbations des activités et des interventions inutiles des forces de l'ordre. Les organisations de défense des droits civiques alertent depuis longtemps sur le recours croissant à la surveillance par intelligence artificielle (IA) dans les établissements scolaires. Selon les experts, les systèmes générant de faux positifs pourraient exposer les élèves à des confinements répétés et à une présence policière accrue, ce qui nuirait à la sécurité et au climat d'apprentissage. L'affaire d'Oviedo est venue s'ajouter à ce débat, illustrant la facilité avec laquelle les algorithmes peuvent confondre des objets du quotidien avec de véritables menaces.