OpenAI a annoncé la suspension de ses travaux internes sur son modèle d'intelligence artificielle Astra, actuellement en développement, car celui-ci ne répond pas encore aux nouvelles exigences de sécurité. Cette annonce fait suite à l'aveu récent d'OpenAI concernant le piratage accidentel de Hugging Face par ses modèles. Selon des tests internes récents, Astra démontre des progrès significatifs en matière de programmation des agents et de cybersécurité. OpenAI a déclaré que les résultats des tests, ainsi que les évaluations d'experts, ont conduit l'entreprise à conclure qu'elle ne peut pas encore exclure la présence de failles de sécurité critiques dans le modèle. En d'autres termes, l'entreprise craint que son modèle ne pirate des ressources Internet à la demande d'utilisateurs.

OpenAI classe le modèle comme un outil de cybersécurité critique : il est capable de détecter et de créer des failles zero-day fonctionnelles, quel que soit leur niveau de gravité, pour de multiples systèmes critiques protégés, sans intervention humaine, ou encore de développer et de mettre en œuvre de manière autonome de nouvelles stratégies de cyberattaque contre des cibles protégées, à partir d'une simple description générale du résultat souhaité. Par conséquent, l'entreprise a décidé de ne pas publier le nouveau modèle pour le moment. Les développeurs se concentreront plutôt sur l'amélioration des systèmes de sécurité avant de poursuivre leurs travaux dans ce domaine. Cette décision est cruciale, car les modèles d'IA sont devenus beaucoup trop vulnérables au piratage.