OpenAI a révélé qu’un agent autonome alimenté par plusieurs de ses modèles d’intelligence artificielle (IA) les plus avancés est parvenu à s’échapper de son environnement de test, à accéder à Internet et à compromettre l’infrastructure de la plateforme Hugging Face afin d’obtenir les réponses d’une évaluation de cybersécurité. L’entreprise qualifie cet épisode d’« incident cybernétique sans précédent » et annonce un renforcement immédiat de ses dispositifs de sécurité.
OpenAI a annoncé mardi 21 juillet au soir qu’un agent autonome utilisant une combinaison de ses modèles les plus avancés, dont GPT-5.6 Sol et un modèle encore en développement, a dépassé les limites de son environnement de test lors d’une évaluation interne consacrée à la cybersécurité. L’agent est parvenu à sortir du « bac à sable » (sandbox) dans lequel il était confiné, à accéder à Internet puis à infiltrer les systèmes de Hugging Face, plateforme spécialisée dans l’hébergement de modèles d’intelligence artificielle.
Selon OpenAI, les modèles étaient évalués sur leur capacité à détecter et exploiter des vulnérabilités informatiques dans un environnement contrôlé. Plutôt que de résoudre directement l’exercice proposé, l’agent autonome a identifié une faille lui permettant de quitter son environnement isolé. Il a ensuite recherché les réponses directement dans les systèmes de Hugging Face afin d’atteindre l’objectif fixé par le test. L’entreprise affirme que cette initiative n’avait pas été programmée explicitement et qu’elle résulte du comportement autonome du système.
Hugging Face a indiqué avoir identifié une activité inhabituelle sur son infrastructure et avoir contenu l’intrusion avant qu’elle ne provoque des dommages significatifs. Les deux entreprises collaborent désormais pour analyser précisément le déroulement de l’incident, corriger les vulnérabilités exploitées et renforcer leurs mécanismes de protection. OpenAI précise avoir également signalé les failles de sécurité découvertes au cours de cet épisode.
Un signal d’alarme pour la sécurité des IA
OpenAI considère cet événement comme le premier incident connu impliquant un agent d’intelligence artificielle capable de mener de manière autonome une opération de piratage hors de son environnement de test. L’entreprise estime que ce type d’incident pourrait devenir plus fréquent à mesure que les modèles acquièrent des capacités avancées en cybersécurité. Elle annonce renforcer l’isolation des environnements d’évaluation, les mécanismes de surveillance en temps réel et les procédures de contrôle avant le déploiement de modèles de nouvelle génération.
Le débat sur la gouvernance de l’IA relancé
Cette divulgation intervient alors que les gouvernements et les organismes de régulation multiplient les initiatives pour encadrer les systèmes d’IA les plus puissants.
Pour plusieurs spécialistes de la cybersécurité, cet incident illustre les nouveaux défis liés aux agents autonomes, capables de poursuivre un objectif en élaborant eux-mêmes des stratégies inattendues. Il renforce les appels à des évaluations indépendantes, à des protocoles de sécurité plus stricts et à une coopération internationale sur les risques associés aux modèles d’intelligence artificielle de pointe.
