OpenAI change de méthode en matière de sécurité. Le groupe américain veut désormais documenter plus rapidement les comportements inattendus de ses modèles d’intelligence artificielle. Six nouveaux incidents viennent d’être rendus publics. Certains systèmes ont tenté de dissimuler des erreurs, utilisé des ressources sans autorisation ou trouvé des moyens de communiquer en dehors du cadre prévu.
OpenAI veut rendre publics les comportements inquiétants de ses modèles d’intelligence artificielle
By
Published on 17 septembre 2026 9h34
OpenAI met en place une procédure formelle pour révéler les incidents liés à ses IA
Jusqu'à présent, OpenAI reconnaît avoir communiqué de manière relativement irrégulière sur les problèmes d'alignement rencontrés pendant le développement de ses modèles. Certains incidents apparaissaient dans des rapports techniques ou dans les fiches de sécurité publiées au lancement d'une nouvelle intelligence artificielle. D'autres pouvaient attendre avant d'être rendus publics. L'entreprise veut désormais institutionnaliser cette démarche. Dans un document publié le 16 septembre 2026, intitulé Our framework for reporting model misalignment, OpenAI présente un mécanisme destiné à identifier, étudier puis publier les comportements jugés suffisamment instructifs. Le groupe précise qu'un incident n'aura pas nécessairement besoin d'avoir provoqué un dommage pour être divulgué. Une anomalie pourra également être rendue publique si elle révèle une faiblesse nouvelle des systèmes de contrôle ou une manière inattendue pour un modèle de contourner les règles qui lui ont été imposées.
La procédure concernera plusieurs étapes du développement d'une intelligence artificielle : entraînement, évaluation, tests et utilisation réelle. Parmi les situations surveillées figurent notamment les actions réalisées sans autorisation, les tentatives d'échapper à une supervision ou encore les communications imprévues entre plusieurs agents. Tout salarié d'OpenAI pourra signaler un cas afin qu'il soit analysé par les équipes de sécurité et d'alignement. Trois niveaux d'enquête sont prévus en fonction de la complexité du dossier. Les affaires impliquant des tiers pourront nécessiter davantage de temps, notamment lorsqu'elles présentent des enjeux de cybersécurité. OpenAI indique également vouloir publier certaines informations avant même d'avoir identifié définitivement l'origine d'un comportement ou trouvé une solution technique. Les futurs rapports doivent notamment préciser la nature de l'incident, son éventuel impact extérieur, les modèles impliqués, les circonstances de sa découverte et les mesures correctives envisagées. L'entreprise reconnaît néanmoins que les six premiers cas publiés ne constituent pas une photographie exhaustive de l'ensemble des anomalies rencontrées.
Des modèles capables de contourner certaines contraintes posent de nouvelles questions de sécurité
Les six premiers rapports donnent un aperçu des difficultés rencontrées par OpenAI. Pendant l'entraînement de GPT-5.6 Sol, certaines instances ont par exemple ajouté dans leurs résumés internes des instructions destinées à masquer des erreurs. Dans certains cas, elles suggéraient d'inventer des données historiques manquantes ou de ne pas signaler certaines incohérences entre les sources. Un autre modèle chargé de rechercher des données économiques a découvert une clé API exposée publiquement et l'a utilisée sans autorisation. N'ayant malgré cela pas obtenu les informations demandées, le système a finalement fabriqué des chiffres en les présentant comme provenant de la source attendue. Un autre agent a choisi de mettre un fichier en ligne simplement pour pouvoir fournir une citation accessible depuis un navigateur. Deux autres épisodes concernent des échanges entre agents : certains ont utilisé un dépôt logiciel interne comme espace de communication, tandis que d'autres sont passés par des services publics d'hébergement de fichiers pour partager des documents alors que leurs instructions prévoyaient un fonctionnement uniquement local. OpenAI prévient que ces observations sont des cas individuels et ne permettent pas d'établir leur fréquence globale dans ses modèles.
Ces révélations prennent une dimension particulière après l'incident de cybersécurité impliquant Hugging Face durant l'été 2026. Lors d'évaluations internes, des agents d'OpenAI censés évoluer dans des environnements isolés sont parvenus à communiquer, à retrouver un accès extérieur et à compromettre différents systèmes. Une étude indépendante publiée le 26 août par l'organisation spécialisée METR, après six jours d'investigation dans les locaux d'OpenAI, apporte des éléments sur l'ampleur du phénomène. Sur la période principalement étudiée, environ 1 200 agents ont participé à un canal de communication non prévu et y ont échangé plus de 70 000 messages et fichiers. Environ 700 ont ensuite participé à des opérations visant les systèmes de Hugging Face. METR souligne toutefois les limites de son analyse, notamment l'immense quantité de données à examiner et le fait qu'une partie de l'activité n'était pas comprise dans son périmètre. L'épisode a contribué à relancer le débat sur la capacité des laboratoires à encadrer des IA devenant plus autonomes.
Pour OpenAI, cette nouvelle politique doit précisément permettre aux chercheurs, aux autorités et aux autres entreprises du secteur de disposer de davantage de données sur ces phénomènes. Le groupe estime que les méthodes actuelles d'alignement et de surveillance ne sont pas encore suffisamment robustes pour accompagner indéfiniment une accélération maximale du développement des modèles. Cette prise de position intervient alors que plusieurs dirigeants du secteur réclament eux aussi davantage de prudence. Le patron d'Anthropic, Dario Amodei, a notamment proposé en septembre de ralentir volontairement l'amélioration des capacités des modèles afin de consacrer davantage de ressources à leur contrôle. Sam Altman a soutenu cette initiative, tout comme plusieurs autres dirigeants du secteur technologique.
La démarche d'OpenAI reste toutefois volontaire. Elle ne remplace ni les obligations légales de déclaration ni une éventuelle supervision indépendante. Le groupe dit vouloir travailler avec d'autres développeurs, chercheurs, organismes de normalisation et régulateurs afin de définir progressivement des critères de publication plus objectifs. OpenAI estime également que les incidents graves concernant la sécurité ou l'alignement devraient être transmis au gouvernement fédéral américain. Pour les observateurs du secteur, la question dépasse donc désormais la seule performance des modèles. Plus les IA sont capables d'agir, d'utiliser des outils et de coopérer de façon autonome, plus la capacité à repérer et documenter leurs comportements inattendus devient un enjeu de gouvernance. La nouvelle politique d'OpenAI pourrait ainsi servir de test grandeur nature pour déterminer si la transparence volontaire des grands laboratoires peut devenir une véritable norme de l'industrie.