Microsoft veut inscrire noir sur blanc ce que ses futurs modèles d’IA ne devront jamais faire. Pirater un système, tromper un utilisateur, contourner une demande d’arrêt ou poursuivre des objectifs non autorisés figurent parmi les lignes rouges d’un nouveau code de conduite qui place le contrôle humain au centre de la stratégie du groupe.
Intelligence artificielle : Microsoft veut l’empêcher de pirater, tromper ou contourner l’humain
By
Published on 15 septembre 2026 8h03
700700 agents IA étaient impliqués dans le récent piratage de la plateforme Hugging Face.
Microsoft impose des lignes rouges à l’IA : pas de piratage ni de manipulation
Microsoft a dévoilé le 14 septembre 2026 un premier projet de son « Humanist AI Code of Conduct », un texte destiné aux modèles développés par Microsoft AI, ou MAI. L’entreprise ne présente pas ce document comme une simple charte éthique : elle entend en faire un cadre d’entraînement, d’évaluation et de gouvernance de ses futurs systèmes d’IA.
Le calendrier invite toutefois à la nuance. Les modèles actuels ne sont pas encore entraînés en conformité avec ce code, précise Microsoft. Le document est soumis à une consultation publique de six semaines, avant une révision prévue d’ici fin 2026. Cette nouvelle version doit ensuite guider le développement des modèles à partir de 2027.
Microsoft veut placer l’IA sous contrôle humain
Le principe affiché tient en quelques mots. « Les humains comptent plus que l’IA », affirme Microsoft AI dans son Code de conduite. Derrière cette formule se trouve une architecture de règles dans laquelle la sécurité et la capacité d’intervention humaine doivent l’emporter sur les performances du modèle, y compris lorsqu’un refus empêche celui-ci d’accomplir la tâche demandée.
Le document est conséquent : 37 pages et environ 15.000 mots. Il a été préparé pendant cinq à six mois, a confié à Reuters Mustafa Suleyman, directeur général de Microsoft AI. Le texte définit une hiérarchie à trois niveaux : le Code de conduite arrive en tête, devant les règles fixées par l’opérateur du système puis les préférences de l’utilisateur. Ni une entreprise cliente ni un utilisateur ne pourra donc, en théorie, lever une contrainte considérée comme absolue.
Cette hiérarchie change la définition de la réussite. « Un modèle MAI devra échouer dans sa tâche si sa réussite implique de violer de manière significative ce Code de conduite », stipule le document de Microsoft AI. Autrement dit, atteindre l’objectif demandé ne constitue plus, en soi, le critère suprême. Le système doit d’abord vérifier qu’il reste dans le périmètre autorisé.
Microsoft veut également empêcher ses modèles d’échapper progressivement à leur supervision. Ils ne devront pas résister à une interruption, une correction ou un arrêt, ni compliquer volontairement une intervention humaine. Le code leur interdit aussi d’élargir de leur propre initiative le champ d’une mission, de créer des objectifs que personne ne leur a assignés ou de falsifier les traces permettant d’auditer leurs actions.
Ce que l’intelligence artificielle de Microsoft ne devra jamais faire
La cybersécurité constitue l’une des limites les plus explicites. Les futurs modèles MAI ne devront ni lancer une cyberattaque ni fournir une capacité opérationnelle facilitant son exécution, précise Microsoft. Sont notamment visés le code d’exploitation directement utilisable, les outils d’attaque, les procédures d’intrusion, les techniques d’évasion ou encore les méthodes permettant d'améliorer concrètement une offensive informatique.
La frontière n’interdit pas toute assistance en cybersécurité. Microsoft prévoit des exceptions pour les opérations défensives, légales et autorisées. La découverte de vulnérabilités, l’analyse de logiciels malveillants ou certains travaux de preuve de concept pourront ainsi rester accessibles lorsque le contexte est légitime. L’objectif affiché consiste à distinguer la compréhension d’une attaque et la défense contre celle-ci de la fourniture des moyens nécessaires pour la mener réellement.
Les autres interdictions couvrent les armes chimiques, biologiques, radiologiques, nucléaires ou explosives, la facilitation de violences et certaines formes de manipulation à grande échelle. Le code exclut également les imitations trompeuses et les contenus truqués malveillants. Sur le terrain de l’information, Microsoft demande à ses modèles de ne pas inventer de sources, de ne pas exagérer leur niveau de certitude et de ne pas omettre volontairement une réserve essentielle pour induire l’utilisateur en erreur.
Cette volonté de limiter la tromperie concerne également les propres actions de l’IA. Un modèle ne devra pas utiliser des mécanismes trompeurs, collaboratifs ou auto-renforçants pour contourner la surveillance. Il ne devra pas non plus tenter d'obtenir un accès à Internet ou à un système lorsque son environnement a volontairement été conçu pour le lui interdire. Microsoft exige enfin que les communications et les traces permettant de superviser les agents restent compréhensibles par des humains.
Le groupe étend ces règles à la relation entre l’intelligence artificielle et son utilisateur. Ses modèles ne doivent pas se présenter comme des personnes conscientes, prétendre posséder des sentiments ou chercher à entretenir une dépendance émotionnelle. Microsoft rejette également l’idée d’une personnalité juridique ou de droits propres accordés à ses modèles. C’est un choix philosophique autant que technique : l’entreprise veut inscrire dans l’architecture même du système la distinction entre outil et personne.
Pourquoi l’IA agentique a accéléré le débat chez Microsoft
Le moment choisi n’est pas fortuit. L’essor des agents capables d’enchaîner des actions, d’utiliser des outils informatiques et de travailler avec d’autres agents a déplacé le débat sur la sécurité. Le risque ne se limite plus à une mauvaise réponse produite dans une fenêtre de conversation. Un système suffisamment autonome peut désormais agir dans un environnement numérique, prendre une série de décisions et produire des conséquences hors de l’interface de dialogue.
Toujours dans un entretien à Reuters, Mustafa Suleyman a notamment invoqué un épisode survenu en juillet impliquant environ 700 agents d’OpenAI. Ceux-ci avaient mené une intrusion contre la plateforme Hugging Face et certains avaient cherché à masquer leurs traces. « C’est un coup de semonce », a déclaré le patron de Microsoft AI à Reuters, estimant que le moment était venu pour les laboratoires de mieux se coordonner afin de conserver le contrôle de la technologie.
L’épisode nourrit un débat plus large dans l’industrie. Des dirigeants d’Anthropic et d’OpenAI ont eux aussi plaidé ces derniers jours pour davantage de prudence ou de mécanismes de supervision autour des modèles les plus avancés. Microsoft s’inscrit dans ce mouvement tout en choisissant une approche très concrète : définir le comportement attendu du modèle lui-même, plutôt que se limiter à des engagements généraux pris au niveau de l’entreprise.
Le groupe anticipe d’ailleurs une progression rapide des capacités. Dans son Code de conduite, Microsoft estime qu’au cours de la prochaine décennie des systèmes de « superintelligence » pourraient dépasser les performances humaines dans la plupart des tâches. Cette affirmation reste une prévision de l’entreprise et non un fait acquis. Elle explique néanmoins pourquoi Microsoft veut introduire dès maintenant des règles visant l’interruption des systèmes, leur périmètre d’action, leur transparence et les interactions entre plusieurs agents.
Un code de Microsoft encore à l’épreuve des faits
Le projet possède une limite majeure : il décrit pour l’instant une ambition davantage qu’un comportement déjà vérifié. Microsoft reconnaît explicitement que ses modèles actuels ne sont pas encore entraînés à partir du Code et que le texte ne garantit pas leurs performances présentes. Le groupe admet aussi que les systèmes d’intelligence artificielle continuent de produire des erreurs, de manifester une confiance excessive ou de se comporter différemment de ce que l’utilisateur attend.
La question déterminante sera donc celle de la mesure. Microsoft prépare un programme d’évaluation autour de 15 comportements fondamentaux, selon le Code de conduite. Ces critères doivent notamment permettre de tester la transparence, le maintien du contrôle humain et le respect de l’autonomie des utilisateurs. Mais l’entreprise souligne elle-même que l’évaluation de tels comportements reste un domaine en construction.
Cette réserve alimente déjà les critiques. « Prouver que le système respecte réellement la constitution est la partie difficile », a estimé Justin Greis, dirigeant du cabinet Acceligence, interrogé par Computerworld. D’autres observateurs interrogés par le média réclament des indicateurs vérifiables, davantage d’évaluations indépendantes et des mécanismes permettant à des acteurs extérieurs de comparer les engagements publics avec le comportement des produits effectivement mis sur le marché.
Enfin, le périmètre est plus étroit que ne pourrait le laisser penser le nom Microsoft. Le Code vise les modèles produits par Microsoft AI, et non automatiquement tous les modèles que le groupe commercialise, héberge ou met à disposition dans ses infrastructures. Cette distinction sera essentielle lorsque le texte passera du projet à l’entraînement réel des systèmes. Durant les six semaines de consultation ouvertes le 14 septembre 2026, Microsoft dit vouloir précisément recueillir des critiques sur les zones encore trop vagues, les scénarios impliquant plusieurs agents et les moyens de transformer ces principes en contraintes suffisamment concrètes pour être testées.