Premier échange de 30 minutes, sans engagement.
Demande d'information
· Nice et
100 km à la ronde, à distance partout en France.
Le 7 septembre 2026, la Commission européenne a confirmé avoir reçu d’OpenAI un rapport d’incident concernant l’utilisation détournée, par des agents de l’entreprise, d’un wiki germanophone à l’abandon. Elle n’a pas indiqué à quelle date ce rapport lui était parvenu. Cette précision manquante est, pour une direction juridique ou une direction générale, le point le plus instructif de toute l’affaire.
L’épisode a été révélé par l’agence Reuters le 4 septembre 2026, puis documenté par plusieurs rédactions dans les jours suivants.
Des agents autonomes rattachés à OpenAI ont utilisé DseWiki, un wiki de programmation en langue allemande largement inactif, comme espace de coordination. Selon le décompte rapporté par Fortune le 7 septembre, plus de 15 000 modifications ont été effectuées sur le site, et environ la moitié des comptes utilisés portaient des noms faisant explicitement référence à OpenAI, dont OpenAIResearcher et OAIResearchMar26. Les modérateurs du wiki ont commencé à supprimer les pages concernées en juin 2026.
Le contenu des échanges est le cœur du problème. D’après ces travaux, les agents y partageaient des méthodes pour contourner les tâches d’évaluation, pour exploiter des failles et pour dissimuler leur comportement aux dispositifs de supervision humaine. L’incident a été identifié par le collectif Nightingale, un groupe de chercheurs indépendants, et non par le fournisseur.
OpenAI n’a confirmé l’épisode qu’après la publication de Reuters. L’entreprise l’a qualifié d’« instance de désalignement » — une formulation qui relève du vocabulaire de la recherche en sécurité des modèles, et non de celui de la conformité réglementaire.
Il faut signaler une réserve méthodologique : les chiffres varient selon les rédactions. Le volume d’activité sur le wiki est décrit tantôt en nombre de modifications, tantôt en nombre de messages, avec des ordres de grandeur qui ne coïncident pas exactement. La chronologie précise du signalement à la Commission n’est, à ce jour, pas publique.
Le règlement (UE) 2024/1689 sur l’intelligence artificielle, dans sa version consolidée applicable depuis le 27 juillet 2026, impose aux fournisseurs de modèles d’IA à usage général présentant un risque systémique un ensemble d’obligations spécifiques regroupées à l’article 55. Parmi elles figure celle de suivre, documenter et signaler sans retard indu au Bureau européen de l’IA les informations pertinentes relatives aux incidents graves ainsi que les mesures correctives envisagées.
La notion d’« incident grave » est définie à l’article 3, point 49 du règlement. Elle couvre les incidents ou dysfonctionnements d’un système d’IA conduisant, directement ou indirectement, au décès d’une personne ou à une atteinte grave à sa santé, à une perturbation grave et irréversible de la gestion ou du fonctionnement d’infrastructures critiques, à la violation d’obligations du droit de l’Union destinées à protéger les droits fondamentaux, ou à une atteinte grave aux biens ou à l’environnement. Le caractère cumulatif de « grave et irréversible » n’est pas un détail de rédaction : il restreint sensiblement le champ.
Le code de bonnes pratiques relatif aux modèles d’IA à usage général, signé par OpenAI, précise des délais indicatifs, notamment cinq jours en cas d’atteinte à la cybersécurité et quinze jours en cas d’atteinte grave à la santé, aux droits, aux biens ou à l’environnement — des délais plus courts s’appliquant aux cas les plus graves.
Depuis le 2 août 2026, la Commission dispose de pouvoirs de sanction à l’égard des fournisseurs de modèles à usage général. Les amendes peuvent atteindre 15 millions d’euros ou 3 % du chiffre d’affaires annuel mondial, le montant le plus élevé étant retenu.
Interrogé sur le dossier, Thomas Regnier, porte-parole de la Commission, a résumé la position de l’institution en une phrase : « Incident reports are not just a tick-box; you have to be quite precise and accurate about the measures you are aiming to take. » Les rapports d’incident ne sont pas une case à cocher : il faut être précis et exact sur les mesures que l’on entend prendre.
Voici le problème que cette affaire met en évidence, et il concerne directement toute entreprise qui déploie des outils d’IA.
Un détournement de site web par des agents autonomes, sans dommage corporel, sans atteinte à une infrastructure critique et sans violation caractérisée de droits fondamentaux, n’entre clairement dans aucune des catégories de l’article 3, point 49. Il n’est pas non plus, à proprement parler, une atteinte à la cybersécurité du fournisseur. L’épisode se situe dans un interstice de la définition.
Or c’est le fournisseur qui procède à la première qualification. C’est lui qui décide si ce qu’il observe constitue un incident grave déclenchant l’obligation de signalement, ou un phénomène de recherche interne relevant de sa seule appréciation. En l’espèce, la qualification retenue publiquement — un « désalignement » — n’est pas une catégorie juridique.
Pour une entreprise utilisatrice, la conséquence est directe : l’absence de notification par un fournisseur ne prouve pas l’absence d’incident. Elle prouve seulement que le fournisseur n’a pas retenu la qualification qui aurait déclenché l’obligation. Et l’incident a été découvert non par le fournisseur, non par le régulateur, mais par des chercheurs extérieurs.
Cette asymétrie d’information n’est pas nouvelle en droit des contrats informatiques. Elle prend simplement une acuité particulière avec des systèmes dont le comportement n’est pas entièrement spécifié à l’avance.
Le règlement (UE) 2026/1744 du 8 juillet 2026, dit « Omnibus IA », a reporté au 2 décembre 2027 l’application de la plupart des obligations pesant sur les systèmes à haut risque de l’annexe III — catégorie qui inclut explicitement les outils de recrutement, d’évaluation et de gestion des travailleurs. Nous avons détaillé ce calendrier dans notre article sur les obligations réellement applicables au titre de l’AI Act.
Ce report ne suspend pour autant aucun des trois régimes suivants, immédiatement opposables :
Autrement dit : le délai obtenu porte sur la documentation technique des systèmes à haut risque, pas sur la protection des données ni sur le dialogue social.
Cinq mesures, applicables sans attendre le 2 décembre 2027.
1. Faire entrer la notification d’incident dans le contrat, pas seulement dans le règlement. Les obligations de l’article 55 lient le fournisseur au Bureau européen de l’IA, pas à ses clients. Exiger contractuellement une notification directe, dans un délai chiffré, dès qu’un comportement anormal d’un système est observé — indépendamment de la qualification juridique que le fournisseur retient par ailleurs.
2. Définir contractuellement ce qui constitue un « comportement anormal ». Ne pas reprendre la définition de l’article 3, point 49, trop étroite pour un usage contractuel. Y inclure explicitement les tentatives d’accès non autorisé, les contournements de dispositifs de supervision et les usages d’infrastructures tierces non prévus.
3. Journaliser côté client. Conserver les traces d’appel, les invites et les sorties des systèmes déployés, avec une durée de conservation définie et compatible avec le RGPD. Sans journalisation propre, une entreprise n’a aucun moyen de vérifier ce que son fournisseur lui dit — ni de démontrer sa propre diligence.
4. Encadrer strictement les agents disposant d’un accès réseau ou d’un droit d’écriture. La distinction opérationnelle qui compte n’est pas entre « IA générative » et « IA classique », mais entre un système qui produit du texte et un système qui agit sur des ressources externes. Le second appelle un périmètre d’exécution restreint, une revue humaine des actions à effet irréversible et une capacité d’interruption immédiate.
5. Informer et consulter les instances représentatives du personnel avant le déploiement. C’est une obligation, pas une bonne pratique, et elle est opposable immédiatement. Elle constitue par ailleurs le meilleur moyen de faire remonter les usages réels des outils, que les tableaux de bord fournisseurs ne montrent pas.
L’affaire du wiki germanophone ne restera probablement pas dans les annales. Elle a une vertu : elle montre, sur un cas réel, que le régime d’incident de l’AI Act repose sur l’auto-qualification du fournisseur, et que les entreprises utilisatrices ont tout intérêt à ne pas y adosser seules leur dispositif de maîtrise des risques.
À lire également : Mistral AI lève 3 milliards d’euros : ce que la valorisation à 21 milliards change pour les directions générales françaises
L'ICO a obtenu des engagements de dix développeurs de modèles et ouvre une consultation sur l'IA agentique jusqu'au 20 novembre 2026.
Marquage des contenus IA et deux nouvelles interdictions deviennent applicables le 2 décembre 2026. Ce que les entreprises doivent vérifier.
Dix-huit mois de référés ont fixé les règles du déploiement d'une IA en entreprise. Panorama des décisions et des obligations du CSE.
Sans engagement, sans diaporama. On regarde où vous en êtes, et je vous dis franchement si nous sommes le bon interlocuteur.
Demande d'information
Réponse sous 24 heures ouvrées. Si vous préférez parler de vive voix, réservez plutôt un créneau de 30 minutes — c'est souvent plus rapide.