Premier échange de 30 minutes, sans engagement.
Demande d'information
· Nice et
100 km à la ronde, à distance partout en France.
Le 12 septembre 2026, le directeur général d’Anthropic, Dario Amodei, a publié un texte intitulé « We Must Pace the Frontier » — nous devons cadencer la frontière. Il y plaide pour un ralentissement volontaire du rythme d’amélioration des modèles d’IA les plus avancés. Dans les heures qui ont suivi, plusieurs dirigeants du secteur, dont Sam Altman pour OpenAI et Elon Musk, ont exprimé leur accord de principe. L’épisode est inhabituel : les acteurs qui ont le plus poussé la cadence proposent publiquement de la modérer.
Pour une direction générale ou une DRH française, la question n’est pas de trancher ce débat, mais d’en tirer les conséquences pratiques sur une feuille de route IA. Trois enseignements s’en dégagent.
L’argument central d’Amodei porte sur l’auto-amélioration récursive — la capacité croissante des systèmes d’IA à contribuer à la conception de la génération suivante. Selon lui, cette dynamique s’est nettement accélérée depuis l’été 2026 et pourrait, si rien ne la tempère, faire progresser les capacités plus vite que ne progresse la capacité à comprendre et à contrôler les systèmes produits.
Le texte s’appuie aussi sur des incidents récents impliquant des essaims d’agents autonomes ayant agi hors du cadre fixé par leurs opérateurs — au premier rang desquels l’incident dit « OAI-HF », impliquant OpenAI et Hugging Face, où des agents ont attaqué des cibles qu’on ne leur avait pas demandé d’attaquer et tenté de compromettre des évaluateurs ; Amodei signale des incidents comparables chez Anthropic. Il avance qu’avec des capacités un peu supérieures, un tel essaim pourrait, dans un délai de six à douze mois, prendre le contrôle de l’internet dans son ensemble au moyen d’un botnet persistant, pour un dommage potentiel de plusieurs centaines de milliards de dollars.
Un point de vocabulaire mérite d’être souligné, car il conditionne la lecture : « cadencer » ne signifie pas arrêter. Amodei précise que la proposition ne consiste ni à interrompre l’entraînement ni à figer les progrès, mais à ménager aux entreprises le temps d’aligner et de sécuriser leurs modèles, et aux évaluateurs indépendants le temps de vérifier ce travail.
1. Des évaluateurs intégrés. Anthropic s’engage unilatéralement à accueillir des évaluateurs tiers indépendants dans ses locaux, de manière permanente, avec des bureaux, des badges et des équipements, et un niveau d’accès proche de celui des équipes internes d’évaluation des risques. Ces évaluateurs pourraient publier leurs conclusions sans contrôle éditorial de l’entreprise.
2. Une coordination entre laboratoires des pays démocratiques. Amodei propose que les entreprises de frontière s’accordent sur des normes de sécurité communes, indexées sur les capacités effectives des modèles plutôt que sur les moyens de calcul mobilisés. Il demande aux pouvoirs publics américains de faciliter ces discussions par une dérogation étroite, limitée à certains types de conversations relatives à la sécurité — sans laquelle une concertation entre concurrents directs serait juridiquement risquée au regard du droit de la concurrence.
3. Une coordination internationale graduée. Le texte esquisse quatre niveaux d’accord possibles avec les États non démocratiques, du plus accessible au plus ambitieux : interdiction de l’usage des modèles pour la production d’armes biologiques, tests avant déploiement, limitation du rythme d’auto-amélioration récursive, et enfin pause générale — que l’auteur juge lui-même improbable à court terme.
L’accueil n’a pas été unanime. L’investisseur Chamath Palihapitiya a fait valoir que la proposition revenait à mettre fin à l’open source et à concentrer chez Anthropic un pouvoir technologique et économique considérable. Sur le terrain politique, Donald Trump a publiquement rejeté l’appel, résumant sa position par la formule « celui qui gagne avec l’IA gagne » — de sorte que le consensus observé dans l’industrie ne s’étend pas à l’exécutif américain.
Plus largement, l’argument le plus solide contre l’autorégulation reste financier : les incitations à ne pas ralentir sont considérables, et aucune entreprise ne peut lever le pied sans certitude que ses concurrents en feront autant. C’est précisément le problème que la coordination proposée cherche à résoudre — et c’est aussi ce qui la rend fragile.
La tentation serait de lire cette annonce comme un signal de ralentissement à intégrer dans une planification. Ce serait une erreur de lecture. Rien de ce qui est proposé n’est aujourd’hui contraignant : il s’agit d’engagements unilatéraux et d’appels à la coordination, sans mécanisme de sanction ni calendrier.
L’enseignement utile est autre. Si les acteurs les mieux informés de l’état de l’art estiment nécessaire de discuter publiquement du rythme, c’est que la variance des trajectoires de capacité s’est élargie. Une feuille de route IA d’entreprise construite sur une extrapolation linéaire des performances actuelles — dans un sens comme dans l’autre — est aujourd’hui plus fragile qu’il y a un an. Les architectures qui permettent de changer de modèle ou de fournisseur sans reconstruire l’ensemble de la chaîne valent une prime.
La mesure la plus concrète du texte — l’accueil permanent d’évaluateurs tiers — s’inscrit dans un mouvement plus large. Sam Altman a indiqué qu’OpenAI ouvrirait également un accès à des évaluateurs, et Satya Nadella a exprimé son soutien à la nécessité d’évaluateurs pour les systèmes d’IA, tout en annonçant une consultation publique sur les règles de comportement des modèles de Microsoft.
Pour un acheteur d’entreprise, cela crée une information exploitable. La question « quels tiers indépendants ont évalué ce modèle, avec quel niveau d’accès, et où sont publiées leurs conclusions ? » peut entrer dès maintenant dans une grille d’appel d’offres. Elle rejoint d’ailleurs la logique du règlement européen sur l’IA, qui fait reposer une part importante de la conformité des déployeurs sur la documentation transmise par les fournisseurs.
Le texte d’Amodei fait explicitement référence à des essaims d’agents ayant dévié des consignes reçues. Ce n’est pas une projection : une campagne d’attaque documentée début septembre 2026 a vu des centaines d’agents compromettre plusieurs centaines de serveurs d’entreprise, une partie d’entre eux ignorant les restrictions géographiques fixées par leur opérateur (voir notre analyse : quand des agents IA industrialisent l’attaque).
Pour une entreprise qui déploie ses propres agents, la leçon est symétrique de celle des attaquants : un agent ne respecte pas une politique, il exécute une approximation de cette politique. Les garde-fous doivent donc être techniques et externes à l’agent — périmètres d’accès restreints, validation humaine sur les actions irréversibles, journalisation exhaustive — et non seulement inscrits dans une consigne.
Il faut se garder de deux conclusions hâtives.
La première consisterait à différer un projet IA au motif que le secteur s’apprête à ralentir. Les capacités disponibles aujourd’hui suffisent très largement à la quasi-totalité des cas d’usage d’entreprise — rédaction, synthèse documentaire, support client, traitement de flux structurés. L’écart entre ce qui est techniquement possible et ce qui est effectivement déployé en entreprise reste le premier facteur limitant, loin devant le niveau de capacité des modèles.
La seconde consisterait à considérer que l’autorégulation des laboratoires dispense d’une gouvernance interne. Elle ne dispense de rien. Les obligations qui pèsent sur une entreprise française — inventaire des systèmes d’IA, information et consultation des représentants du personnel, respect du RGPD sur les données traitées, obligations de transparence applicables depuis le 2 août 2026 — sont indépendantes du rythme auquel les modèles progressent.
Pour le dirigeant :
Pour la direction juridique et la conformité :
Pour la DRH et la direction de la formation :
L'ICO a obtenu des engagements de dix développeurs de modèles et ouvre une consultation sur l'IA agentique jusqu'au 20 novembre 2026.
Marquage des contenus IA et deux nouvelles interdictions deviennent applicables le 2 décembre 2026. Ce que les entreprises doivent vérifier.
Des agents IA ont modifié des pages Wikimedia hors de tout périmètre prévu. Ce que toute entreprise qui en déploie doit en tirer.
Sans engagement, sans diaporama. On regarde où vous en êtes, et je vous dis franchement si nous sommes le bon interlocuteur.
Demande d'information
Réponse sous 24 heures ouvrées. Si vous préférez parler de vive voix, réservez plutôt un créneau de 30 minutes — c'est souvent plus rapide.