Resume executif
Le 4 juillet 2026, des chercheurs ont porte devant l’Organisation des Nations unies (ONU, l’organisation mondiale qui reunit les Etats) une alerte grave. Certains modeles d’intelligence artificielle les plus puissants seraient devenus, selon eux, difficiles a controler, voire ingerables. Le mot est fort. Il deplace le debat. L’IA ne serait plus seulement une affaire d’innovation et de productivite. Elle deviendrait une source de risque systemique, c’est a dire un risque capable de se propager a toute l’economie ou a toute la societe, comme une crise financiere ou un accident nucleaire.
Pour un dirigeant, ce signal change la donne. Il annonce un durcissement rapide des attentes des Etats, des autorites de supervision (les organismes publics qui surveillent un secteur) et des investisseurs. La question n’est plus de savoir si vous utilisez l’IA, mais si vous en maitrisez les risques. Ma conviction est simple. Les conseils d’administration doivent traiter les modeles frontiere (les systemes d’IA les plus avances et les plus generalistes) comme un risque de niveau strategique, au meme titre que la cybersecurite ou la continuite financiere. Cela suppose de cartographier vos usages critiques, de securiser vos contrats, et de ne plus dependre aveuglement d’un seul fournisseur.
Constat
Le 4 juillet 2026, une alerte relayee autour de l’ONU decrivait des modeles d’IA devenus ingerables. Le terme merite une definition claire. Un modele ingerable est un systeme dont le comportement devient difficile a prevoir, a corriger ou a arreter par ceux qui l’exploitent. Ce n’est pas de la science-fiction. C’est un constat technique sur la complexite croissante des systemes frontiere.
Ce signal ne surgit pas dans le vide. Il s’inscrit dans un debat deja ouvert a Geneve. Le sommet AI for Good, qui reunit chaque annee acteurs techniques et diplomates, devait justement evoquer l’explosion des capacites de ces systemes. Geneve devient ainsi le lieu ou se croisent l’enthousiasme technologique et l’inquietude sur la maitrise.
Du cote des acteurs eux-memes, le sujet de la souverainete et de la securite monte. Une enquete relayee dans l’ecosysteme technique indique que plus de cinquante acteurs de la tech ont exprime leurs vues sur la securite et la souverainete de l’IA. Ce n’est plus un sujet de niche. C’est une preoccupation partagee. Enfin, la question de la dependance aux fournisseurs se concretise. La reflexion sur les modeles de licence et le rapport aux fournisseurs d’IA montre que la relation contractuelle devient un point de vigilance strategique.
Analyse
Il faut lire cette alerte avec du recul. Un signal isole ne fait pas une politique publique. Mais il agit comme un revelateur. Il legitime une idee que les regulateurs murissaient deja. Certains systemes d’IA appellent un traitement special, distinct de l’immense majorite des applications ordinaires. C’est exactement la logique retenue par l’Union europeenne dans son reglement sur l’IA, qui distingue les systemes selon leur niveau de risque et prevoit des obligations renforcees pour les modeles les plus puissants.
La comparaison la plus utile n’est pas technologique. Elle est financiere. Apres la crise de 2008, les Etats ont invente la notion d’etablissement systemique, c’est a dire une banque si grande et si connectee que sa chute menacerait tout le systeme. On leur a impose une surveillance renforcee, des reserves de securite et des plans de resolution. Le debat actuel sur les modeles frontiere suit la meme trajectoire intellectuelle. On passe d’une logique de produit a une logique d’infrastructure critique. Et alors ? Cela signifie que les regles ne viseront plus seulement l’usage que vous faites de l’IA, mais la nature meme des modeles que vous employez.
Pour les gouvernements, l’enjeu est double. D’abord, la souverainete. Un Etat qui depend d’un modele etranger ingerable perd une part de sa capacite d’action. La montee du theme de la souverainete numerique parmi les acteurs techniques traduit cette prise de conscience. Ensuite, la cooperation. Un risque systemique ne connait pas les frontieres. Aucun Etat ne peut le traiter seul. D’ou l’importance des enceintes multilaterales, ONU, G7, OCDE, ou se dessine peu a peu une gouvernance partagee des systemes les plus puissants.
Pour les entreprises, la lecture est plus concrete. Le risque n’est pas seulement technique. Il est contractuel, reputationnel et strategique. Une entreprise qui a confie une fonction vitale a un modele unique s’expose a trois dangers. Le premier est la defaillance technique du modele. Le deuxieme est une restriction reglementaire soudaine qui limiterait son usage. Le troisieme est une dependance economique, ou le fournisseur dicte ses conditions. La reflexion croissante sur les licences et la relation aux fournisseurs montre que ce risque de captivite est desormais identifie.
Un mot de prudence s’impose. Le terme ingerable doit etre manie avec soin. Il ne faut ni le minimiser ni en faire un argument de panique. Mon role de conseil est de vous inviter a le traduire en questions operationnelles. Que se passe-t-il si le modele que j’utilise se comporte de facon imprevue ? Ai-je une alternative ? Puis-je l’arreter sans paralyser mon activite ? Ce sont ces questions, et non la charge emotionnelle du mot, qui doivent guider la decision.
Implications politiques
Pour l’action publique, l’alerte accelere une tendance de fond. Les Etats vont chercher a instaurer des regimes de supervision renforcee pour les systemes d’IA a haut risque. Concretement, cela signifie des obligations de transparence imposees aux fournisseurs, des tests de securite avant mise sur le marche, et une capacite pour l’autorite publique d’intervenir. On peut anticiper que l’Union europeenne affinera l’application de son cadre existant, tandis que l’ONU et le G7 chercheront a batir un socle commun minimal. La diplomatie technologique depuis Geneve, ou se tiennent des rendez-vous comme AI for Good, jouera un role central pour eviter une fragmentation des regles.
Un point de vigilance concerne le Sud global. Un regime de supervision tres exigeant, pense par et pour les grandes puissances technologiques, risque d’exclure les pays qui ne disposent ni des modeles ni des capacites de controle. La gouvernance de l’IA doit integrer cette dimension d’equite, sous peine de creuser une nouvelle fracture numerique. C’est un enjeu diplomatique autant qu’ethique.
Pour les entreprises, les implications sont directes et immediates. Premierement, la responsabilite des conseils d’administration s’elargit. La maitrise des risques lies aux modeles frontiere devient un sujet de gouvernance, pas seulement une affaire de direction technique. Un administrateur qui ignore ce risque expose l’organisation, et potentiellement lui-meme, a une mise en cause future. Deuxiemement, les attentes des investisseurs vont evoluer. La solidite de votre gouvernance de l’IA deviendra un critere d’evaluation, au meme titre que vos engagements en matiere de responsabilite d’entreprise. Troisiemement, la strategie d’approvisionnement doit changer. Dependre d’un unique fournisseur devient un risque que ni un regulateur ni un investisseur ne verront plus d’un bon oeil.
Recommandations
Voici les actions que je recommande d’engager, par ordre de priorite, aux dirigeants comme aux responsables publics.
- Cartographier vos usages critiques d’IA sous quatre-vingt-dix jours. Identifiez ou un modele frontiere est utilise dans une fonction vitale de votre organisation. Sans cette carte, vous ne pouvez ni evaluer le risque ni le reduire. C’est le point de depart obligatoire.
- Porter le sujet au conseil d’administration. Inscrivez la maitrise des risques lies aux modeles frontiere a l’ordre du jour, au meme niveau que la cybersecurite. Nommez un responsable clair. Documentez les decisions. Cette tracabilite vous protegera en cas de mise en cause future.
- Structurer une strategie multi-fournisseurs. Ne confiez jamais une fonction essentielle a un seul modele. Prevoyez au moins une alternative testee. Cette diversification vous met a l’abri d’une defaillance ou d’un changement de conditions de votre fournisseur.
- Preparer des scenarios de coupure et un plan de continuite. Simulez ce qui se passe si un modele devient indisponible ou est restreint par la reglementation. Un plan de continuite d’activite (le dispositif qui permet de continuer a fonctionner en cas de crise) doit integrer ce cas de figure.
- Exiger la transparence de vos fournisseurs par contrat. Introduisez des clauses imposant des informations sur la securite, les tests et les limites connues du modele. Ajoutez des codes de conduite internes encadrant l’usage. Anticipez ainsi les futures obligations de supervision renforcee.
- Pour les responsables publics, investir dans la capacite de controle et la cooperation. Un regime de supervision n’a de valeur que si l’autorite dispose des competences pour l’exercer. Renforcez ces capacites et arrimez-les aux enceintes multilaterales, en veillant a inclure les pays du Sud global.
Le mot ingerable est un avertissement, pas une fatalite. Ceux qui structurent des maintenant leur gouvernance de l’IA transformeront ce risque en avantage. Ils inspireront confiance a leurs regulateurs, a leurs investisseurs et a leurs clients. C’est la, plus que dans la course a la puissance, que se jouera la difference.