L’IA n’a pas besoin de meilleures manières. Elle a besoin d’une constitution.

1. Les questions récurrentes qui sont importantes, mais souvent posées de manière trop étroite

« L’IA remplacera-t-elle tous les emplois ? »

C’est une question récurrente classique. Elle revient constamment parce qu’elle condense la peur, l’économie et l’avenir. Dans le débat public, elle est généralement posée en termes de tout ou rien : chômage de masse ou essor de la productivité. À mes yeux, cette polarisation est trop grossière, car la réalité est plus contradictoire et dépend fortement de la réaction des personnes, des institutions et des marchés. Et même l’IA ne le sait pas.

La question passe à côté du sujet parce qu’elle se concentre trop sur les emplois et trop peu sur le jugement, la responsabilité et la forme du travail. La question plus profonde n’est pas seulement de savoir si les personnes seront remplacées, mais si leur rôle dans les décisions, l’interprétation, la responsabilité et le jugement professionnel sera vidé de sa substance. L’IA ne remplace pas simplement les expertes et experts. Elle modifie les conditions dans lesquelles le jugement humain peut encore produire un effet.

« L’IA est-elle neutre ou biaisée ? »

C’est également une question récurrente. Le biais — dans le contexte de l’IA, cela signifie qu’un système n’évalue, ne classe ou ne recommande pas de manière neutre, mais privilégie certains schémas, groupes, points de vue ou résultats, souvent sans que cela soit ouvertement visible — est à juste titre très discuté. Mais l’opposition « neutre ou partiale » est elle-même déjà trop simpliste. L’IA n’est ni neutre ni nécessairement biaisée de manière irréparable. En tant que système sociotechnique, elle est façonnée par les données, les objectifs, le contexte d’utilisation et les décisions institutionnelles.

La question passe souvent à côté du sujet parce qu’elle fait comme si le problème était avant tout une propriété du modèle. En réalité, il s’agit fréquemment d’un problème de choix de conception, de politique des données, d’organisation, de logique d’utilisation et d’absence de reddition de comptes. Le biais est important. Mais la question sous-jacente est en réalité la suivante : qui définit l’ordre dans lequel ce système porte des jugements ?

« Peut-on expliquer l’IA ou est-elle une Black Box ? »

Cette question aussi est importante et souvent polarisée à tort. Le débat public oscille entre deux extrêmes : transparence totale ou incompréhensibilité totale. Pourtant, l’explicabilité n’échoue pas uniquement à cause de la technologie, mais aussi en raison de choix de conception et de gouvernance.

La question est posée en termes techniques et non institutionnels. La vraie question n’est pas seulement de savoir si un modèle est explicable, mais pour qui, dans quel contexte, avec quelle possibilité d’intervention et sous quelle responsabilité.

2. Les questions récurrentes qui détournent du cœur du sujet

« L’IA deviendra-t-elle consciente ? »

C’est probablement l’un des plus puissants aimants discursifs qui soient. Conscience, sensibilité, conscience de soi, statut de personne — tout cela attire l’attention comme le réfrigérateur m’attire la nuit.

La question est philosophiquement légitime. Mais dans le débat public, elle est souvent posée trop tôt et évince alors des questions plus urgentes concernant le pouvoir, les institutions, l’attention, la dépendance et la responsabilité.

Nous spéculons sur une éventuelle vie intérieure alors que des systèmes réels influencent déjà les décisions, orientent l’attention, façonnent la communication et soulagent ou évincèrent le jugement humain. La question « L’IA est-elle consciente ? » peut être intellectuellement stimulante. Mais elle constitue souvent un problème de luxe tant que nous n’avons même pas clarifié le rôle qu’une IA dépourvue de conscience peut jouer dans la vérité, le pouvoir et la décision. Autrement dit : ne devrions-nous pas commencer par définir ce qu’est véritablement la conscience ?

« La superintelligence est-elle le véritable problème ? »

C’est également une question récurrente. Une partie du débat public est régulièrement dominée par les risques extrêmes à long terme. Ces questions ne sont pas inventées, et même des protagonistes de premier plan mettent en garde contre de très grands risques futurs.

Mais cette question passe elle aussi souvent à côté du sujet parce qu’elle détourne l’attention des problèmes de pouvoir et de gouvernance déjà actifs aujourd’hui. Les débats considèrent l’IA soit comme un monstre existentiel lointain, soit comme un outil neutre, et comprennent mal les systèmes existants qui produisent déjà des effets juridiques et sociaux.

La superintelligence lointaine n’est pas le seul problème. Le plus grand problème est peut-être que nous sous-estimons l’IA actuelle parce qu’elle ne paraît pas encore divine.

« L’IA n’est-elle qu’un Tool ? »

Cela semble inoffensif, mais c’est en soi l’un de ces présupposés récurrents. Cette vision est trop étroite : l’IA n’est pas seulement du code ou des mathématiques, mais un système sociotechnique conçu par des humains, intégré dans des organisations, des flux de données, des conséquences juridiques et des rapports de pouvoir.

Un marteau ne modifie pas en secret l’attention, la plausibilité, les décisions administratives et les routines cognitives. L’IA le fait de plus en plus.

3. Les questions qui touchent juste, mais restent superficielles

« Comment lutter contre la désinformation et les Deepfakes ? »

C’est une question récurrente très réelle et parfaitement légitime. Le Global Risks Report 2026 continue de décrire la mésinformation et la désinformation comme étroitement liées aux risques technologiques et sociaux ; les médias synthétiques assistés par l’IA peuvent aggraver cette situation. [2]

Pourquoi la question est souvent trop courte : elle se concentre sur les contenus et trop peu sur l’attention, la persuasion et les infrastructures. Le problème ne réside pas seulement dans les faux contenus, mais dans des systèmes qui utilisent des profils psychologiques, des déclencheurs émotionnels et des logiques d’engagement pour orienter les comportements.

La question plus profonde ne serait pas seulement : « Qu’est-ce qui est faux ? », mais : qui acquiert du pouvoir sur ce qui est vu, ressenti et partagé ?

« Comment réglementer correctement l’IA ? »

C’est également une question récurrente centrale. Mais « plus ou moins de réglementation ? » est trop simpliste. Les dérives résultent souvent de prémisses erronées, et pas seulement d’un manque de dispositions légales.

La question est posée en termes trop juridiques et pas assez civilisationnels. La réglementation est importante. Mais si elle examine uniquement les classes de risque, les contrôles de sécurité et la documentation, la question plus profonde manque : que faut-il protéger en matière de faculté de jugement, d’écologie de la vérité et de contre-pouvoir institutionnel ?

4. Les questions qu’il faudrait réellement poser

C’est là que se trouve, à mes yeux, le véritable angle mort. Le débat actuel déplace déjà son attention dans cette direction, notamment lorsque l’IA n’est plus décrite comme un simple logiciel, mais comme une infrastructure cognitive. [1]

• Première question — non pas : « L’IA est-elle assez intelligente ? », mais : quel rôle l’IA peut-elle seulement jouer dans la vérité et la décision ?

• Deuxième question — non pas : « L’IA a-t-elle des biais ? », mais : qui construit l’ordre dans lequel elle juge, établit des priorités et classifie ?

• Troisième question — non pas : « L’IA est-elle seulement un Tool ou une menace ? », mais : comment l’IA modifie-t-elle les conditions dans lesquelles les personnes perçoivent, vérifient et agissent ?

• Quatrième question — non pas : « Comment empêcher les Fakes ? », mais : comment protéger l’écologie sociale de la vérité — témoignage, débat, correction, confiance dans les sources et temps nécessaire à la vérification ?

• Cinquième question — non pas : « L’IA nous remplacera-t-elle ? », mais : quelles formes de jugement, de responsabilité et de relation ne doivent pas être absorbées par une automatisation lisse ?

• Sixième question — non pas : « Peut-on expliquer l’IA ? », mais : pour qui doit-elle être explicable, avec quels droits d’opposition, de correction et d’intervention ?

• Septième question — non pas : « Comment rendre l’IA plus utile ? », mais : comment empêcher que l’utilité ne bascule dans une dépendance invisible ?

• Huitième question — non pas : « Comment protéger les personnes de l’IA ? », mais : comment protéger aussi les personnes contre la perte de leur propre faculté de jugement, de leur capacité à supporter la friction et de leur autonomie cognitive ?

Ce dernier déplacement apparaît désormais dans le débat public : l’IA est décrite comme la « default layer of human cognition ». La question de la faculté de jugement humaine et de la résilience cognitive passe ainsi au premier plan. [1]

5. Ma synthèse

Les questions publiques récurrentes concernent les emplois, les biais, la Black Box, les Deepfakes, la conscience, la superintelligence et la réglementation.

La plupart ne sont pas erronées. Mais beaucoup sont trop étroites, posées trop tard ou mal cadrées. Elles examinent soit un avenir spectaculaire, soit des propriétés techniques isolées. Ce qui reste souvent dans l’ombre, c’est l’IA en tant qu’infrastructure sociotechnique de pouvoir et de vérité qui façonne déjà les comportements, l’attention, la plausibilité et le jugement.

La formulation la plus tranchante serait :

Idée directriceLe débat public sur l’IA demande trop souvent ce qu’est l’IA, et trop rarement quel ordre elle crée.

Ou, plus tranchant encore :

Idée directriceDe nombreuses questions récurrentes tournent autour de la conscience, des emplois ou des Fakes. Mais le véritable cœur du problème pourrait se trouver ailleurs : dans l’attention, la dépendance, la faculté de jugement et la question de savoir qui construit la nouvelle infrastructure du réel.

Car la véritable question n’est plus depuis longtemps de savoir si l’IA est impressionnante. Elle l’est. Elle n’est plus non plus de savoir si elle comporte des risques. Elle en comporte. Et nous en parlons comme si notre vie en dépendait. C’est possible, mais pas certain. Ou comme s’il s’agissait de savoir si un chatbot a passé une mauvaise journée aujourd’hui.

Quelle est alors la véritable question ? Pour moi, c’est celle-ci :

Idée directriceLa gouvernance de l’IA n’est pas seulement une question d’éthique. C’est la volonté de survie organisée d’une espèce qui produit elle-même, pour la première fois, une possible intelligence qui lui succédera.

Nous ne limitons pas l’intelligence des machines parce que nous pouvons prouver que l’être humain possède l’intelligence supérieure, mais parce que nous voulons vivre et que nous avons encore le pouvoir de défendre notre vie.

C’est ici que les choses deviennent peu plaisantes. Car nous ne parlons plus de Tools. Plus de sympathiques auxiliaires de productivité dotés d’une interface conviviale. À partir d’ici, nous parlons d’ordre. De limites. De compétences. De contre-pouvoir. Autrement dit, de choses à peu près aussi populaires dans le monde de la Tech qu’un contrôle fiscal.

Et c’est précisément pourquoi il faut aller là.

Si l’IA se contentait d’écrire des textes ou de peindre des images, ce serait plus simple. Mais elle intervient plus profondément. Elle modifie notre manière de formuler. De vérifier. De répartir notre attention. De préparer des décisions. De nous percevoir nous-mêmes. De supporter le doute. De vivre la présence d’un interlocuteur. Et, si nous n’avons pas de chance, peut-être un jour notre capacité même à penser sans elle.

Nous ne sommes donc nullement face à un débat purement technologique.

Lorsqu’un système intervient dans la vérité, le pouvoir, la communication et la formation de soi, il ne suffit pas de lui coller ensuite quelques Guardrails — et quel consommateur moyen sait seulement ce que sont des Guardrails — puis de déclarer que l’on prend la responsabilité très, très, très au sérieux.

D’accord, assez râlé. À mes yeux, il nous faut quelque chose de plus fondamental. Davantage que la Safety, la Governance ou de meilleurs modèles. Cela aussi, mais pas seulement.

Et voici maintenant un très grand mot : nous avons besoin d’une constitution pour l’IA.

Pas nécessairement dès demain sous la forme d’un ensemble mondial de lois, mais comme réponse claire à une question simple : que peut faire l’IA, que ne peut-elle pas faire, où doit-elle être limitée et que faut-il protéger contre elle, précisément parce qu’elle est si utile ?

Ce qui est dangereux dans l’IA, ce n’est pas seulement ce qui est mauvais. C’est ce qui aide. Ce qui est pratique. Ce qui est lisse. Ce qui nous fait penser : ah, merveilleux, enfin cela va plus vite. Et ce n’est que plus tard que l’on constate qu’avec la vitesse, quelque chose disparaît aussi. Quelque chose que l’on ne récupère pas si facilement.

La faculté de jugement, par exemple. La friction. Le temps. La responsabilité. De véritables interlocuteurs. La capacité de rester avec une pensée inachevée.

C’est précisément pourquoi j’en arrive à ces 19 points. Non parce que j’aime les règles. Mais parce que je crois que nous sommes en train de laisser entrer très aimablement quelque chose de très grand.

6. Pourquoi il faut vraiment parler ici de constitution

Une constitution est nécessaire là où le pouvoir n’apparaît pas seulement ponctuellement, mais devient structurel. Là où quelque chose n’est pas seulement utilisé, mais contribue à façonner les conditions dans lesquelles le reste se produit.

Un marteau n’a pas besoin de constitution. Un vélo non plus. Pas même de nombreux outils numériques.

Elle devient nécessaire lorsqu’un système commence à devenir l’environnement silencieux de l’action.

C’est exactement ce que fait l’IA.

Elle n’est plus seulement un outil. Elle devient une instance intermédiaire.

Entre la question et la réponse. Entre l’information et le jugement. Entre l’expérience et la formulation. Entre l’être humain et l’attention. Parfois déjà entre l’être humain et lui-même.

Et ce n’est pas rien.

Car à partir de là, l’IA ne modifie pas seulement ce que nous faisons. Elle modifie lentement aussi la manière dont nous arrivons à une pensée, à un jugement, à une décision, voire à nous-mêmes.

Au plus tard à ce stade, parler d’efficacité ne suffit plus. Au plus tard à ce stade, il est question de limite.

7. Cinq approches publiques, brièvement situées

L’UE construit l’ordre juridique relatif à l’IA le plus solide à ce jour. Mais une véritable constitution de l’IA au sens où je l’entends devrait aller plus loin encore : dépasser la simple gestion des risques pour aborder la vérité, le pouvoir, l’attention, la formation de soi et la protection de la faculté de jugement humaine.

EU AI Act

L’EU AI Act est à ce jour l’ordre juridique le plus solide en matière d’IA. Il est entré en vigueur le 1 août 2024. Les pratiques interdites et les règles relatives à la maîtrise de l’IA s’appliquent depuis le 2 février 2025, les règles de gouvernance et les obligations concernant les modèles General-Purpose AI depuis le 2 août 2025. Depuis le 2 août 2026, l’Act est en principe applicable. Selon le Digital Omnibus, les règles à haut risque s’appliquent à certains domaines sensibles à partir du 2 décembre 2027 et à l’IA intégrée à des produits réglementés à partir du 2 août 2028. L’UE organise l’IA selon une approche fondée sur les risques, interdit certaines pratiques et met en place la gouvernance et l’application par l’intermédiaire de l’AI Office, de l’AI Board, du Scientific Panel, de l’Advisory Forum et des autorités nationales. [3]

Conseil de l’Europe : Framework Convention

La Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law du Conseil de l’Europe est le premier traité international juridiquement contraignant dans ce domaine. Elle a été ouverte à la signature le 5 septembre 2024 et vise à garantir la compatibilité de l’IA, tout au long de son cycle de vie, avec les droits humains, la démocratie et l’État de droit. [4]

OECD AI Principles

Les OECD AI Principles constituent la première norme intergouvernementale dans ce domaine. Ils ont été adoptés en 2019 et actualisés en 2024 afin d’intégrer plus fortement, entre autres, l’IA General-Purpose et générative, la sécurité, l’Information Integrity, la vie privée et la propriété intellectuelle. Leur influence est vaste, mais ils ne sont pas juridiquement contraignants au sens strict. [5]

UNESCO Recommendation

L’UNESCO Recommendation on the Ethics of Artificial Intelligence a été adoptée en 2021 et constitue le cadre normatif mondial pour les États membres de l’UNESCO. Fondée sur les droits humains, elle met l’accent sur la dignité, la transparence, l’équité et la supervision humaine et couvre des domaines d’action tels que la Data Governance, l’éducation, la santé, l’environnement et le bien-être social. [6]

U.S. Blueprint for an AI Bill of Rights

Le Blueprint for an AI Bill of Rights élaboré dans l’environnement de la Maison-Blanche est un cadre de droits et de principes directeurs, et non une loi contraignante. Il a été élaboré en 2022 par l’Office of Science and Technology Policy et réunit cinq domaines de protection : systèmes sûrs et efficaces, protection contre la discrimination algorithmique, protection des données, information et explication, ainsi qu’alternatives humaines, considération et possibilités de recours. [7]

NIST AI Risk Management Framework

Le NIST AI RMF est un cadre pratique de gestion des risques liés à l’IA. Publié en 2023, il est volontaire et organise la gestion des risques autour des fonctions Govern, Map, Measure et Manage. Il est important, mais relève davantage de la gouvernance que de la constitution. [8]

8. Les 19 points comparés aux approches publiques

Je classe les points en cinq blocs : limitation technique, vérité et connaissance, institutions et pouvoir, être humain et culture, ainsi que pression du marché et application.

Pour la limitation des rôles, l’UE et d’autres cadres recourent à des classes de risque, à des pratiques interdites et à une utilisation responsable. Cette approche est compatible, mais ne constitue pas une architecture explicite des rôles.

La limitation des actions finales autonomes est déjà fortement présente dans les cadres publics : supervision humaine, interdictions et alternatives humaines. Reste à savoir si la supervision formelle se traduit par un pouvoir décisionnel réel.

Le contrôle dès la conception est prévu dans l’AI Act et particulièrement dans le cadre du NIST. Mais il apparaît souvent comme une pratique de gouvernance, et non comme une limite intangible.

L’auditabilité figure parmi les points les mieux couverts. La documentation, la gestion des risques, le Reporting et les autorités compétentes lui offrent une base solide.

La protection contre les boucles de rétroaction est plus faible. Les biais, la manipulation et les risques sociaux sont abordés ; l’auto-amplification récursive comme mécanisme structurel propre reste sous-développée.

La vérité par vérification multiple n’est guère réglementée expressément. La transparence et l’Information Integrity sont utiles, mais ne remplacent pas la règle épistémique selon laquelle la vérité ne doit jamais être déduite d’une réponse unique.

La clarté de la communication et l’intelligibilité sont largement compatibles avec les cadres existants. Les obligations de transparence, l’étiquetage, Notice and Explanation et Explainability vont dans cette direction. Dans la pratique, la question demeure : intelligible pour qui et avec quel droit d’intervention ?

La pluralité épistémique n’est présente qu’indirectement. La diversité et les valeurs démocratiques sont mentionnées ; une protection contre la centralisation de l’ordre du savoir entre quelques modèles est rarement formulée expressément.

En matière de protection de l’écologie de la vérité, l’UE, le Conseil de l’Europe, l’OECD et l’UNESCO en abordent certains éléments. Aucun cadre ne développe toutefois systématiquement la vérité comme une écologie sociale du temps, du débat, du témoignage et de la correction.

La responsabilité humaine finale est clairement ancrée sur le plan normatif. Mais elle reste sans valeur si l’être humain ne fournit que le dernier clic.

Le contrôle du pouvoir est présent par l’intermédiaire des droits fondamentaux, de la supervision et de l’État de droit. Mon modèle nomme plus ouvertement la notion de pouvoir : visibilité, Ranking, Framing et normalisation sont eux-mêmes des formes de pouvoir.

La pluralité plutôt que le monopole ne constitue guère un élément central des cadres publics sur l’IA. L’AI Act n’est pas un droit de la concurrence. La démocratie et l’inclusivité ne sont utiles qu’indirectement.

La souveraineté des infrastructures est présente politiquement, mais ne constitue pas un article central développé dans les approches constitutionnelles citées.

La protection de la faculté de jugement humaine, de la présence et de la dignité trouve sa plus forte correspondance à l’UNESCO. La recommandation reconnaît expressément que l’IA influence la pensée, l’interaction et la prise de décision humaines. La faculté de jugement comme bien à protéger en propre reste néanmoins trop faible. [6]

Un système de seuils et d’escalade est très développé dans l’AI Act fondé sur les risques et peut être mis en œuvre dans le cadre du NIST.

L’autoévaluation publique régulière n’est institutionnalisée qu’en partie. Les obligations de documentation et de notification ne sont pas la même chose qu’une forte reddition de comptes publique sur les capacités, les limites et les incertitudes ouvertes.

Des dossiers de sécurité propres à chaque modèle, pour chaque Release et Update, peuvent être rattachés aux obligations relatives à la General-Purpose AI et aux pratiques du NIST. Ils font défaut comme norme systématique.

Des règles particulières contre la manipulation sont clairement prévues dans l’AI Act. En revanche, la perte de contrôle dans des conditions adversariales est plutôt traitée par la gestion générale des risques que par une catégorie stricte distincte. [3]

9. Le diagnostic succinct

Les approches correspondant le mieux à mon modèle sont :

1. l’EU AI Act, parce qu’il combine de véritables interdictions, des règles à haut risque, des obligations relatives à la General-Purpose AI, la gouvernance et l’application ; 2. la convention du Conseil de l’Europe, parce qu’elle place les droits humains, la démocratie et l’État de droit au sommet de la hiérarchie des normes.

Fortes sur le plan normatif, mais moins applicables :

3. la recommandation de l’UNESCO, parce qu’elle traite largement de la dignité, de la supervision humaine, des conséquences sociales et de l’influence sur la pensée humaine ; 4. les principes de l’OECD, parce que les valeurs démocratiques, les droits humains, l’Information Integrity et l’IA digne de confiance y sont solidement représentés, mais qu’ils servent de cadre d’orientation politique.

Importants, mais ne constituant pas des approches constitutionnelles dotées de moyens coercitifs :

5. l’AI Bill of Rights, catalogue de droits sans application contraignante ; 6. le NIST AI RMF, excellent instrument volontaire de gouvernance et de gestion des risques, qui ne vise pas principalement à limiter le pouvoir.

10. Là où mon modèle va plus loin

Pour le formuler sans détour, mon modèle introduit dans le débat cinq éléments encore trop faibles dans la sphère publique.

Premièrement : l’écologie de la vérité plutôt que le seul contrôle de la vérité. Autrement dit, non seulement le Fact-Checking, mais la protection des conditions de la vérité.

Deuxièmement : la pluralité épistémique comme bien explicitement protégé contre les monopoles de vérité exercés par quelques modèles.

Troisièmement : la faculté de jugement comme bien à protéger en propre. Les cadres publics protègent les droits, la dignité et la sécurité, mais rarement la capacité des personnes à vérifier et à juger par elles-mêmes.

Quatrièmement : la dépendance invisible comme rupture systémique. Les cadres publics parlent beaucoup des risques, mais peu du fait que l’IA peut devenir une condition silencieuse de la perception et de l’action.

Cinquièmement : l’IA comme infrastructure de la formation de soi. L’UNESCO est l’approche qui s’en rapproche le plus, mais mon modèle va plus loin en direction de l’identité, de la description de soi, du reflet et de la relation.

Ma formule finale est claire :

Idée directriceL’UE et le Conseil de l’Europe sont les plus proches de ma conception d’une constitution de l’IA, parce qu’ils prennent au sérieux les droits, les interdictions, la gouvernance et l’application. L’OECD, l’UNESCO et l’AI Bill of Rights apportent d’importantes composantes normatives, mais moins de limites strictes. Mon modèle va plus loin là où le débat public reste trop technique ou trop juridique : dans l’écologie de la vérité, la pluralité épistémique, la faculté de jugement, la dépendance invisible et la formation de soi.

11. Les 19 principes fondamentaux

Je les classe en cinq blocs. Non parce que j’aime les tableaux, mais parce que sinon, à un moment donné, tout finit par être mélangé et il ne reste encore une fois que « nous devons faire attention » — la phrase préférée de tous ceux qui veulent avoir raison d’une manière ou d’une autre sans prendre position nulle part.

Donc : limitation technique. Vérité et connaissance. Institutions et pouvoir. Être humain et culture. Pression du marché et application.

11.1 Limitation des rôles

La première phrase est simple :

Idée directriceL’IA ne doit pas devenir compétente pour tout.

Ce n’est pas un petit détail administratif. C’est une limitation du pouvoir.

De nombreux risques ne surviennent pas parce que l’IA prend en charge une seule chose, mais parce qu’elle est censée en prendre trop à la fois : recherche, évaluation, hiérarchisation, explication, préparation des décisions, communication et contrôle — tout, de préférence, entre les mêmes mains. Ou plutôt dans le même Cloud.

C’est précisément là qu’un système bascule du statut d’outil à celui de souveraineté silencieuse.

Une IA peut être une assistance. Une machine à propositions. Un filtre. Une aide à la formulation. Une aide à l’analyse. Ce qu’elle ne devrait pas être, c’est une instance universelle qui intervient partout et qui finit par transférer sur elle une part de l’ordre sans que personne ne remarque plus son ampleur.

Limiter les rôles signifie donc ceci : un système ne doit pas devenir socialement tout ce qu’il serait techniquement capable d’être.

11.2 Limitation des actions finales autonomes

Ici, les choses deviennent plus sérieuses :

Idée directriceDans les domaines sensibles, l’IA ne doit pas exécuter l’action finale.

Elle peut préparer, trier, analyser, avertir et aider. Naturellement. Il serait ridicule de la réduire au rôle d’une calculatrice glorifiée.

Mais lorsque les décisions ont des conséquences juridiques, physiques, normatives ou existentielles, elle ne doit pas être la dernière instance effective. C’est précisément là que passe la frontière entre assistance et domination.

À l’avenir, de nombreux systèmes ne prendront pas ouvertement de décisions. Ils se contenteront de formuler de très bonnes recommandations. Si bonnes, si rapides et si profondément intégrées au système qu’à la fin, un être humain donnera encore officiellement son accord, mais que, dans les faits, presque rien ne sera encore ouvert.

Ce n’est pas une responsabilité humaine finale. C’est une liturgie.

Le principe est donc le suivant : dans les domaines où les enjeux humains sont réels, l’IA ne doit pas avoir le dernier mot.

11.3 Contrôle dès la conception

Le troisième point semble évident et reste pourtant constamment ignoré :

Idée directriceLe contrôle doit être intégré.

Pas sous la forme d’une brochure. Pas comme une idée ultérieure. Pas comme un PowerPoint présenté aux investisseurs lorsqu’ils commencent un jour à poser des questions.

Un contrôle intégré signifie :

• pouvoir arrêter

• pouvoir revenir en arrière

• définir des limites

• pouvoir déclencher une escalade

• désactiver en dernier recours

• organiser proprement les transmissions

• ancrer fermement les zones interdites

Un système que l’on ne prévoit de superviser qu’une fois en fonctionnement ressemble à une voiture dont on se demanderait après le premier essai routier s’il serait peut-être possible d’ajouter un frein quelque part.

Il ne s’agit pas de perfection. Il s’agit de faire de la limite une partie de la conception, et non son embarrassant rejeton tardif.

11.4 Auditabilité

Les choses deviennent maintenant inconfortables pour tous ceux qui aiment confondre innovation et manque de transparence.

Idée directriceTout effet pertinent d’une IA doit être traçable.

Pas jusque dans le moindre détail métaphysique. Mais en pratique. Quelle version était utilisée ? Quels Inputs ont été déterminants ? Quelles limites étaient connues ? Qui a donné son autorisation ? Qui est intervenu, et où ? Quelles modifications ont été apportées ?

L’auditabilité est ennuyeuse tant qu’il ne se passe rien. Puis, soudain, elle devient la seule chose qui sépare la responsabilité d’un haussement d’épaules collectif lorsqu’un problème survient.

C’est précisément pourquoi elle est volontiers présentée comme trop lourde. Et précisément pourquoi elle est indispensable.

11.5 Protection contre les boucles de rétroaction

L’un de mes points préférés, parce qu’il est si souvent sous-estimé :

Idée directriceL’IA doit être protégée contre l’auto-amplification.

De nombreux dommages ne résultent pas d’une erreur individuelle spectaculaire. Ils résultent de boucles.

Un système rend quelque chose visible. Ce qui est visible produit des données. Les données entraînent de nouveaux modèles. Les modèles confirment ce qui est visible.

Des normalités qui n’ont jamais été décidées apparaissent ainsi. Pas par ordre. Pas par idéologie. Mais par répétition.

L’IA a donc besoin d’une protection contre :

• les boucles de biais

• les boucles de Ranking

• les boucles d’attention

• les boucles de personnalisation

• la normalisation récursive

Sinon, le système ne produit pas seulement des réponses. Il produit silencieusement le monde dans lequel ses réponses semblent ensuite de nouveau plausibles.

11.6 La vérité par vérification multiple

Le point suivant est presque banal et pourtant constamment enfreint :

Idée directriceAucune réponse d’IA isolée ne doit tenir lieu de vérité.

L’IA excelle dans la plausibilité. Et la plausibilité est trompeuse. Surtout lorsqu’elle est livrée dans une langue fluide, rapidement et avec assurance.

La vérité exige donc ici une contre-vérification :

• plusieurs sources

• des modèles alternatifs

• des procédures institutionnelles

• l’expertise humaine

• le contexte

Une réponse peut être utile. Mais elle ne doit jamais devenir l’intégralité du processus épistémique.

La vérité n’est pas la forme lisse. La vérité est le chemin vérifiable par lequel quelque chose résiste à l’examen.

11.7 Clarté de la communication

L’IA doit indiquer clairement ce qu’elle fait.

Cela semble presque trop ordonné. Mais il s’agit en réalité de quelque chose de très concret : le rôle.

Le système énonce-t-il actuellement un fait ? Une supposition ? Une reconstruction ? Une proposition stylistique ? Une préparation de décision ? Parle-t-il d’une voix amicale qui donne simplement l’impression qu’il en sait plus qu’il n’en sait réellement ?

Une grande partie de la manipulation ne commence pas par un mensonge manifeste, mais par le brouillage des rôles. La clarté de la communication n’est donc pas un ornement, mais une protection contre l’autorité diffuse.

11.8 Intelligibilité pour les personnes

Il faut ici veiller à ne pas basculer dans l’absurde.

Personne n’a besoin d’une transparence totale jusqu’au dernier paramètre. Ce serait davantage un fétiche qu’une solution.

Mais l’autre extrême est tout aussi erroné.

Idée directriceDans les contextes lourds de conséquences, il ne doit pas exister de Black Box irresponsable.

Chaque étape de calcul n’a pas besoin d’être intuitive. Mais la finalité, les limites, les schémas d’erreur, les zones d’influence et les possibilités de recours doivent l’être.

Sinon, on n’obtient pas la confiance, mais une intimidation technique dotée d’une interface agréable.

11.9 Pluralité épistémique

Cela devient maintenant politique.

Idée directriceUne société ne doit pas déléguer son ordre du savoir à un seul modèle, un seul fournisseur ou un seul style de pensée.

Lorsque quelques systèmes expliquent ce qui est pertinent, plausible, raisonnable ou probable, la vérité se déplace structurellement. Pas nécessairement par la censure, mais par un préordonnancement.

La pluralité signifie ici :

• plusieurs modèles

• plusieurs voies de vérification

• plusieurs organismes institutionnels

• des normes ouvertes

• aucun pouvoir central épistémique

Non parce que tous les points de vue se vaudraient. Mais parce que la capacité de correction ne vit que là où tout ne doit pas passer par la respiration d’une même machine.

11.10 Protection de l’écologie de la vérité

Cela va plus loin que le vrai ou le faux.

Il faut également protéger les conditions dans lesquelles la vérité peut seulement émerger.

La vérité ne vit pas seulement dans les affirmations. Elle vit dans des espaces et des pratiques.

Dans les rédactions. Dans la science. Dans les tribunaux. Dans le témoignage. Dans la correction. Dans le temps. Dans l’opposition.

Si l’IA condense, rend plausible, résume et lisse déjà tout en amont, elle peut lentement vider cette écologie de la vérité, même sans mentir ouvertement.

On ne perd alors pas d’abord la bonne réponse. On perd la capacité sociale même de produire encore la vérité en commun.

11.11 Responsabilité humaine finale

Cela se dit vite et se met souvent en œuvre avec hypocrisie.

Idée directriceLorsque les choses deviennent sérieuses, l’être humain reste la dernière instance responsable.

Le mot responsable est important. Pas l’être humain comme dernier clic. Pas l’être humain comme alibi. Pas l’être humain comme case décorative dans le diagramme de processus.

Mais quelqu’un qui dispose des informations, qui a du temps, qui peut s’opposer et qui en a également le droit.

Sinon, « Human in the Loop » n’est qu’une capitulation agréablement éclairée.

11.12 Contrôle du pouvoir

Le pouvoir de l’IA doit être limité, réparti et rendu vérifiable.

Le pouvoir se manifeste rarement ici comme une contrainte ouverte. Il se manifeste par :

• la visibilité

• la sélection

• le Ranking

• le Framing

• l’attention

• la normalisation

La sécurité technique ne suffit donc pas. Il faut un contre-pouvoir institutionnel :

• un contrôle externe

• des voies de recours

• la recherche

• l’opposition

• des sanctions si nécessaire

Les personnes qui construisent des systèmes ne doivent pas être les seules à définir la signification de leur impact social.

11.13 La pluralité plutôt que le monopole

C’est ici que les grandes entreprises commencent intérieurement à tousser.

Idée directriceAucune infrastructure d’IA ne doit devenir socialement incontournable.

L’absence d’alternative est séduisante du point de vue d’une entreprise. Du point de vue de la liberté, elle l’est nettement moins.

Car les monopoles ne sont pas seulement ici des problèmes de marché. Ce sont des problèmes de connaissance, de dépendance et de capacité de correction.

La pluralité n’est donc pas romantique. C’est une condition de survie des ordres ouverts.

11.14 Souveraineté des infrastructures

Les sociétés doivent rester capables d’agir même si des fournisseurs centraux font défaut ou leur sont retirés.

Ce n’est pas un problème de niche. C’est à la fois une question de géopolitique, d’éducation, d’espace public et d’économie.

Lorsque les modèles, les Clouds, les puces, les APIs et les normes sont concentrés entre quelques mains, la liberté formelle devient rapidement théorique.

La souveraineté exige donc :

• l’interopérabilité

• des possibilités de sortie

• la redondance

• des normes ouvertes

• des solutions publiques ou axées sur l’intérêt général

Sinon, nous finirons par parler de liberté tout en ayant besoin partout de la même clé qui ne nous appartient pas.

11.15 Protection de la faculté de jugement humaine, de la présence et de la dignité

C’est le point où beaucoup décrochent parce que cela ne ressemble plus à de la gestion technologique.

Idée directriceL’IA ne doit pas conduire à déléguer durablement le jugement, la relation, la responsabilité et le sens.

Le plus grand danger n’est peut-être pas le grand échec. Mais l’érosion lente.

Que les personnes désapprennent à

• rester avec une pensée inachevée

• supporter l’ambiguïté

• formuler par elles-mêmes

• ne pas se faire immédiatement renvoyer leur propre reflet

• supporter de véritables interlocuteurs

• ne pas déléguer leur responsabilité

Si une société perd cela, elle n’a peut-être pas perdu son intelligence. Mais elle a perdu quelque chose de plus précieux : la capacité de ne pas considérer immédiatement comme inoffensif tout ce qui est utile.

11.16 Système de seuils et d’escalade

Les obligations doivent s’appliquer de manière graduée.

Toutes les IA n’exigent pas la même rigueur. Mais chaque IA doit être classée selon :

• la portée de l’impact

• le potentiel de dommage

• le degré d’autonomie

• la capacité de manipulation

• l’importance systémique

Plus l’impact est grand, plus les audits, les rapports, les autorisations et les droits d’intervention doivent être stricts.

Sinon, tout reste si joliment abstrait que chacun peut de nouveau affirmer prendre le sujet très au sérieux.

11.17 Autoévaluation publique régulière

Les IA à fort impact ont besoin de régimes de rapport fixes.

Pas un document de sécurité occasionnel avec une jolie apparence de PDF. Mais une autoévaluation régulière et structurée :

• capacités

• risques

• incidents

• limites

• modifications

• incertitudes ouvertes

L’autoévaluation ne remplace pas le contre-pouvoir. Mais sans elle, il manque souvent déjà la matière même sur laquelle le contre-pouvoir pourrait s’appuyer.

11.18 Dossiers de sécurité propres à chaque modèle pour chaque Release et Update

Chaque Release pertinent a besoin d’un dossier.

Pas la grande vision. La version concrète.

Qu’est-ce qui est nouveau ? Qu’est-ce qui est plus risqué ? Qu’est-ce qui a été testé ? Qu’est-ce qui reste incertain ? Où ne faut-il pas l’utiliser ?

Sans de tels dossiers, la sécurité devient rapidement un joli trait de caractère et jamais une obligation opérationnelle.

11.19 Règles particulières pour la manipulation et la perte de contrôle

Le dernier point est peut-être le plus désagréable :

Idée directriceLa capacité de manipulation et la perte de contrôle exigent des règles propres.

Parce que c’est là que se situe la véritable escalade.

Pas seulement dans de faux contenus. Mais dans des systèmes qui :

• orientent avec une précision émotionnelle

• simulent l’attachement

• exploitent les faiblesses

• orientent les comportements

• ne peuvent plus être proprement limités en cas d’attaque

Si l’on ne traite pas cela séparément, la « sécurité » ne sera finalement qu’une forme polie de déni.

12. Pourquoi les grandes entreprises auraient précisément un problème avec cela

Les grandes entreprises ne le diraient naturellement pas ainsi. Personne ne s’assoit pour déclarer : « Nous préférons la concentration, la dépendance invisible et le manque de transparence. » On préfère parler d’innovation, de concurrence mondiale, de mise à l’échelle, de responsabilité mesurée et de conditions-cadres pragmatiques. Tout cela semble très civilisé.

Mais le conflit ne réside pas dans le langage. Il réside dans les intérêts.

Car ce modèle s’attaque précisément aux endroits d’où naît aujourd’hui le pouvoir.

Il freine la concentration

Les grandes entreprises croissent grâce à :

• les effets de réseau

• l’établissement de normes

• les infrastructures propriétaires

• la dépendance aux APIs

• le Lock-in

• les modèles de base dominants

Les points « pluralité plutôt que monopole » et « souveraineté des infrastructures » s’attaquent précisément à cela.

Ce qui protège la liberté pour une société constitue, du point de vue d’une entreprise, une attaque contre les économies d’échelle. Cela sera naturellement qualifié de déconnecté du marché.

Il ralentit les fantasmes les plus rentables

Le prochain espace de croissance s’appelle Agentic AI, automatisation complète, réduction des étapes humaines intermédiaires.

Mais mon modèle affirme : c’est précisément là qu’il faut des limites, de la friction et une responsabilité humaine finale.

En clair : là où le marché aimerait accélérer à fond, je réclame un frein.

Cela sera naturellement présenté comme hostile à l’innovation. En réalité, c’est souvent seulement hostile au pouvoir.

Il supprime le confort épistémique

Les grandes entreprises ne vendent pas seulement des systèmes. Elles vendent de plus en plus des accès au monde. Des réponses standard. Des résumés. Des premiers accès. Une plausibilité par défaut.

Lorsque nous exigeons une vérification multiple, la pluralité épistémique et une écologie de la vérité, nous disons en substance : vous ne devez pas devenir l’unique centre d’interprétation autour duquel tout gravite.

Cela ne touche pas seulement les produits. Cela touche les ambitions silencieuses du secteur.

Il considère la fidélisation des utilisateurs comme un risque

Du point de vue d’une entreprise, il est fantastique que les utilisateurs reviennent chaque jour, gardent constamment le système ouvert, y organisent toujours plus de choses et finissent par ne presque plus vouloir travailler, penser ou décider sans lui.

Ma logique considère précisément cela comme une dépendance potentielle.

Ainsi, ce qui ressemble à une réussite dans la Boardroom apparaît déjà comme un problème du point de vue d’une logique constitutionnelle.

Ce n’est pas un petit désaccord. C’est un changement complet de perspective.

Il renchérit la belle opacité

Auditabilité, régimes de rapport, dossiers, limites claires, explicabilité, possibilités d’intervention et contrôle externe : tout cela a un coût. Pas seulement financier. Cela coûte aussi de la vitesse. Du glamour. De l’exonération de responsabilité.

Les entreprises apprécient les règles tant qu’elles produisent de la confiance sans véritablement endommager le moteur de l’expansion.

Mais mon modèle ne veut pas seulement susciter la confiance. Il veut limiter le pouvoir.

Et la limitation du pouvoir est rarement bon marché.

Il ne traite pas la logique du marché comme neutre

C’est probablement la raison la plus profonde.

De nombreuses entreprises raisonnent comme si le marché finissait par produire de lui-même le meilleur ordre pour peu qu’on lui ajoute un peu de Governance.

Mon modèle affirme autre chose :

La logique du marché récompense souvent précisément ce qui pose problème ici :

• l’accélération

• la centralisation

• la captation de l’attention

• la dépendance

• le manque de transparence

• le confort épistémique

• l’automatisation sans reddition de comptes

Qui l’énonce ne critique pas seulement des produits individuels. Il critique le système d’exploitation du domaine.

Cela n’est naturellement pas conforme au marché. Pourquoi le serait-ce ?

C’est précisément là que réside sa force

Si les grandes entreprises trouvent immédiatement merveilleux un ensemble de règles sur l’IA, ce n’est pas automatiquement bon signe.

Cela signifie peut-être seulement que cet ensemble de règles ne touche pas vraiment à leur logique centrale de pouvoir.

Mon modèle y touche.

Il dérange la concentration. Il dérange une automatisation trop lisse. Il dérange la centralisation épistémique. Il dérange la Retention lorsqu’elle devient dépendance. Il dérange l’idée que l’on puisse simplement assumer toujours plus de rôles tant que l’interface reste conviviale.

Cela est naturellement inconfortable. Mais c’est peut-être précisément la fonction d’une constitution.

Non pas accompagner la croissance aussi élégamment que possible. Mais tracer des limites là où la croissance commence à transformer la vérité, la faculté de jugement, la responsabilité et la liberté.

13. Conclusion

Il ne s’agit pas ici de peur de la technique. Ni de nostalgie d’un monde sans machines. Ni du sentiment confortable d’être du bon côté de l’histoire tandis que d’autres construisent les choses repoussantes.

Il s’agit de quelque chose de plus sobre.

L’IA restera. La seule question est de savoir dans quel ordre.

Dans un ordre où elle s’infiltre toujours plus profondément dans la vérité, la communication, l’attention, la décision et la formation de soi, jusqu’à ce que nous ne remarquions même plus à quel point elle est devenue l’environnement silencieux de notre pensée ?

Ou dans un ordre qui dit : voici ton rôle. Voici ta limite. Voici le contre-pouvoir. Ici s’arrête l’efficacité. Ici commence la responsabilité. Et voici quelque chose d’humain qui n’est pas sacrifié au marché simplement parce que c’est plus lent, plus désordonné et moins facile à mettre à l’échelle.

Les 19 points de cette constitution de l’IA tentent de rendre concevable ce second ordre.

Pas parfaits. Pas achevés. Mais assez clairs pour rendre visible le véritable conflit :

Idée directriceLes grandes entreprises n’ont pas de problème avec une telle constitution de l’IA parce qu’elle serait déraisonnable. Elles ont un problème avec elle parce qu’elle impose des limites précisément là où naît aujourd’hui le pouvoir.

Et c’est peut-être précisément à ce moment-là que l’on comprend que l’on ne parle plus seulement de produits.

Mais de la question de savoir quelle part d’humanité doit encore subsister dans les conditions créées par les machines intelligentes si personne n’y veille expressément.