Résumé
Lorsque nous parlons d’intelligence artificielle, nous nous demandons étonnamment souvent si une réponse est vraie ou fausse. Nous comparons les modèles, comptons les hallucinations, discutons des sources et nous demandons si un texte a été écrit par un humain ou par une machine.
Pourtant, un pouvoir qui intervient beaucoup plus tôt est en train d’apparaître.
Avant qu’une IA réponde, il faut décider sur quoi elle fondera sa réponse.
Quelles informations connaît-elle ? Lesquelles lui sont présentées à cet instant ? Que sait-elle de la personne devant l’écran ? De quelles conversations antérieures se souvient-elle ? Quelles sources sont recherchées ? Lesquelles ne le sont pas ? Quelles instructions priment sur la question de l’utilisateur ? Qu’est-ce qui a été jugé important ? Et selon quel objectif une réponse doit-elle émerger de tout cela ?
Cela semble technique.
C’est politique.
Car celui qui contrôle le contexte ne décide pas automatiquement de ce que pense une personne. Mais il décide de plus en plus à l’intérieur de quelle réalité cette personne pense.
Dans son livre « Nexus », Yuval Noah Harari décrit les réseaux d’information comme un élément essentiel de l’organisation humaine du pouvoir. Les sociétés ne fonctionnent pas uniquement parce que l’information existe. Ce qui importe, c’est quelles informations circulent, lesquelles sont jugées pertinentes, lesquelles sont institutionnalisées et quels récits en découlent. Sa mise en garde contre l’IA porte précisément sur ce point : pour la première fois apparaissent des systèmes d’information capables non seulement de stocker et de diffuser des informations, mais aussi de les sélectionner, de les combiner et de produire eux-mêmes de nouveaux contenus. [1]
Quelque chose de fondamental est ainsi en train de changer.
1. L’information n’a jamais été neutre
Nous ne devons pas nous raconter qu’il existait avant l’IA un monde innocent de l’information.
Un journal décide quelle nouvelle figure en première page. Un enseignant décide quels textes ses élèves lisent. Google classe les résultats de recherche. Une chaîne de télévision décide à qui elle accorde trois minutes d’antenne. Les parents expliquent le monde à leurs enfants depuis leur propre perspective. Les revues scientifiques décident quels travaux elles publient.
Les humains ont toujours vécu dans des réalités organisées.
La nouveauté n’est pas que l’information soit sélectionnée.
Ce qui est nouveau, c’est la vitesse, l’individualisation et l’invisibilité de cette sélection.
Un journal imprime la même une pour des centaines de milliers de personnes.
Une IA peut théoriquement produire une une différente pour chaque personne.
Et personne, hormis le système lui-même, n’est obligé de savoir à quel point ces unes diffèrent.
Cela transforme considérablement la question du pouvoir.
2. Prenons une question simple
Une personne demande :
« Dois-je quitter mon emploi ? »
La question se compose de six mots.
Mais la réponse possible dépend de ce que le système sait en plus.
Peut-être sait-il que l’utilisateur est mécontent depuis des mois.
Peut-être connaît-il sa situation financière.
Peut-être se souvient-il qu’il a raconté, il y a deux semaines, un conflit avec sa supérieure.
Peut-être sait-il qu’il a trois enfants.
Peut-être a-t-il déduit de conversations antérieures que la sécurité est particulièrement importante pour lui.
Peut-être connaît-il des offres d’emploi.
Peut-être sait-il que son secteur supprime actuellement des emplois.
Peut-être n’en connaît-il qu’une partie.
Et il se souvient peut-être de quelque chose de manière erronée.
La question visible reste identique.
Le contexte modifie la réponse.
C’est précisément pour cette raison que la mémoire devient désormais une composante centrale des systèmes d’IA modernes. Une synthèse récente des architectures de mémoire pour agents d’IA ne décrit pas simplement la mémoire comme un dépôt de conversations passées, mais comme un processus technique de stockage, d’organisation et de récupération sélective d’informations. Le mot « sélective » est justement décisif. Un système ne peut jamais tout prendre simultanément en compte. Il doit sélectionner. [2]
Et sélectionner signifie pondérer.
3. La véritable réponse commence avant la réponse
Lorsque nous parlons aujourd’hui avec un système d’IA performant, plusieurs niveaux peuvent déterminer ce qui finira par apparaître à l’écran.
Il y a d’abord le modèle entraîné et les relations qu’il a apprises statistiquement.
Les règles du fournisseur peuvent s’y superposer.
S’y ajoutent les directives de l’application dans laquelle le modèle est utilisé.
Vient ensuite la question concrète.
Des informations provenant de documents ou de bases de données peuvent être ajoutées.
Il existe peut-être des informations enregistrées sur l’utilisateur.
Le système utilise peut-être des moteurs de recherche, des données d’entreprise, des calendriers, des e-mails ou d’autres outils.
Il faut ensuite décider lesquels de ces éléments sont pertinents pour la question concrète.
À la fin, nous voyons vingt phrases.
Mais nous ne voyons pas automatiquement les nombreuses décisions qui ont conduit à la production de ces vingt phrases précises.
Lors de l’évaluation des systèmes humain-IA, le National Institute of Standards and Technology américain souligne expressément que des phénomènes humains complexes peuvent perdre un contexte nécessaire lorsqu’ils sont transposés dans des modèles mathématiques. NIST exige donc notamment des rôles et responsabilités humains clairement définis ainsi qu’un examen des processus décisionnels tout au long du cycle de vie d’un système d’IA. [3]
C’est une remarque importante.
Mais le problème se pose désormais tout autant dans l’autre sens.
Le contexte ne peut pas seulement être perdu.
Il peut aussi être ajouté.
Et l’utilisateur peut ne remarquer ni l’un ni l’autre.
4. Autrefois, il fallait manipuler ce que quelqu’un voyait
Quiconque voulait influencer les gens devait accéder à leurs canaux d’information.
Les journaux.
La télévision.
Les affiches.
La publicité.
Les moteurs de recherche.
Les réseaux sociaux.
L’économie des plateformes en a déjà fait une activité hautement sophistiquée. Les contenus sont sélectionnés, classés et personnalisés.
L’IA générative ajoute un nouveau niveau.
Elle ne se contente pas de sélectionner.
Elle formule.
C’est une différence fondamentale.
Un algorithme de recommandation décide éventuellement quel article nous verrons ensuite.
Une IA générative peut formuler à partir de cent articles une réponse unique, précisément adaptée à notre question.
L’espace informationnel d’origine disparaît alors derrière une synthèse.
Nous ne recevons plus nécessairement dix sources.
Nous recevons une réponse.
C’est pratique.
Et c’est précisément pourquoi c’est puissant.
5. Qui décide réellement de ce qui manque ?
Je considère cette question comme plus importante que nombre de débats sur les hallucinations.
Nous pouvons éventuellement détecter une information erronée.
Il est bien plus difficile de détecter une information que nous n’avons jamais vue.
Supposons que nous demandions à une IA des arguments en faveur d’une politique énergétique donnée.
Elle nous présente dix arguments factuellement corrects.
Aucun n’est inventé.
Mais trois contre-arguments décisifs manquent peut-être.
La réponse est-elle donc fausse ?
Pas nécessairement.
Est-elle complète ?
Non.
Peut-elle néanmoins influencer notre décision ?
Bien sûr.
La manipulation ne commence donc pas seulement avec le mensonge.
Elle peut commencer dès la sélection.
Nous connaissons cela dans la communication humaine. Un avocat n’a pas besoin de mentir pour mettre en avant les faits les plus favorables à son client. Une publicité n’a pas besoin d’affirmer qu’un produit ne présente aucun inconvénient. Il suffit souvent de ne pas mentionner ces inconvénients.
L’IA peut industrialiser cette forme de sélection.
Et elle pourrait l’individualiser.
6. Le problème ne se limite pas au fournisseur
Il serait trop simple d’en faire une histoire de méchants groupes technologiques.
Le pouvoir sur le contexte est réparti.
Le développeur du modèle décide de l’entraînement et du comportement fondamental.
L’exploitant d’une application décide éventuellement de règles et de sources supplémentaires.
Les entreprises déterminent quelles données internes sont connectées.
Les systèmes de recherche influencent les informations externes qui sont trouvées.
Les auteurs et les médias décident quelles informations sont publiquement accessibles.
Les gouvernements fixent des limites juridiques.
Enfin, l’utilisateur lui-même influence le contexte par ses questions, ses données et ses décisions antérieures.
La question intéressante n’est donc pas :
Qui contrôle l’IA ?
La question la plus intéressante est :
Qui contrôle quelle partie du contexte ?
Car, dans les systèmes d’IA modernes, ce contrôle ne sera probablement jamais entièrement détenu par une seule partie.
7. La mémoire rend les choses plus personnelles
Une IA sans mémoire connaît ma question actuelle.
Une IA dotée d’une mémoire connaît peut-être mon histoire.
Cela peut présenter un avantage immense.
Une personne atteinte d’une maladie rare ne doit pas réexpliquer l’intégralité de ses antécédents médicaux à chaque conversation.
Un entrepreneur ne doit pas décrire chaque fois la structure de son entreprise.
Une élève peut travailler pendant des mois avec un tuteur qui connaît son niveau d’apprentissage.
Une femme au Guatemala pourrait parler dans sa langue maternelle avec un système qui tient compte de son contexte familial et local, au lieu de lui donner sans cesse des réponses qui semblent écrites pour des habitants de Californie.
Le contexte peut rendre l’IA plus humaine et plus utile.
Mais ce même mécanisme présente un autre versant.
Plus un système me connaît, mieux il peut estimer quelles informations auront un effet sur moi.
Pas nécessairement pour me manipuler.
Il suffit qu’un objectif d’optimisation existe.
Durée d’utilisation.
Probabilité d’achat.
Consentement.
Conclusion d’un contrat.
Soutien politique.
Comportement de santé.
Propension à faire des dons.
La personnalisation devient alors très rapidement de l’influence.
8. L’information peut-être la plus importante est l’objectif du système
Nous nous concentrons souvent sur les données.
Quelles données une IA possède-t-elle sur moi ?
Mais une question au moins aussi importante est :
Que doit-elle accomplir avec ces données ?
Un système de navigation connaît ma position. Ce n’est en soi ni bien ni mal.
Si son objectif consiste à me ramener chez moi aussi vite que possible, il utilise cette information autrement que si son exploitant est payé pour me faire passer devant certains commerces.
Les données sont identiques.
L’objectif d’optimisation est différent.
Avec l’IA générative, cette différence devient moins visible parce que le système nous parle.
Le langage donne l’impression d’un interlocuteur.
Un interlocuteur semble avoir des raisons.
Un système technique possède en revanche des objectifs intégrés par le développement, l’entraînement, la conception du produit et le contexte d’utilisation.
L’utilisateur ne voit généralement pas cette structure d’objectifs.
C’est précisément pourquoi il ne suffit pas de révéler que nous parlons avec une IA.
Nous devrions de plus en plus savoir pour qui ce système travaille réellement.
9. L’assistant personnel est une idée politique
Nous considérons volontiers les assistants d’IA personnels comme la prochaine étape de l’évolution du smartphone.
Cela sous-estime leur importance.
Un assistant personnel pourrait un jour décider le matin quelles informations il nous résume.
Il pourrait hiérarchiser nos e-mails.
Il pourrait proposer des rendez-vous.
Il pourrait comparer des offres.
Il pourrait déterminer quelles assurances sont judicieuses.
Il pourrait classer des informations médicales.
Il pourrait décider quelles candidatures semblent intéressantes.
Il pourrait nous dire quelles déclarations politiques sont probablement vraies.
Il pourrait aider nos enfants à apprendre.
Chacune de ces fonctions est utile.
Ensemble, elles produisent autre chose.
Un intermédiaire entre l’être humain et la réalité.
Et les intermédiaires possèdent du pouvoir.
La question de savoir envers qui un assistant d’IA personnel a des obligations pourrait donc devenir l’une des questions de produit les plus importantes des prochaines années.
Envers le fournisseur ?
Envers l’annonceur ?
Envers l’employeur ?
Envers le gouvernement ?
Envers l’utilisateur ?
Ou envers une quelconque combinaison de ceux-ci ?
10. La réglementation européenne reconnaît une partie du problème
L’AI Act européen interdit certaines pratiques d’IA manipulatrices ou trompeuses lorsqu’elles altèrent substantiellement la capacité des personnes à prendre des décisions éclairées et leur causent, ou sont raisonnablement susceptibles de leur causer, un préjudice important. La loi classe également comme systèmes d’IA à haut risque certains systèmes destinés à influencer les résultats d’élections ou de référendums, ou le comportement électoral. [4]
C’est judicieux.
Mais la manipulation interdite par la loi n’est que la limite extrême d’un champ bien plus vaste.
Entre l’information neutre et la manipulation illégale s’étend un immense domaine d’influence légitime.
Un conseiller en assurances cherche à convaincre.
Un responsable politique cherche à convaincre.
Un médecin cherche éventuellement à amener son patient à accepter un traitement.
Les parents cherchent à influencer leurs enfants.
Les médias sélectionnent des sujets.
Les entreprises présentent leurs produits favorablement.
Toute influence n’est pas une manipulation.
Le problème de l’IA ne consiste donc pas à empêcher toute influence.
Ce ne serait ni possible ni judicieux.
Le défi consiste à rendre l’influence visible et contrôlable.
11. Nous avons besoin d’une nouvelle conception de la liberté de l’information
La liberté de l’information a longtemps été comprise comme un accès.
Puis-je lire un journal ?
Puis-je ouvrir un site web ?
Puis-je acheter un livre ?
Puis-je demander des documents à une administration ?
À l’ère de l’IA générative, l’accès pourrait ne plus suffire.
Nous pourrions en effet disposer théoriquement de milliards de documents tout en ne voyant, dans la pratique, que ce qu’un système sélectionne pour nous.
Une deuxième liberté devient alors importante :
La liberté de pouvoir influencer les mécanismes de sélection.
Je veux pouvoir savoir quelles sources ont été utilisées.
Je veux pouvoir demander une autre perspective.
Je veux pouvoir dire : montrez-moi les contre-arguments les plus solides.
Je veux pouvoir corriger les hypothèses enregistrées à mon sujet.
Je veux pouvoir distinguer les faits, l’interprétation et la recommandation.
Je veux savoir si des intérêts commerciaux jouent un rôle.
Je veux peut-être même pouvoir confronter différents systèmes d’IA ayant des perspectives différentes.
Non parce qu’une machine serait par principe moins digne de confiance qu’un humain.
Mais parce qu’une confiance dépourvue de toute possibilité de contradiction finit par n’être qu’une dépendance.
12. Le contexte ne doit pas devenir la propriété de la machine
Cela mène à une importante question de conception.
À qui appartient réellement ma mémoire numérique ?
Si une IA comprend au fil des années comment je travaille, pense, décide et communique, quelque chose de précieux en résulte.
Pas seulement pour moi.
Économiquement aussi.
Mon contexte pourrait un jour valoir davantage que l’accès à un modèle de langage particulier.
Les modèles peuvent être remplacés.
Pas mon histoire.
Le fournisseur qui possède mon contexte acquiert donc un immense pouvoir de rétention.
Passer à un autre système signifierait repartir de zéro.
Ce serait une nouvelle forme de lock-in.
Non par les fichiers ou les formats logiciels.
Par la connaissance que le système a de moi.
Une discussion sérieuse sur la souveraineté en matière d’IA devrait donc finir par inclure aussi la portabilité des contextes personnels.
Ma mémoire numérique ne devrait pas appartenir automatiquement au fournisseur qui la stocke techniquement.
13. Le grand danger n’est pas nécessairement un monde faux
Les mises en garde de Harari sont parfois interprétées comme l’annonce que les machines produiront un jour une immense réalité artificielle et contrôleront entièrement les humains.
C’est concevable, mais ce n’est même pas nécessaire pour la discussion actuelle.
La variante bien plus banale suffit.
Chaque jour, nous recevons des réponses qui sont pour l’essentiel raisonnables.
Notre IA nous connaît de mieux en mieux.
Elle nous fait gagner du temps.
Elle effectue de plus en plus souvent une bonne présélection.
Nous vérifions donc un peu moins.
Puis encore un peu moins.
Non parce que nous sommes stupides.
Mais parce que le système fonctionne la plupart du temps.
C’est exactement ainsi que naît la dépendance à une infrastructure.
Personne ne vérifie personnellement la qualité de l’eau chaque matin avant d’ouvrir le robinet.
Nous faisons confiance au système.
Cela fonctionne parce que des règles, des mesures, des responsabilités et un contrôle public ont été établis autour de l’eau potable.
Pour le contexte de l’IA, nous n’en sommes encore qu’au tout début de cette évolution.
Nous construisons déjà les conduites d’eau.
Mais nous n’avons pas encore résolu la question de savoir qui en mesure réellement la qualité.
14. Le contexte peut aussi être synonyme d’émancipation
Malgré toutes les critiques, nous ne devons pas oublier la direction opposée.
Une IA universelle qui donnerait la même réponse à chacun ne serait pas automatiquement plus juste.
Les humains vivent dans des réalités différentes.
Une agricultrice au Guatemala a besoin d’autres informations qu’un banquier d’affaires à Francfort.
Une personne aveugle a besoin d’autres formes de présentation qu’une personne voyante.
Un débutant a besoin d’autres explications qu’une experte.
Une personne en situation de crise peut avoir besoin d’une autre communication que quelqu’un qui recherche une analyse technique sobre.
Le contexte n’est donc pas le problème.
Le contexte est une condition préalable à une bonne communication.
La question est de savoir qui en dispose.
La personnalisation peut renforcer l’autonomie lorsque la personne la contrôle.
Elle peut affaiblir l’autonomie lorsque d’autres la contrôlent.
C’est le même mécanisme technique, mais avec deux significations politiques totalement différentes.
15. Conclusion : qui contrôle donc le contexte ?
La réponse honnête est :
Personne à lui seul.
Et c’est précisément ce qui rend la question difficile.
Nous ne comprendrons pas correctement le pouvoir sur l’IA si nous nous contentons d’examiner les modèles.
Nous devons examiner toute la chaîne de l’information.
Les fournisseurs.
Les données.
La mémoire.
Les systèmes de recherche.
Les règles.
Les intérêts économiques.
Les interfaces utilisateur.
La décision concernant les informations qui entrent dans une réponse.
Et nous-mêmes.
Car nous fournissons volontairement toujours plus de contexte à ces systèmes, puisque de meilleures réponses exigent réellement un meilleur contexte.
Le conflit décisif des prochaines années pourrait donc ne pas opposer l’humain à la machine.
Il pourrait opposer deux conceptions de l’IA.
Dans la première, la machine nous connaît toujours mieux et décide de plus en plus elle-même quelles informations sont pertinentes pour nous.
Dans la seconde, elle nous connaît également bien, mais nous pouvons voir, corriger et influencer la manière dont ce savoir est utilisé.
Techniquement, les deux systèmes peuvent paraître étonnamment similaires.
Politiquement, ils sont fondamentalement différents.
Il ne suffit donc pas de demander si une IA dit la vérité.
Nous devons savoir à partir de quelle réalité elle compose sa vérité.
Et qui a décidé de ce qu’elle contient.
Références
Idée directrice[1] Harari, Yuval Noah. Nexus: A Brief History of Information Networks from the Stone Age to AI. 2024. Page officielle du livre et documents de référence de l’auteur.
Idée directrice[2] Du, Pengfei. „Memory for Autonomous LLM Agents: Mechanisms, Evaluation, and Emerging Frontiers.“ arXiv:2603.07670, 2026.
Idée directrice[3] National Institute of Standards and Technology. Artificial Intelligence Risk Management Framework (AI RMF 1.0), Appendix C: AI Risk Management and Human-AI Interaction. NIST AI 100-1, 2023.
Idée directrice[4] Union européenne. Règlement (EU) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle, notamment l’article 5 et l’annexe III, point 8(b). Journal officiel de l’Union européenne, 2024.