La vérité sous conditions machiniques

1. La contribution

Le discours public sur l’IA parle beaucoup de vérité. Mais le plus souvent sous une forme trop étroite.

Il demande : le modèle hallucine-t-il ? Les sources sont-elles authentiques ? Une image est-elle falsifiée ? Une vidéo est-elle un deepfake ? Une réponse est-elle correcte ? Peut-on soumettre une affirmation à une vérification des faits ?

Ces questions sont nécessaires. Mais elles ne saisissent pas la transformation la plus profonde.

Car la vérité n’est pas une simple propriété de phrases isolées. La vérité est aussi une procédure. Elle ne naît pas uniquement de la correspondance entre un énoncé et un état de fait. Elle se forme socialement par des institutions, des pratiques et des rôles : la vérification scientifique, l’enquête journalistique, les procédures judiciaires d’administration de la preuve, les archives, la critique des sources, le doute méthodique, la contradiction, la correction et la traçabilité publique.

Cette contribution propose donc de considérer l’IA non seulement comme un risque pour des vérités isolées, mais comme une intervention dans une écologie de la vérité.

Cela signifie qu’une société dispose de conditions sociales et institutionnelles permettant de vérifier, de justifier, de contester, de corriger et de rendre publiquement solides les affirmations. Ces conditions ne vont pas de soi. Elles peuvent être renforcées, affaiblies ou restructurées par des formes techniques de médiation.

Cette contribution avance trois propositions.

Premièrement : les risques de l’IA pour la vérité ne doivent pas être réduits aux hallucinations, aux deepfakes et à la désinformation.

Deuxièmement : l’IA générative transforme la forme de l’accès au savoir, car elle transfère de plus en plus la recherche, la vérification et l’interprétation vers des formats de réponse synthétiques.

Troisièmement : la gouvernance de l’IA doit donc protéger non seulement l’exactitude des outputs, mais aussi l’intégrité des pratiques de vérité : pluralité des sources, voies de vérification, compétences institutionnelles, invisibilités, mécanismes de correction et temps consacré à la critique.

2. Pourquoi la vérité n’est pas un simple contenu

Dans la vie quotidienne, la vérité est souvent traitée comme si elle était une propriété des affirmations : cette phrase est exacte ou ne l’est pas. Cette information est vraie ou fausse. Cette image est authentique ou manipulée. Cette source est solide ou ne l’est pas.

Ce n’est pas faux. Mais c’est incomplet.

L’épistémologie sociale a montré que le savoir ne se forme pas seulement dans des esprits isolés. Dans Knowledge in a Social World, Alvin Goldman a montré que le savoir est ancré dans des procédures, des institutions et des pratiques sociales : la science, le droit, la démocratie, l’éducation et le témoignage. [1] Avec la notion d’injustice épistémique, Miranda Fricker a montré que la crédibilité est socialement distribuée et que des personnes peuvent être lésées comme sujets de savoir lorsqu’on leur accorde systématiquement moins de crédit ou qu’il leur manque les concepts permettant de rendre leurs expériences publiquement intelligibles. [2] Dans son histoire sociale de la vérité, Steven Shapin a montré que même la crédibilité scientifique repose historiquement sur des normes sociales, des relations de confiance et des pratiques institutionnelles.

La théorie de la démocratie et celle de l’espace public vont également dans cette direction. Jürgen Habermas décrit l’espace public comme un lieu où des personnes privées échangent des raisons publiques et forment l’opinion politique. Dans « Truth and Politics », Hannah Arendt a souligné la vulnérabilité des vérités factuelles au sein des communautés politiques, car le pouvoir et l’opinion peuvent déplacer la réalité commune. Dans Why Trust Science?, Naomi Oreskes soutient que la fiabilité de la science réside précisément dans son organisation sociale : la critique, les communautés spécialisées, la vérification institutionnalisée et l’autocorrection collective. [6]

Ces courants diffèrent considérablement sur le plan théorique. Mais ils partagent un point : la vérité n’est pas seulement la qualité d’un énoncé. Elle a besoin d’une infrastructure sociale.

C’est précisément cette infrastructure que j’appelle l’écologie de la vérité.

3. Le concept : l’écologie de la vérité

Une écologie de la vérité est l’ensemble des conditions sociales, institutionnelles et techniques grâce auxquelles les affirmations deviennent vérifiables, corrigibles et publiquement solides.

Elle comprend au moins huit éléments.

Premièrement : les sources. Qui dit quelque chose ? Sur quel fondement ? Avec quelle proximité par rapport à l’objet ?

Deuxièmement : le témoignage. Qui peut rapporter, observer, documenter ou contredire ?

Troisièmement : les méthodes. Comment une chose a-t-elle été vérifiée ? Quelles procédures sont considérées comme solides ?

Quatrièmement : les institutions. Quel rôle jouent la science, le journalisme, les tribunaux, les archives, les instituts de statistique, les administrations et l’éducation ?

Cinquièmement : le temps. La vérité exige souvent un délai : enquête, contre-vérification, Peer Review, consultation des dossiers, contradiction.

Sixièmement : la controverse. La vérité ne naît pas de l’harmonie, mais d’une capacité ordonnée au conflit.

Septièmement : la correction. L’erreur n’est pas la fin de la vérité. Ce qui importe, c’est de savoir si une correction est possible, visible et porteuse de conséquences.

Huitièmement : la confiance. Non pas une confiance aveugle, mais une confiance fondée dans les procédures, les rôles et les institutions.

Une écologie de la vérité n’est donc pas un état de vérité parfaite. C’est un système de production solide de la vérité dans des conditions d’erreur, de pouvoir, d’intérêt et de conflit.

L’IA intervient dans cette écologie parce qu’elle ne produit pas seulement des contenus, mais modifie aussi les chemins par lesquels les êtres humains accèdent aux affirmations, aux sources, aux interprétations et aux jugements.

4. Ce que l’IA transforme : de la recherche à la réponse

La recherche numérique classique a déjà profondément modifié les écologies de la vérité. Les moteurs de recherche organisent la visibilité, la pertinence et l’accès à l’information. Mais ils présentaient généralement encore une liste de résultats, donc plusieurs chemins possibles. L’utilisateur percevait au moins partiellement qu’il existait des sources, de la concurrence, des origines, différents fournisseurs et plusieurs niveaux d’autorité.

L’IA générative transforme cette forme.

Elle transforme plus souvent la recherche en réponse. Elle synthétise. Elle lisse. Elle formule. Elle produit une surface linguistique qui donne l’impression d’un savoir achevé. À la place d’un paysage de sources apparaît une réponse cohérente.

C’est commode. Mais cela déplace la situation épistémique.

Une liste de résultats dit : voici des chemins possibles. Une réponse générative dit : voici le résultat.

Ce déplacement n’est pas seulement esthétique. Il modifie la charge de la vérification. Avec la recherche classique, l’utilisateur devait davantage sélectionner, comparer, vérifier et pondérer. Avec la réponse générative, une partie de ce travail est effectuée en amont et rendue invisible. Le système décide quelles sources sont pertinentes, quels conflits sont mentionnés, quelles incertitudes restent visibles et quelles différences disparaissent dans une synthèse.

Les études d’audit consacrées aux systèmes de recherche générative mettent précisément en évidence ce problème. En examinant plusieurs moteurs de recherche génératifs, Liu, Zhang et Liang ont constaté que les réponses semblaient fluides et informatives, mais contenaient souvent des affirmations non étayées et des citations inexactes. [10] Li et Sinnamon ont étudié ChatGPT, Bing Chat et Perplexity comme nouveaux systèmes de recherche et montré que ces systèmes ne se contentent pas de restituer des réponses sur des sujets d’intérêt public : ils produisent de l’autorité, sélectionnent les sources et peuvent engendrer des biais. [11]

Il ne s’agit pas d’affirmer que la recherche générative est toujours moins bonne. Le point est le suivant : elle assume un autre rôle. Elle ne constitue plus seulement un accès aux sources, mais une instance préalable de plausibilité.

5. L’hallucination n’est que la pointe visible

La notion d’« hallucination » domine de nombreux débats sur l’IA générative. Elle désigne généralement la production par un système d’informations fausses, inventées ou non étayées. C’est un problème réel. De faux jugements, des études inventées, de fausses sources, des noms inventés et des affirmations plausibles mais non étayées peuvent causer des dommages concrets.

Mais la notion d’hallucination rétrécit le regard.

Elle suggère que le problème se situe uniquement là où le système commet une erreur visible. Pour les écologies de la vérité, cela ne suffit pas. Même une réponse formellement correcte peut être épistémiquement problématique si elle dissimule les sources, lisse les controverses, invisibilise les positions minoritaires, supprime les contextes ou recouvre l’incertitude.

Le problème le plus dangereux que pose l’IA à la vérité n’est pas nécessairement la fausse affirmation grossière. Celle-ci peut être vérifiée, réfutée et corrigée. Plus difficile est la condensation plausible, qui n’est pas assez fausse pour être immédiatement remarquée, mais suffisamment lisse pour évincer la vérification.

On pourrait dire :

Idée directriceL’hallucination endommage des affirmations isolées. Le lissage de la plausibilité endommage les habitudes de vérification.

C’est précisément là que réside le plus grand danger. Si les êtres humains s’habituent à des réponses synthétiques et linguistiquement assurées, la vérité risque d’être de plus en plus confondue avec l’intelligibilité, la rapidité et la cohérence.

Mais la vérité n’est pas ce qui semble lisse. La vérité est ce qui résiste à la vérification.

6. La désinformation n’est pas seulement un contenu faux

La désinformation est elle aussi souvent comprise de manière trop étroite. Les débats publics se concentrent sur les fausses informations, les images falsifiées, les bots, les deepfakes ou les campagnes coordonnées. Ces problèmes sont réels. Avec leur rapport sur l’Information Disorder, Wardle et Derakhshan ont établi une distinction importante entre Mis-, Dis- et Malinformation. [7] Dans Science, Lazer et al. ont montré que les Fake News ne sont pas seulement un problème technique, mais un problème interdisciplinaire touchant les architectures de plateformes, le traitement psychologique, la communication politique et l’accès à la recherche. [8] Lewandowsky et al. ont montré que la mésinformation peut continuer à produire des effets même après une correction. [9]

Mais ici encore, la logique du contenu ne suffit pas.

Le problème n’est pas seulement que de faux contenus circulent. Le problème est que la capacité d’une société à stabiliser collectivement la vérité est attaquée. La désinformation peut agir à au moins trois niveaux.

Premièrement : elle peut produire de fausses convictions.

Deuxièmement : elle peut détruire la confiance dans les institutions qui vérifient la vérité.

Troisièmement : elle peut créer une atmosphère dans laquelle la vérité apparaît comme une simple opinion.

Le troisième niveau est particulièrement dangereux. Une société n’a pas besoin de croire tous les mensonges pour être endommagée. Il suffit qu’un nombre suffisant de personnes pensent que tout le monde ment, que tout est manipulé et qu’aucune institution ne peut plus distinguer ce qui a été vérifié de ce qui ne l’a pas été.

L’IA peut aggraver cette dynamique. Non seulement par les deepfakes, mais aussi par la production de textes à grande échelle, les sources synthétiques, les commentaires automatisés, la persuasion personnalisée, les voix de prétendus experts et les flots d’informations au sein desquels la vérification elle-même devient accablante.

Il ne s’agit alors plus seulement de Fakes. Il s’agit de la solidité d’une réalité commune.

7. L’autorité sans responsabilité

Une propriété particulière de l’IA générative est la simulation de l’autorité. Le système s’exprime souvent de manière fluide, ordonnée, factuelle et assurée. Il peut générer des notes de bas de page, adapter le ton, résumer des controverses et maîtriser linguistiquement l’incertitude.

Cette forme suscite la confiance.

Le problème n’est pas que l’IA ne serait jamais utile. Le problème est que sa forme communicative peut produire de l’autorité sans assumer de responsabilité institutionnelle.

Un article scientifique s’inscrit dans un ordre de publication. Une enquête journalistique s’inscrit dans une rédaction. Un jugement s’inscrit dans une procédure. Une statistique officielle s’inscrit dans une administration. Une expertise médicale s’inscrit dans une responsabilité professionnelle. Ces institutions ne sont pas parfaites. Mais elles créent des rôles, une responsabilité juridique, des voies de correction et une obligation de rendre des comptes.

Une réponse d’IA générative peut donner l’impression de remplir des fonctions similaires. En réalité, elle constitue souvent une surface synthétique sans intégration institutionnelle correspondante. Elle répond, mais n’assume pas la responsabilité. Elle formule, mais ne témoigne pas. Elle explique, mais ne s’inscrit dans aucune procédure.

C’est là que réside un problème central de l’écologie de la vérité sous conditions machiniques :

Idée directriceL’IA peut imiter la forme de l’autorité institutionnelle sans en assumer les obligations.

Ce n’est pas un reproche moral adressé à la machine. C’est un problème d’organisation pour la société qui emploie de tels systèmes.

8. L’injustice épistémique produite par l’IA générative

Les écologies de la vérité ne sont jamais neutres. Elles déterminent aussi quels savoirs deviennent visibles, quelles expériences paraissent crédibles et quels concepts sont disponibles pour décrire la réalité sociale.

C’est ici que s’inscrit le débat sur l’injustice épistémique. Fricker distingue testimonial injustice et hermeneutical injustice : les êtres humains peuvent être lésés comme sujets de savoir lorsqu’on leur attribue moins de crédibilité ou que les ressources collectives d’interprétation leur manquent pour rendre leurs expériences intelligibles. [2]

L’IA générative peut renforcer de telles injustices.

Kay, Kasirzadeh et Mohamed parlent d’injustice épistémique algorithmique générative. Ils montrent que l’IA générative peut miner l’intégrité du savoir collectif et des discours démocratiques, notamment par la manipulative testimonial injustice, l’hermeneutical ignorance et l’access injustice. [12]

C’est essentiel pour l’écologie de la vérité. L’IA ne produit pas seulement des phrases fausses. Elle peut déterminer quels espaces linguistiques, quelles formes de savoir et quelles perspectives paraissent dominants. Les modèles fortement marqués par certaines langues, institutions, certains contextes culturels et certaines sources numériques peuvent marginaliser d’autres formes de savoir. Cela vaut particulièrement pour les langues moins répandues, les savoirs locaux, les perspectives autochtones, les épistémologies non occidentales et les expériences des groupes marginalisés.

La question n’est donc pas seulement : la réponse est-elle correcte ? Mais aussi : quels savoirs ont même été jugés pertinents et intégrés à l’ordre de la réponse ?

9. Les trois déplacements de l’écologie de la vérité

Les sections précédentes peuvent être regroupées en trois déplacements centraux.

9.1 De la vérification à la plausibilité

L’IA générative fournit des réponses linguistiquement convaincantes. La plausibilité peut ainsi remplacer la vérification. C’est particulièrement dangereux, car la plausibilité est un raccourci cognitif. Elle donne l’impression de comprendre, mais peut apparaître sans voie de vérification solide.

Le danger ne tient pas seulement au fait que les êtres humains négligent certaines erreurs. Il réside dans le fait que la vérification elle-même devient une activité secondaire.

9.2 Des sources aux synthèses

Le travail classique sur le savoir commençait souvent par les sources. L’IA générative commence souvent par les synthèses. Les sources apparaissent alors en aval, à titre décoratif ou seulement de manière sélective. La structure de la responsabilité épistémique s’en trouve déplacée. Ce n’est plus la source qui porte la réponse ; c’est la réponse qui cherche après coup à se raccorder à des sources.

Cela peut affaiblir la vérification scientifique, journalistique et politique.

9.3 Des institutions aux interfaces

Jusqu’à présent, la vérité était stabilisée par des institutions : la science, le journalisme, le droit, l’éducation, les archives. L’IA générative déplace de plus en plus l’accès à la vérité vers des interfaces. L’interface devient le premier point de contact avec le savoir sur le monde.

Le problème n’est pas l’interface elle-même. Il apparaît lorsque l’interface rend invisibles, remplace ou simule les procédures institutionnelles.

10. Domaines empiriques

10.1 Science et recherche

La vérité scientifique ne naît pas d’un génie isolé. Elle naît de procédures : travail bibliographique, méthodologie, Peer Review, réplication, critique, accès aux données, citation et responsabilité institutionnelle.

L’IA générative peut soutenir ces procédures. Elle peut explorer la littérature, générer des hypothèses, structurer les données et améliorer les textes. Mais elle peut aussi détériorer les pratiques de citation lorsque des sources sont reprises sans vérification, des références inventées sont produites ou la littérature existante est mal synthétisée.

Le problème n’est pas seulement la fraude. C’est l’érosion épistémique. Lorsque les textes scientifiques semblent plausibles, mais que les sources, les méthodes et les preuves ne les soutiennent pas de manière fiable, la surface de la science se détache de sa vérification interne.

10.2 Journalisme et espace public

Le journalisme n’est pas une simple production de contenu. C’est une pratique institutionnelle d’enquête, de sélection, de vérification, de contextualisation et de responsabilité. Lorsque l’IA générative intervient dans la recherche, la synthèse et la distribution des informations, ce n’est pas seulement la vitesse de l’information qui change. Cela transforme les sources rendues visibles, les normes éditoriales qui s’appliquent et la manière dont les lecteurs reconnaissent l’origine des affirmations.

La recherche générative peut alléger le travail journalistique. Mais elle peut aussi dissimuler le chemin entre la source originale, la rédaction et le public. Si les utilisateurs ne voient plus qu’un résumé produit par l’IA, il devient plus difficile de savoir quelle institution journalistique a vérifié l’information, quelle incertitude existait et où une correction peut avoir lieu.

10.3 Droit et administration

La vérité juridique et administrative se forme dans des procédures. Les dossiers, les délais, les compétences, les obligations de motivation, l’audition, le recours et le contrôle judiciaire ne sont pas une esthétique bureaucratique. Ce sont des technologies de vérité et de responsabilité.

Lorsque l’IA est utilisée dans l’administration ou le droit, elle ne doit pas remplacer ces procédures par des prédécisions plausibles. Un résumé produit automatiquement peut être utile. Mais s’il détermine quelles parties du dossier deviennent visibles, quels arguments sont considérés comme centraux et quelles affaires paraissent similaires, il intervient dans l’ordre de vérité de la procédure.

La question est de savoir si la procédure conserve la possibilité de produire la vérité contre la préstructuration machinique.

10.4 Éducation

L’éducation n’est pas seulement la transmission de connaissances. Elle est un apprentissage de la vérification, de la formulation, du doute, de la critique et du jugement. Lorsque l’IA fournit immédiatement aux apprenants des réponses lisses, des plans achevés et des explications plausibles, elle peut soutenir les processus d’apprentissage. Mais elle peut aussi réduire la friction par laquelle se forme la faculté de jugement.

Le dommage ne provient pas nécessairement du fait que les élèves ou les étudiants « trichent ». La question plus profonde est de savoir s’ils perdent les pratiques par lesquelles le savoir devient leur propre jugement : lire, comparer, citer, contredire, reformuler, échouer, vérifier à nouveau.

L’IA dans l’éducation ne doit donc pas être évaluée uniquement sous l’angle de la fraude. Elle doit être mesurée à l’aune de sa capacité à renforcer ou à remplacer les aptitudes épistémiques.

11. Positions opposées

11.1 Position opposée : l’IA rend le savoir plus accessible

C’est exact. L’IA peut réduire les obstacles, expliquer des textes, traduire des langues, rendre accessibles des recherches complexes et aider des personnes qui n’auraient autrement aucun accès à certaines formes de savoir.

Mais l’accessibilité n’est pas synonyme de capacité à établir la vérité. Un système peut rendre le savoir plus accessible tout en affaiblissant les voies de vérification. La tâche ne consiste pas à exclure l’IA des processus de connaissance, mais à associer l’accessibilité à la clarté des sources, à la correction, à la pluralité et à la responsabilité institutionnelle.

11.2 Position opposée : les fausses informations ont toujours existé

C’est également exact. Les rumeurs, la propagande, les falsifications et les erreurs sont plus anciennes que l’IA.

Mais l’IA modifie l’échelle, la personnalisation, la vitesse, les coûts et la forme. Elle peut non seulement produire de faux contenus, mais aussi fabriquer en grande quantité des surfaces de savoir plausibles. Elle peut en outre se placer comme couche de médiation entre l’utilisateur et la source. C’est qualitativement pertinent.

11.3 Position opposée : la vérification des faits suffit

La vérification des faits est importante. Mais elle ne suffit pas.

La vérification des faits traite des affirmations isolées. L’écologie de la vérité interroge les conditions dans lesquelles les affirmations deviennent visibles, vérifiables, corrigibles et institutionnellement responsables.

Une société peut produire de nombreuses vérifications des faits et perdre malgré tout son écologie de la vérité si plus personne ne sait à qui faire confiance ni pour quelles raisons.

11.4 Position opposée : la solution est une meilleure IA

De meilleurs modèles, de meilleurs systèmes de Retrieval, de meilleures citations et de meilleures évaluations sont nécessaires. Mais ils ne résolvent pas à eux seuls le problème d’organisation.

Même une qualité de réponse parfaite ne supprimerait pas la question de savoir si la vérification, la pluralité des sources et les compétences institutionnelles sont préservées. La question centrale n’est pas seulement de savoir à quel point l’IA répond bien. Elle consiste à déterminer quelles pratiques humaines et institutionnelles elle remplace, déplace ou renforce.

12. Conséquences pour la gouvernance de l’IA

Si l’IA transforme les écologies de la vérité, la gouvernance doit faire davantage que réduire les erreurs.

Premièrement : obligation de citer les sources plutôt qu’esthétique des sources. Les citations ne doivent pas être décoratives. Elles doivent réellement étayer les affirmations, être accessibles et distinguer les sources primaires, secondaires et synthétiques.

Deuxièmement : clarté de l’incertitude. Les systèmes d’IA doivent non seulement fournir des réponses, mais aussi rendre l’incertitude visible : sources manquantes, résultats controversés, faiblesse des preuves, positions minoritaires et limites temporelles.

Troisièmement : préserver les voies de vérification. Les interfaces ne devraient pas seulement fournir des résultats aux utilisateurs, mais maintenir ouvertes les voies de vérification : sources originales, positions opposées, indications méthodologiques, contexte.

Quatrièmement : protéger les rôles institutionnels. La science, le journalisme, le droit, l’éducation et l’administration ne doivent pas être vidés de leur substance par des systèmes de réponse génériques. L’IA peut soutenir ces institutions, mais pas simuler leurs rôles de responsabilité.

Cinquièmement : garantir la pluralité épistémique. Aucun modèle unique ni aucune logique propre à un fournisseur ne doit devenir l’instance standard invisible de la réalité publique.

Sixièmement : rendre les corrections visibles. Lorsque les systèmes d’IA commettent des erreurs, les corrections doivent être traçables, vérifiables rétroactivement et compatibles avec les institutions.

Septièmement : limiter la rétroaction synthétique. Les contenus générés par l’IA qui réintègrent les systèmes d’IA comme sources peuvent rétrécir les écologies de la vérité. La gouvernance doit détecter, signaler et limiter de telles boucles.

13. Conclusion : la vérité exige plus que des réponses correctes

Le danger central de l’intelligence artificielle ne réside pas seulement dans le fait qu’elle ment. Il réside aussi dans le fait qu’elle donne à la vérité une forme trop facile à consommer.

Rapide. Lisse. Plausible. Autoritaire. Sans chemin visible.

C’est utile. Et précisément pour cette raison, dangereux.

Une société ne perd pas d’abord la vérité parce que chaque réponse devient fausse. Elle la perd lorsque s’affaiblissent les pratiques permettant de produire de manière solide les réponses correctes : travail sur les sources, controverse, correction, témoignage, responsabilité institutionnelle et temps.

L’IA peut renforcer ces pratiques. Mais seulement si elle est délibérément conçue et limitée à cette fin.

La question n’est pas seulement : cette réponse d’IA est-elle correcte ? Mais : les conditions permettant encore de vérifier collectivement la vérité sont-elles préservées ?

Si ces conditions disparaissent, il restera peut-être un monde rempli de réponses.

Mais plus aucun espace public sachant pourquoi il devrait les croire.