Articles

Pourquoi nous avons besoin d’un détecteur de bullshit pour l’IA

L’intelligence artificielle générative peut produire des réponses linguistiquement claires, structurées et convaincantes dont les affirmations sont néanmoins fausses, incomplètes, non étayées ou inadaptées au contexte concerné. Le problème central ne réside pas seulement dans la possibilité bien connue des hallucinations. Il tient à l’écart croissant entre la plausibilité linguistique et la fiabilité épistémique. Cette contribution emploie la notion incisive de détecteur de bullshit non comme un diagnostic psychologique de la machine ni comme un prétendu organe d’alerte humain fiable. Il s’agit d’une procédure de vérification personnelle, corporelle et fondée sur le risque, qui examine séparément les affirmations, la présentation, l’utilisation et la responsabilité institutionnelle. Le but n’est ni la méfiance généralisée ni l’acceptation aveugle, mais une confiance calibrée. On pourrait aussi dire : faites preuve de bon sens. L’article montre en même temps pourquoi l’esprit critique individuel ne suffit pas. Moins les utilisateurs sont capables de procéder à une vérification spécialisée et plus le dommage potentiel est grand, moins la sécurité d’un système d’IA doit dépendre de leur jugement personnel. Les fournisseurs, les organisations et les institutions publiques portent une responsabilité en amont. Le détecteur de bullshit n’est donc pas seulement une compétence individuelle. C’est une infrastructure sociale et institutionnelle pour gérer l’intelligence artificielle. Mais ce n’est évidemment pas non plus une excuse pour ne pas continuer à développer son propre septième sens.