artículo

Por qué necesitamos un detector de bullshit para la IA

La inteligencia artificial generativa puede producir respuestas lingüísticamente claras, estructuradas y convincentes cuyas afirmaciones sean, no obstante, falsas, incompletas, infundadas o inadecuadas para el contexto correspondiente. El problema central no es únicamente la conocida posibilidad de las llamadas alucinaciones. Reside en la creciente diferencia entre la plausibilidad lingüística y la fiabilidad epistémica. El artículo utiliza el concepto deliberadamente provocador de detector de bullshit, no como diagnóstico psicológico de la máquina ni como un supuesto órgano humano de alerta fiable. Se refiere a un procedimiento propio, corporal y basado en riesgos que examina por separado las afirmaciones, la presentación, el uso y la responsabilidad institucional. El objetivo no es la desconfianza general ni la aceptación ciega, sino una confianza calibrada. También podría decirse: usa el sentido común. Al mismo tiempo, el artículo muestra por qué no basta con la capacidad crítica individual. Cuanto menos puedan los usuarios realizar una verificación especializada y cuanto mayor sea el daño posible, menos debe depender la seguridad de un sistema de IA de su capacidad personal de juicio. Los proveedores, las organizaciones y las instituciones públicas tienen una responsabilidad previa. Por eso, el detector de bullshit no es únicamente una competencia individual. Es una infraestructura social e institucional para relacionarnos con la inteligencia artificial. Pero, por supuesto, tampoco es una excusa para no seguir desarrollando nuestro propio séptimo sentido.