Artikel

Warum wir einen Bullshitdetektor für KI brauchen

Generative künstliche Intelligenz kann sprachlich klare, strukturierte und überzeugende Antworten erzeugen, deren Aussagen dennoch falsch, unvollständig, unbelegt oder für den jeweiligen Kontext ungeeignet sind. Das zentrale Problem ist nicht allein die bekannte Möglichkeit sogenannter Halluzinationen. Es liegt in der wachsenden Differenz zwischen sprachlicher Plausibilität und epistemischer Verlässlichkeit. Der Beitrag verwendet den zugespitzten Begriff des Bullshitdetektors nicht als psychologische Diagnose der Maschine und nicht als vermeintlich zuverlässiges menschliches Warnorgan. Gemeint ist ein eigenes, körperliches, risikobasiertes Prüfverfahren, das Aussagen, Darstellung, Nutzung und institutionelle Verantwortung getrennt untersucht. Ziel ist weder pauschales Misstrauen noch blinde Akzeptanz, sondern kalibriertes Vertrauen. Man könnte auch sagen, nutze den gesunden Menschenverstand. Der Artikel zeigt zugleich, warum individuelle Kritikfähigkeit nicht genügt. Je weniger Nutzer fachlich prüfen können und je größer der mögliche Schaden ist, desto weniger darf die Sicherheit eines KI-Systems von ihrem persönlichen Urteilsvermögen abhängen. Anbieter, Organisationen und öffentliche Institutionen tragen eine vorgelagerte Verantwortung. Der Bullshitdetektor ist deshalb nicht nur eine individuelle Kompetenz. Er ist eine gesellschaftliche und institutionelle Infrastruktur für den Umgang mit künstlicher Intelligenz. Aber er ist natürlich auch keine Entschuldigung den eigenen siebten Sinn nicht weiter zu entwickeln.