Warum wir einen Bullshitdetektor für KI brauchen

1. Das Problem ist nicht der Unsinn

Menschen produzieren seit jeher Unsinn. Sie irren sich, übertreiben, verwechseln Korrelation und Ursache, zitieren falsch, vereinfachen komplizierte Zusammenhänge und sprechen mit großer Sicherheit über Dinge, die sie nicht ausreichend geprüft haben.

Künstliche Intelligenz hat dieses Problem nicht erfunden, aber die Form von Unsin verändert.

Ein fachlich schwacher Mensch verrät seine Unsicherheit durch Zögern, Widersprüche, begrenztes Vokabular oder erkennbare Wissenslücken. Generative KI zeigt diese Signale nicht. Sie kann eine unbelegte Aussage in derselben sprachlichen Qualität formulieren wie eine gut abgesicherte. Eine reale Studie und eine erfundene Studie können im gleichen Zitierstil erscheinen. Eine Vermutung kann so klingen wie ein Forschungsstand.

Generative KI verringert damit nicht zwingend die Differenz zwischen Wahrheit und Irrtum. Sie kann aber die sichtbare Differenz zwischen Wissen, Vermutung und Erfindung verkleinern.

Genau dafür brauchen wir einen Bullshitdetektor. Und das ist keine Maschine, das ist der kleine Teil im Hirn, den es schon seit Urzeiten gibt. Nur auf KI ist er noch nicht so gut trainiert.

Der Begriff meint kein Programm, das erkennt, ob ein Text von einer KI geschrieben wurde. Die Herkunft eines Textes sagt wenig über seine Qualität. Ein menschlicher Text kann falsch und substanzlos sein. Ein KI-unterstützter Text kann hervorragend recherchiert, sauber belegt und gedanklich eigenständig sein.

Verdient also eine Aussage, geglaubt, weitergegeben oder zur Grundlage einer Entscheidung gemacht zu werden?

2. Was „Bullshit“ hier bedeutet

Harry Frankfurt unterschied Bullshit von der Lüge. Der Lügner orientiert sich an der Wahrheit, weil er sie verdecken will. Der Bullshitter verhält sich anders. Entscheidend ist nicht, ob seine Aussage zufällig richtig oder falsch ist. Entscheidend ist seine fehlende Bindung an die Frage, ob sie wahr ist. [1]

Michael Townsen Hicks, James Humphries und Joe Slater haben diese Analyse auf ChatGPT übertragen. Sie argumentieren, dass die sprachliche Produktion großer Sprachmodelle nicht in derselben Weise auf Wahrheit gerichtet ist wie eine menschliche, begründete Tatsachenbehauptung. [2]

Ein Sprachmodell besitzt keine menschliche Haltung. Es ist nicht ehrlich, unehrlich oder gleichgültig. Es verfolgt keine bewusste Täuschungsabsicht. „Bullshit“ ist deshalb weder eine psychologische Diagnose der Maschine noch ein etablierter technischer Fehlerbegriff.

Der Begriff beschreibt hier eine Konstellation:

LeitgedankeDie sprachliche Überzeugungskraft einer Aussage übersteigt ihre epistemische Absicherung.

Eine Antwort klingt kompetent, ohne ausreichend belegt zu sein. Eine Erklärung wirkt nachvollziehbar, obwohl sie den tatsächlichen Entstehungsweg nicht zuverlässig abbildet. Eine Quellenliste sieht wissenschaftlich aus, obwohl einzelne Quellen nicht existieren oder die zugehörigen Aussagen nicht tragen.

3. Kein inneres Warnlicht, sondern ein Prüfverfahren

Der Begriff „Detektor“ ist missverständlich. Er klingt, als könnten Menschen intuitiv und zuverlässig erkennen, wann eine KI-Antwort nicht trägt.

Das können sie nicht. Aber sie können sich selber trainieren. Und auch wenn es ein wenig absurd klingt, je mehr sie mit KI arbeiten desto stärker ist ihr eigener Detektor ausgeprägt. (Quelle: Anekdotische eigene Erfahrung)

Ein Laie kann eine falsche medizinische Empfehlung, einen erfundenen juristischen Grundsatz oder eine fehlerhafte statistische Interpretation oft nicht am Stil erkennen. Gerade überzeugend formulierte Fehler können Fachfremde überfordern.

Der Bullshitdetektor ist deshalb kein inneres Warnlicht. Er ist ein risikobasiertes Prüfverfahren und untersucht vier Ebenen.

3.1 Die Outputebene

Ist die konkrete Aussage richtig, belegt und für den Kontext vollständig genug?

Hier geht es um Tatsachen, Zahlen, Quellen, Definitionen, Schlussfolgerungen und ausgelassene Einschränkungen.

3.2 Die Darstellungsebene

Wird der epistemische Status der Aussage angemessen kommuniziert?

Ist etwas sicher, wahrscheinlich, umstritten, hypothetisch oder unbekannt? Macht das System diese Unterschiede sichtbar oder glättet es sie sprachlich?

3.3 Die Nutzungsebene

Verlässt sich der Mensch angemessen auf die Antwort?

Eine gute Antwort kann ignoriert werden. Eine schlechte kann ungeprüft übernommen werden. Nicht nur die Modellleistung, sondern auch das Verhältnis zwischen Mensch und System entscheidet über das Ergebnis.

3.4 Die institutionelle Ebene

Wer prüft, verantwortet und korrigiert den Output?

Ein KI-generierter Satz in einer privaten Geburtstagskarte hat einen anderen Status als eine KI-gestützte medizinische Empfehlung, ein Behördenbescheid oder eine wissenschaftliche Veröffentlichung.

Eine erfundene Quelle ist ein Outputfehler. Verdeckte Unsicherheit ist ein Darstellungsfehler. Unkritische Übernahme ist ein Nutzungsfehler. Fehlende Kontrollprozesse sind ein institutioneller Fehler.

Der Bullshitdetektor muss alle vier erkennen, aber nicht mit denselben Mitteln.

4. Nicht jede „KI“ ist dasselbe

Auch technisch muss genauer unterschieden werden.

4.1 Das Basismodell

Ein Basismodell erzeugt Ausgaben auf Grundlage statistisch erlernter Muster. Sprachliche Wahrscheinlichkeit garantiert dabei keine faktische Richtigkeit.

4.2 Das Anwendungssystem

Ein modernes KI-Produkt kann zusätzlich Websuche, Datenbanken, Retrieval-Systeme, Rechner, Codeausführung, Quellenabruf und automatische Prüfmechanismen verwenden.

Ein solches System hat einen anderen epistemischen Status als ein frei generierendes Basismodell. Verlässliche Datenquellen und Verifikationsschritte können Fehler deutlich reduzieren.

Eine Suchfunktion kann eine unzuverlässige Quelle auswählen. Ein Retrieval-System kann den relevanten Abschnitt übersehen. Eine korrekt aufgerufene Quelle kann falsch interpretiert werden. Eine Zitation kann existieren, ohne die Behauptung zu stützen.

4.3 Der institutionelle Einsatz

Die dritte Ebene ist der konkrete Einsatzprozess.

Wer nutzt das System? Für welche Aufgabe? Mit welchen Daten? Unter welchem Zeitdruck? Welche Prüfung ist vorgesehen? Wer darf widersprechen? Wer haftet?

Die gleiche Technologie kann in einem privaten Brainstorming unproblematisch und in einem klinischen oder rechtlichen Verfahren hochriskant sein.

Es geht also nicht darum zu fragen, wie gut ist das Modell? Nein es geht um die Frage, wie verlässlich ist das gesamte System in diesem konkreten Einsatz?

5. Warum Plausibilität so überzeugend ist

Menschen beziehen einen großen Teil ihres Wissens aus Aussagen anderer. Wir können nicht jede Beobachtung selbst machen, jede Studie reproduzieren und jedes Gesetz eigenständig herleiten. Gesellschaften sind deshalb auf begründetes Vertrauen angewiesen.

Dan Sperber und seine Mitautoren beschreiben die menschlichen Mechanismen zur Prüfung kommunizierter Informationen als epistemische Wachsamkeit. Menschen beurteilen unter anderem die Kompetenz und Vertrauenswürdigkeit einer Quelle sowie die Plausibilität und Konsistenz einer Botschaft. [3]

Generative KI trifft auf diese Wachsamkeit unter ungewöhnlichen Bedingungen.

Sie zeigt Merkmale, die wir bei Menschen häufig als Vertrauenssignale lesen:

sprachliche Flüssigkeit, schnelle Reaktion, geordnete Argumentation, scheinbare Neutralität, breites Vokabular, ruhige Souveränität.

Bei einer Person können diese Merkmale mit Kompetenz verbunden sein. Bei einer KI sind sie zunächst Eigenschaften der erzeugten Oberfläche.

Flüssigkeit beweist kein Verständnis. Selbstsicherheit beweist keine Gewissheit. Ausgewogenheit beweist keine Vollständigkeit. Eine Quellenangabe beweist nicht, dass die Quelle die Aussage trägt.

Pennycook und Kollegen untersuchten die menschliche Empfänglichkeit für pseudo-tiefsinnige Aussagen. Ihre Befunde zeigen, dass bedeutungsvoll klingenden, aber inhaltlich schwachen Formulierungen durchaus Tiefe zugeschrieben wird. [4]

Generative KI kann die Kosten senken, mit denen plausible Aussagen in großer Menge formuliert und angepasst werden können. Welche langfristigen Wirkungen dies auf Urteilsfähigkeit und öffentliche Kommunikation haben wird, ist noch nicht abschließend erforscht.

Die sprachliche Qualität einer Antwort kann nicht länger als verlässlicher Hinweis auf ihre sachliche Qualität gelten.

6. Halluzination ist nur eine Fehlerklasse

Die Forschung dokumentiert, dass generative Systeme Aussagen erzeugen können, die nicht durch Quellen, Eingaben oder Tatsachen gedeckt sind. Übersichtsarbeiten unterscheiden verschiedene Formen solcher Halluzinationen und diskutieren Ursachen und Gegenmaßnahmen. [5]

Leider greift die Konzentration auf frei erfundene Aussagen zu kurz, da ja zwischen einer korrekten Aussage und einer vollständigen Erfindung ein breites Feld liegt:

eine richtige Zahl mit falschem Bezugsjahr, eine reale Studie mit überdehntem Ergebnis, eine Minderheitsmeinung, die als Konsens erscheint, eine zutreffende Regel ohne entscheidende Ausnahme, eine Korrelation, die zur Ursache umformuliert wird, eine plausible Zusammenfassung, die den zentralen Kontext entfernt, eine Quelle, die existiert, aber die Behauptung nicht belegt.

TruthfulQA zeigte bei den untersuchten damaligen Modellen, dass verbreitete menschliche Fehlvorstellungen reproduziert werden können und größere Modelle in diesem Benchmark nicht automatisch wahrheitsgemäßer waren. [6] Eine Untersuchung generativer Suchmaschinen fand erhebliche Lücken bei der vollständigen Stützung von Aussagen und bei der Genauigkeit einzelner Zitationen. [7]

Diese Befunde beziehen sich auf konkrete Modelle, Systeme und Erhebungszeitpunkte. Sie dürfen nicht als unveränderliche Eigenschaft jeder künftigen KI verallgemeinert werden.

LeitgedankeEine professionell formulierte Antwort kann erheblichen Prüfbedarf besitzen, auch wenn sie keine auffällige Halluzination enthält.

7. Das Ziel ist kalibriertes Vertrauen

Aus diesen Risiken folgt kein vernünftiges Argument für pauschales Misstrauen.

KI kann in bestimmten Aufgaben genauer, schneller und konsistenter arbeiten als Menschen. Wer gute maschinelle Empfehlungen grundsätzlich ablehnt, erzeugt ebenfalls Fehler.

Die Forschung zur Automation unterscheidet deshalb zwischen angemessener Nutzung, Übervertrauen und ungerechtfertigter Nichtnutzung. Lee und See sprechen von appropriate reliance, also einer an Aufgabe und Systemleistung ausgerichteten Abhängigkeit. [8]

Das Ziel ist kalibriertes Vertrauen.

Menschen sollten einer KI weder deshalb folgen, weil sie eine KI ist, noch ihr deshalb widersprechen.

Bei welchen Aufgaben ist das System stark? Welche Fehler treten typischerweise auf? Wie aktuell sind seine Informationen? Welche Datenquellen nutzt es? Wie groß wäre der Schaden eines Fehlers? Kann die Antwort unabhängig geprüft werden?

Das ist weitaus anspruchsvoller als Skepsis. Skepsis kann pauschal sein. Kalibriertes Vertrauen verlangt Unterscheidungsvermögen.

8. Erklärungen sind kein automatisches Gegenmittel

Eine verbreitete Hoffnung lautet: Wenn eine KI ihre Antwort erklärt, können Menschen ihre Qualität besser beurteilen.

Das kann funktionieren. Es muss aber nicht.

Chen und Kollegen untersuchten, wie Menschen unterschiedliche Erklärungstypen in KI-gestützten Entscheidungen verwenden. In ihren Aufgaben führten merkmalsbasierte Erklärungen teilweise zu stärkerer Überabhängigkeit, während beispielbasierte Erklärungen bessere Voraussetzungen für sinnvolle Korrektur boten. [9]

Vasconcelos und Kollegen zeigten in fünf Studien mit insgesamt 731 Teilnehmenden, dass Menschen Erklärungen eher prüfen, wenn der erwartete Nutzen die kognitiven Kosten rechtfertigt. Schwierige Aufgaben, schwer prüfbare Erklärungen und fehlende Anreize können Überabhängigkeit fördern. [10]

Eine Erklärung ist also nicht schon deshalb gut, weil sie erklärt klingt.

Menschen müssen die Erklärung verstehen, prüfen und gegen Alternativen halten können. Unter Zeitdruck oder ohne Fachkenntnis kann eine plausible Erklärung eine falsche Empfehlung sogar überzeugender machen.

Der Bullshitdetektor in uns muss deshalb auch fragen:

Ermöglicht diese Erklärung Kontrolle oder simuliert sie nur Nachvollziehbarkeit?

9. Die Pro-Seite: KI kann Menschen nachweislich helfen

Eine seriöse Analyse darf die Vorteile nicht als Nebensatz behandeln. Also weil man das eben so macht in Analysen.

Noy und Zhang fanden in einem kontrollierten Experiment, dass Teilnehmende bestimmte berufstypische Schreibaufgaben mit generativer KI schneller erledigten und im Durchschnitt besser bewertete Ergebnisse erzielten. [11]

Brynjolfsson, Li und Raymond untersuchten den Einsatz eines KI-Assistenten bei mehr als 5.000 Beschäftigten im Kundendienst. Der Zugang zur Assistenz erhöhte in diesem konkreten Einsatz die Produktivität, gemessen an gelösten Fällen pro Stunde. Besonders stark profitierten weniger erfahrene Beschäftigte. [12]:

KI kann Wissen zugänglicher machen, sprachliche Barrieren reduzieren, Routineaufgaben beschleunigen, Einsteigern Orientierung geben, Erfahrungswissen innerhalb von Organisationen verteilen.

Sie zeigen nicht, dass KI jede Wissensarbeit verbessert. Die Befunde sind aufgaben-, system- und kontextspezifisch.

Eine CHI-Studie mit 319 Wissensarbeitern fand Zusammenhänge zwischen höherem Vertrauen in generative KI und geringerem selbstberichteten kritischen Aufwand. Höheres Vertrauen in die eigene Kompetenz ging dagegen mit stärkerer Prüfung einher. Die Studie zeigt eine mögliche Verschiebung kognitiver Arbeit hin zur Kontrolle und Integration von KI-Ausgaben. Sie beweist keinen allgemeinen oder langfristigen Abbau menschlicher Denkfähigkeit. [13]

LeitgedankeKI kann Produktivität und Zugang zu Wissen verbessern. Ob daraus Kompetenzgewinn, Abhängigkeit oder Kompetenzverlust entsteht, hängt von Aufgabe, Nutzer, Systemdesign und Organisation ab.

10. Das Kompetenzparadox

Weniger erfahrene Menschen können von KI besonders stark profitieren. Gleichzeitig fehlt ihnen häufiger das Fachwissen, um subtile Fehler zu erkennen.

Der Anfänger erhält schneller eine professionell wirkende Antwort.

Der Experte erkennt eher, wo sie nicht trägt.

Daraus entsteht ein Kompetenzparadox:

Wer die größte Unterstützung erhält, kann zugleich am stärksten von ihr abhängig werden.

Das ist kein Argument gegen KI-gestütztes Lernen. KI kann hervorragend erklären, Rückfragen beantworten, Beispiele erzeugen und individuelles Feedback geben.

Entscheidend ist die Form der Nutzung.

Wer fragt:

„Erkläre mir den Lösungsweg, markiere Unsicherheiten und prüfe anschließend mein Verständnis“,

nutzt KI anders als jemand, der fragt:

„Löse die Aufgabe und schreibe die Abgabe.“

Im ersten Fall kann KI die Kompetenzentwicklung unterstützen. Im zweiten kann sie das sichtbare Ergebnis verbessern, ohne die zugrunde liegende Fähigkeit aufzubauen.

Der Bullshitdetektor prüft deshalb nicht nur die Maschine.

Er prüft auch die eigene Arbeitsteilung mit ihr.

11. Die gesellschaftlichen Folgen

11.1 Bildung

Bildung besteht nicht nur darin, richtige Ergebnisse zu produzieren. Sie entwickelt Fähigkeiten: lesen, vergleichen, begründen, formulieren, zweifeln, scheitern und korrigieren.

KI kann diese Prozesse unterstützen. Sie kann sie aber auch abkürzen.

Schulen und Hochschulen sollten deshalb nicht nur Prompting lehren. Lernende müssen KI-Antworten zerlegen, Quellen kontrollieren, überzogene Aussagen erkennen, Gegenpositionen entwickeln und Inhalte ohne KI erklären können.

Der relevante Prüfungsgegenstand verschiebt sich.

Weniger wichtig wird, ob jemand einen glatten Text produzieren kann. Wichtiger wird, ob er ihn versteht, verteidigt und korrigiert. Ist also eigentlich nichts anderes als früher in der Schule, als wir die Hausaufgaben vom Primus abgeschrieben haben.

11.2 Arbeitswelt

In vielen Wissensprozessen können die Kosten der Erzeugung schneller sinken als die Kosten fachlicher Prüfung.

Ein Bericht lässt sich in wenigen Minuten erzeugen. Seine Zahlen, Quellen und Schlussfolgerungen müssen dennoch kontrolliert werden. Werden diese Prüfungskosten an Kollegen oder Kunden weitergegeben, kann individuelle Geschwindigkeit steigen, während die Produktivität des Gesamtsystems sinkt.

Organisationen müssen deshalb nicht nur Output messen. Sie müssen Prüfaufwand, Fehlerkosten und Kompetenzentwicklung berücksichtigen.

11.3 Wissenschaft

Wissenschaftliche Qualität entsteht nicht durch akademischen Ton. Sie entsteht durch Methoden, Daten, Zitation, Kritik und Reproduzierbarkeit.

Eine Quelle muss existieren. Sie muss gelesen worden sein. Sie muss die konkrete Aussage tragen. Eine Zahl muss zum Original zurückverfolgbar sein. Die Autoren bleiben für jeden Satz verantwortlich.

„Die KI hat die Quelle genannt“ ist keine wissenschaftliche Begründung.

11.4 Öffentlichkeit

Generative KI senkt die Kosten sprachlich professioneller Inhalte. Dadurch kann die Menge plausibler Texte schneller wachsen als die Kapazität gesellschaftlicher Prüfung.

Wenn überprüfte Recherche und synthetische Plausibilität gleich aussehen, droht epistemische Erschöpfung: die Haltung, dass ohnehin nicht mehr feststellbar sei, was stimmt.

11.5 Ungleichheit

KI kann Wissenszugang demokratisieren. Gleichzeitig besteht das Risiko einer neuen Ungleichheit zwischen Menschen, die KI-Ausgaben fachlich beurteilen können, und Menschen, die auf deren Oberfläche angewiesen sind.

Ohne öffentliche Bildungs- und Prüfinfrastrukturen kann Bewertungsfähigkeit zu einem neuen Ungleichheitsfaktor werden.

Der Rat „Prüfe die Antwort“ schützt niemanden, der weder Zeit noch Fachwissen noch Zugang zu belastbaren Quellen besitzt.

12. Die Verantwortung beginnt nicht beim Nutzer

Es wäre bequem, aus all dem nur eine Forderung abzuleiten:

Die Menschen müssen kritischer denken.

Damit könnten Anbieter und Organisationen das Risiko an den einzelnen Nutzer weiterreichen.

Die Verantwortungsordnung muss umgekehrt beginnen.

Erstens: Anbieter

Anbieter müssen Systeme so gestalten, dass bekannte Fehler reduziert, Quellen nachvollziehbar und Unsicherheiten sichtbar werden. Sie dürfen sprachliche Gewissheit nicht systematisch stärker darstellen, als die Evidenz rechtfertigt.

Zweitens: Organisationen

Organisationen müssen festlegen, für welche Aufgaben KI eingesetzt werden darf, welche Prüfungen erforderlich sind, wer verantwortlich ist und wann ein Verfahren gestoppt werden muss.

Drittens: öffentliche Institutionen

Gesetzgebung und Aufsicht müssen Audit, Haftung, Beschwerde, Bildung und den Zugang zu unabhängigen Informationen sichern.

Viertens: Nutzer

Nutzer brauchen epistemische Wachsamkeit. Aber sie dürfen nicht die letzte Sicherung für Systeme sein, die sie fachlich gar nicht kontrollieren können.

LeitgedankeJe geringer die individuelle Prüfmöglichkeit und je größer der mögliche Schaden, desto weniger darf die Verlässlichkeit von einem persönlichen Bullshitdetektor abhängen.

Artikel 4 des EU AI Act verpflichtet Anbieter und Betreiber, Maßnahmen für ein ausreichendes Maß an KI-Kompetenz ihres Personals und weiterer handelnder Personen zu ergreifen.

KI-Kompetenz darf aber nicht mit Toolkenntnis oder Prompt-Schulung verwechselt werden. Sie muss auch die Fähigkeit umfassen, Outputs angemessen zu interpretieren, Grenzen zu erkennen und bei unzureichender Evidenz nicht weiterzuarbeiten.

13. Der Konflikt mit der Produktlogik

Ein System, das häufig Unsicherheit anzeigt, Gegenpositionen sichtbar macht, zur Primärquelle schickt und bei unzureichender Evidenz nicht antwortet, kann sich weniger reibungslos anfühlen als ein System, das sofort eine klare Antwort liefert.

Produkte werden häufig auf Geschwindigkeit, Nutzungshäufigkeit, geringe Abbruchraten und tiefe Integration optimiert. Epistemische Qualität kann dagegen Reibung verlangen:

Zeit, Prüfung, Rückfragen, Nichtwissen, Widerspruch, manchmal keine Antwort.

Das heißt nicht, dass Unternehmen zwangsläufig schlechte Systeme bauen. Es bedeutet, dass Wahrheitsqualität nicht automatisch aus guter Nutzererfahrung folgt.

Das hier ist eine Frage des Systemdesigns, der Geschäftsmodelle und der institutionellen Gegenmacht.

14. Ein praktisches Prüfverfahren

Ein brauchbarer Bullshitdetektor arbeitet nicht immer gleich streng. Er beginnt mit dem Risiko.

Schritt 1: Folgen bestimmen

Was passiert, wenn die Antwort falsch ist?

Ein unverbindliches Brainstorming verlangt weniger Kontrolle als eine medizinische, rechtliche, finanzielle oder öffentliche Tatsachenbehauptung.

Schritt 2: Behauptungen trennen

Welche Aussagen sind Tatsachen? Welche Interpretationen? Welche Prognosen? Welche Empfehlungen? Welche Werturteile?

Nur getrennte Behauptungen lassen sich sauber prüfen.

Schritt 3: Systemstatus klären

Antwortet ein Basismodell aus seinem trainierten Musterwissen? Nutzt die Anwendung aktuelle Webquellen? Greift sie auf eine definierte Datenbank zu? Wurde gerechnet oder nur sprachlich geschätzt?

Schritt 4: Quellen kontrollieren

Existiert die Quelle? Sind Autor, Titel und Datum korrekt? Ist es eine Primärquelle? Trägt sie die konkrete Behauptung? Wurde ihr Ergebnis überdehnt?

Schritt 5: Zahlen dekonstruieren

Zahlen brauchen Bezugsgröße, Zeitraum, Grundgesamtheit, Methode und Vergleichswert.

„40 Prozent“ ist keine belastbare Information, solange unklar ist: 40 Prozent wovon, wann, bei wem und im Vergleich womit?

Schritt 6: Gegenpositionen suchen

Welche seriöse Perspektive widerspricht der Antwort? Welche Einschränkung würde ein Fachvertreter nennen? Welche Information könnte die Schlussfolgerung ändern?

Schritt 7: Unabhängig triangulieren

Tragende Aussagen brauchen einen unabhängigen Prüfweg: Primärquelle, Fachdatenbank, Gesetzestext, offizielle Statistik, systematische Übersichtsarbeit oder qualifizierte Fachperson.

Mehrere Antworten verwandter KI-Systeme sind nicht automatisch unabhängige Belege.

Schritt 8: Stoppen können

Wenn eine Aussage nicht ausreichend geprüft werden kann, lautet die richtige Kennzeichnung:

Nicht verifiziert.

Das ist kein Versagen. Es ist epistemische Hygiene.

15. Die Gegenargumente

Menschen produzieren ebenfalls Bullshit

Richtig. KI ist nicht die ursprüngliche Ursache.

Sie kann jedoch Produktionskosten, Geschwindigkeit und Anpassungsfähigkeit plausibler Inhalte verändern. Aus einem menschlichen Problem kann dadurch ein Skalierungsproblem werden.

Permanente Prüfung zerstört den Nutzen

Ebenfalls richtig, wenn jede harmlose Aufgabe wie ein Hochrisikoverfahren behandelt wird.

Deshalb muss die Prüfung risikobasiert sein. Je größer die Folgen, desto strenger der Standard.

KI kann besser entscheiden als Menschen

In bestimmten Aufgaben ja.

Der Bullshitdetektor soll menschliche Autorität nicht absolut setzen. Er soll menschliche und maschinelle Fehler gegeneinander absichern.

Manchmal muss der Mensch die KI korrigieren. Manchmal muss die KI den Menschen korrigieren.

Gute Systeme ermöglichen beides.

Niemand kann alles selbst überprüfen

Genau deshalb leben Gesellschaften von Arbeitsteilung und begründetem Vertrauen.

Der Bullshitdetektor bedeutet nicht, alles persönlich nachzurechnen. Er bedeutet zu erkennen, wann normales Vertrauen reicht und wann eine Quelle, ein Verfahren oder ein Experte nötig ist.

Der Begriff ist zu polemisch

Für einen technischen Standard wäre er ungeeignet. Für die öffentliche Debatte erfüllt er eine Funktion: Er benennt drastisch die Differenz zwischen überzeugender Sprache und unverdienter epistemischer Autorität.

Damit der Begriff wissenschaftlich trägt, muss seine Grenze klar bleiben.

Er beschreibt kein Bewusstsein der Maschine.

Er beschreibt ein Prüfproblem der Gesellschaft.

16. Schluss: Die Maschine darf antworten

Wir werden KI nutzen.

Heute Morgen. Für E-Mails, Recherche, Übersetzungen, Analysen, Unterricht, Programmierung, Verwaltung, Wissenschaft und Entscheidungen.

Die entscheidende Kompetenz liegt nicht mehr nur darin, gute Antworten zu erzeugen.

Sie liegt darin, den Status einer Antwort beurteilen zu können.

Ist das Wissen? Eine plausible Vermutung? Eine unvollständige Zusammenfassung? Eine echte Quelle? Eine Empfehlung ohne ausreichende Grundlage? Oder eine sprachlich beeindruckende Form, die epistemisch nicht trägt?

Der Bullshitdetektor schützt nicht vor jedem Irrtum.

Er schützt die Differenz zwischen Sprache und Wissen, zwischen Erklärung und Evidenz, zwischen Assistenz und Autorität.

Je zuverlässiger sie werden, desto seltener können Fehler auftreten. Aber seltene Fehler können schwerer erkennbar werden, weil hohe Zuverlässigkeit aktive Kontrolle schwächen kann. Die Automationsforschung warnt seit Langem vor unangemessener Nutzung, Nichtnutzung und Übernutzung technischer Systeme. [15]

Die Maschine darf antworten.

Aber kein Mensch, kein Unternehmen und keine Institution darf eine überzeugende Antwort allein deshalb für Wissen halten, weil sie überzeugend ist.