KI braucht keine besseren Manieren. Sie braucht eine Verfassung.

1. Dauerbrenner, die wichtig, aber oft zu eng gestellt sind

„Wird KI alle Jobs ersetzen?“

Das ist ein klassischer Dauerbrenner. Er kommt ständig wieder, weil er Angst, Ökonomie und Zukunft auf einen Punkt zieht. Öffentlich wird er meist als Alles-oder-nichts-Frage diskutiert: Massenarbeitslosigkeit oder Produktivitätsschub. Diese Zuspitzung ist aus meiner Sicht zu grob, weil die Wirklichkeit widersprüchlicher ist und stark davon abhängt, wie Menschen, Institutionen und Märkte reagieren. Und selbst KI weiß das ja nicht.

Die Frage geht vorbei, weil sie zu sehr auf Arbeitsplätze schaut und zu wenig auf Urteil, Verantwortung und Arbeitsform. Die tiefere Frage ist nicht nur, ob Menschen ersetzt werden, sondern ob ihre Rolle in Entscheidungen, Deutung, Verantwortung und professionellem Urteil ausgehöhlt wird. KI ersetzt nicht einfach Expertinnen und Experten. Sie verändert die Bedingungen, unter denen menschliches Urteil überhaupt noch wirksam bleibt.

„Ist KI neutral oder biased?“

Auch das ist ein Dauerbrenner. Bias – im KI-Kontext bedeutet das, dass ein System nicht neutral bewertet, sortiert oder empfiehlt, sondern bestimmte Muster, Gruppen, Sichtweisen oder Ergebnisse bevorzugt, oft ohne dass es offen sichtbar ist – wird zu Recht viel diskutiert. Aber die Gegenüberstellung „neutral oder voreingenommen“ ist selbst schon zu simpel. KI ist weder neutral noch zwangsläufig irreparabel voreingenommen. Sie wird als sozio-technisches System durch Daten, Zielgrößen, Einsatzkontext und institutionelle Entscheidungen geformt.

Die Frage geht oft vorbei, weil sie so tut, als wäre das Problem vor allem eine Eigenschaft des Modells. In Wirklichkeit ist es häufig ein Problem von Designentscheidungen, Datenpolitik, Organisation, Einsatzlogik und fehlender Rechenschaft. Bias ist wichtig. Aber die tieferliegende Frage lautet doch eigentlich: Wer definiert die Ordnung, in der dieses System urteilt?

„Kann man KI erklären oder ist sie eine Black Box?“

Auch das ist wichtig und oft falsch polarisiert. Die öffentliche Debatte schwankt zwischen zwei Extremen: totale Transparenz oder totale Unverständlichkeit. Doch Erklärbarkeit scheitert nicht an Technologie allein, sondern auch an Design- und Governance-Entscheidungen.

Die Frage wird technisch gestellt und nicht institutionell. Die eigentliche Frage ist nicht nur, ob ein Modell erklärbar ist, sondern für wen, in welchem Kontext, mit welcher Eingriffsmöglichkeit und mit welcher Verantwortung.

2. Dauerbrenner, die vom Kern ablenken

„Wird KI bewusst?“

Das ist vermutlich einer der größten Diskursmagneten überhaupt. Bewusstsein, Empfindung, Selbstsein, Personenstatus – all das zieht Aufmerksamkeit an wie mich der Kühlschrank in der Nacht.

Die Frage ist philosophisch legitim. Aber im öffentlichen Diskurs wird sie oft zu früh gestellt und verdrängt dann akutere Fragen nach Macht, Institution, Aufmerksamkeit, Abhängigkeit und Verantwortung.

Wir spekulieren über mögliches Innenleben, während reale Systeme schon heute Entscheidungen prägen, Aufmerksamkeit lenken, Kommunikation formen und menschliches Urteil entlasten oder verdrängen. Die Frage „Hat KI Bewusstsein?“ kann intellektuell reizvoll sein. Aber sie ist oft ein Luxusproblem, solange wir noch nicht einmal geklärt haben, welche Rolle KI ohne Bewusstsein in Wahrheit, Macht und Entscheidung spielen darf. Oder anders gesagt: Sollten wir nicht erst einmal definieren, was Bewusstsein überhaupt ist?

„Ist Superintelligenz das eigentliche Problem?“

Auch das ist ein Dauerbrenner. Ein Teil der öffentlichen Debatte wird regelmäßig von langfristigen Extremrisiken dominiert. Diese Fragen sind nicht erfunden, und selbst führende Protagonisten warnen vor sehr großen künftigen Risiken.

Doch auch diese Frage geht oft vorbei, weil sie Aufmerksamkeit von den heute bereits wirksamen Macht- und Governance-Problemen abzieht. Debatten betrachten KI entweder als fernes existenzielles Monster oder als neutrales Tool und missverstehen die existierenden rechtlich und gesellschaftlich wirksamen Systeme.

Die ferne Superintelligenz ist nicht das einzige Problem. Vielleicht ist das größere Problem, dass wir aktuelle KI unterschätzen, weil sie noch nicht gottgleich wirkt.

„Ist KI nur ein Tool?“

Das klingt harmlos, ist aber selbst eine dieser Dauerbrenner-Unterstellungen. Diese Sicht ist zu klein: KI ist nicht nur Code oder Mathematik, sondern ein menschlich gestaltetes sozio-technisches System, eingebettet in Organisationen, Datenflüsse, Rechtsfolgen und Machtverhältnisse.

Ein Hammer verändert nicht heimlich Aufmerksamkeit, Plausibilität, Verwaltungsentscheidungen und kognitive Routinen. KI zunehmend schon.

3. Fragen, die das Richtige berühren, aber oberflächlich bleiben

„Wie bekämpfen wir Desinformation und Deepfakes?“

Das ist ein sehr realer Dauerbrenner und völlig legitim. Der Global Risks Report 2026 beschreibt Fehl- und Desinformation weiterhin als eng mit technologischen und gesellschaftlichen Risiken verbunden; KI-gestützte synthetische Medien können diese Lage verschärfen. [2]

Warum die Frage oft zu kurz springt: Sie fokussiert Inhalte und zu wenig Aufmerksamkeit, Überzeugung und Infrastruktur. Das Problem sind nicht nur falsche Inhalte, sondern Systeme, die psychologische Profile, emotionale Trigger und Engagement-Logiken nutzen, um Verhalten zu lenken.

Die tiefere Frage wäre nicht nur: „Was ist falsch?“, sondern: Wer gewinnt Macht darüber, was überhaupt gesehen, gefühlt und geteilt wird?

„Wie regulieren wir KI richtig?“

Auch das ist ein zentraler Dauerbrenner. Aber „mehr Regulierung oder weniger Regulierung?“ ist zu platt. Fehlsteuerung entsteht oft aus falschen Grundannahmen und nicht nur aus fehlenden Paragrafen.

Die Frage ist zu juristisch und zu wenig zivilisatorisch gestellt. Regulierung ist wichtig. Aber wenn sie nur auf Risikoklassen, Sicherheitsprüfungen und Dokumentation schaut, fehlt die tiefere Frage: Was muss an Urteilskraft, Wahrheitsökologie und institutioneller Gegenmacht geschützt werden?

4. Welche Fragen eigentlich gestellt werden müssten

Hier liegt aus meiner Sicht der eigentliche blinde Fleck. Die aktuelle Diskussion verschiebt den Fokus bereits in diese Richtung, besonders dort, wo KI nicht mehr bloß als Software, sondern als kognitive Infrastruktur beschrieben wird. [1]

• Frage eins – nicht: „Ist KI intelligent genug?“ Sondern: Welche Rolle darf KI in Wahrheit und Entscheidung überhaupt einnehmen?

• Frage zwei – nicht: „Hat KI Bias?“ Sondern: Wer baut die Ordnung, in der sie urteilt, priorisiert und klassifiziert?

• Frage drei – nicht: „Ist KI nur Tool oder Bedrohung?“ Sondern: Wie verändert KI die Bedingungen, unter denen Menschen wahrnehmen, prüfen und handeln?

• Frage vier – nicht: „Wie verhindern wir Fakes?“ Sondern: Wie schützen wir die soziale Ökologie von Wahrheit – Zeugenschaft, Streit, Korrektur, Quellenvertrauen und Zeit zur Prüfung?

• Frage fünf – nicht: „Wird KI uns ersetzen?“ Sondern: Welche Formen von Urteil, Verantwortung und Beziehung dürfen nicht in glatte Automation übergehen?

• Frage sechs – nicht: „Kann man KI erklären?“ Sondern: Für wen muss sie erklärbar sein, mit welchen Rechten auf Widerspruch, Korrektur und Eingriff?

• Frage sieben – nicht: „Wie machen wir KI nützlicher?“ Sondern: Wie verhindern wir, dass Nützlichkeit in unsichtbare Abhängigkeit kippt?

• Frage acht – nicht: „Wie schützen wir Menschen vor KI?“ Sondern: Wie schützen wir Menschen auch davor, ihre eigene Urteilskraft, Reibungsfähigkeit und kognitive Eigenständigkeit zu verlernen?

Gerade diese letzte Verschiebung taucht inzwischen öffentlich auf: KI wird als „default layer of human cognition“ beschrieben. Dadurch rückt die Frage nach menschlicher Urteilskraft und kognitiver Resilienz ins Zentrum. [1]

5. Meine Verdichtung

Die öffentlichen Dauerbrenner sind Jobs, Bias, Black Box, Deepfakes, Bewusstsein, Superintelligenz und Regulierung.

Die meisten davon sind nicht falsch. Aber viele sind zu eng, zu spät oder falsch gerahmt. Sie schauen entweder auf eine spektakuläre Zukunft oder auf isolierte technische Eigenschaften. Was dabei oft unterbelichtet bleibt, ist KI als sozio-technische Macht- und Wahrheitsinfrastruktur, die schon heute Verhalten, Aufmerksamkeit, Plausibilität und Urteil formt.

Die schärfste Formulierung wäre:

LeitgedankeDer öffentliche KI-Diskurs fragt zu oft, was KI ist, und zu selten, welche Ordnung sie schafft.

Oder noch schärfer:

LeitgedankeViele Dauerbrenner drehen sich um Bewusstsein, Jobs oder Fakes. Der eigentliche Kern könnte aber woanders liegen: bei Aufmerksamkeit, Abhängigkeit, Urteilskraft und der Frage, wer die neue Infrastruktur des Wirklichen baut.

Denn die eigentliche Frage ist längst nicht mehr, ob KI beeindruckend ist. Das ist sie. Die Frage ist auch nicht mehr, ob sie Risiken hat. Hat sie. Und wir sprechen darüber, als hinge unser Leben davon ab. Könnte sein, ist aber nicht sicher. Oder ob ein Chatbot heute einen schlechten Tag hatte.

Und was ist dann die eigentliche Frage? Für mich diese:

LeitgedankeKI-Governance ist nicht nur Ethik. Sie ist organisierter Überlebenswille einer Spezies, die zum ersten Mal eine mögliche Nachfolgerintelligenz selbst hervorbringt.

Wir begrenzen Maschinenintelligenz nicht, weil wir beweisen können, dass der Mensch die höhere Intelligenz ist, sondern weil wir leben wollen und noch die Macht haben, unser Leben zu verteidigen.

Hier wird es unschön. Denn nun reden wir nicht mehr über Tools. Nicht mehr über nette Produktivitätshelfer mit freundlicher Benutzeroberfläche. Ab hier reden wir über Ordnung. Über Grenzen. Über Zuständigkeit. Über Gegenmacht. Also über Dinge, die in der Tech-Welt ungefähr so beliebt sind wie eine Steuerprüfung.

Und genau deshalb muss man dorthin.

Würde KI einfach nur Texte schreiben oder Bilder malen, wäre es einfacher. Doch KI greift tiefer ein. Sie verändert, wie wir formulieren. Wie wir prüfen. Wie wir Aufmerksamkeit verteilen. Wie wir Entscheidungen vorbereiten. Wie wir uns selbst wahrnehmen. Wie wir Zweifel aushalten. Wie wir ein Gegenüber erleben. Und wenn wir Pech haben, irgendwann auch, ob wir ohne sie überhaupt noch denken können.

Wir haben hier also mitnichten eine reine Technologiedebatte.

Wenn ein System in Wahrheit, Macht, Kommunikation und Selbstbildung eingreift, dann reicht es nicht, hinterher ein paar Guardrails – und welcher Otto Normalverbraucher weiß schon, was Guardrails überhaupt sind – dranzukleben und zu sagen, man nehme Verantwortung sehr, sehr, sehr ernst.

Okay, genug gemeckert. Was wir brauchen, ist aus meiner Sicht etwas Grundsätzlicheres. Mehr als Safety, Governance oder bessere Modelle. Das auch, aber nicht nur.

Und nun ein Riesenwort: Wir brauchen eine Verfassung für KI.

Nicht unbedingt morgen als weltweites Gesetzespaket, aber als klare Antwort auf eine einfache Frage: Was darf KI, was darf sie nicht, wo muss sie begrenzt werden und was muss vor ihr geschützt werden, gerade weil sie so nützlich ist?

Das Gefährliche an KI ist nicht nur das Schlechte. Es ist das Hilfreiche. Das Praktische. Das Glatte. Der Stoff, bei dem man sich denkt: Ach, wunderbar, endlich geht das schneller. Und erst später merkt man, dass mit der Geschwindigkeit auch etwas verschwindet. Etwas, das sich nicht so leicht zurückholen lässt.

Urteilskraft zum Beispiel. Reibung. Zeit. Verantwortung. Wirkliche Gegenüber. Die Fähigkeit, bei einem unfertigen Gedanken zu bleiben.

Genau deshalb komme ich auf diese 19 Punkte. Nicht, weil ich Regeln liebe. Sondern weil ich glaube, dass wir gerade dabei sind, etwas sehr Großes sehr freundlich hereinzulassen.

6. Warum man hier überhaupt von Verfassung reden muss

Eine Verfassung braucht man da, wo Macht nicht nur punktuell auftaucht, sondern strukturell wird. Wo etwas nicht bloß benutzt wird, sondern die Bedingungen mitprägt, unter denen anderes geschieht.

Man braucht keine Verfassung für einen Hammer. Auch nicht für ein Fahrrad. Nicht einmal für viele digitale Werkzeuge.

Man braucht sie da, wo ein System anfängt, zur stillen Umwelt des Handelns zu werden.

Genau das tut KI.

Sie ist nicht mehr nur Werkzeug. Sie wird Zwischeninstanz.

Zwischen Frage und Antwort. Zwischen Information und Urteil. Zwischen Erfahrung und Formulierung. Zwischen Mensch und Aufmerksamkeit. Manchmal schon zwischen Mensch und sich selbst.

Und das ist nicht wenig.

Denn ab da verändert KI nicht nur, was wir tun. Sie verändert langsam auch, wie wir zu einem Gedanken, zu einem Urteil, zu einer Entscheidung, vielleicht sogar zu uns selbst kommen.

Spätestens da reicht es nicht mehr, über Effizienz zu reden. Spätestens da geht es um Grenze.

7. Fünf öffentliche Ansätze, kurz eingeordnet

Die EU baut die bislang stärkste rechtsförmige Ordnung für KI. Aber eine volle KI-Verfassung in meinem Sinn müsste noch tiefer gehen: weg von bloßem Risikomanagement, hin zu Wahrheit, Macht, Aufmerksamkeit, Selbstbildung und dem Schutz menschlicher Urteilskraft.

EU AI Act

Der EU AI Act ist die bislang stärkste rechtsförmige KI-Ordnung. Er trat am 1. August 2024 in Kraft. Verbotene Praktiken und Regeln zur KI-Kompetenz gelten seit 2. Februar 2025, Governance-Regeln und Pflichten für General-Purpose-AI-Modelle seit 2. August 2025. Seit 2. August 2026 ist der Act grundsätzlich anwendbar. Nach dem Digital Omnibus gelten die Hochrisikoregeln für bestimmte sensible Einsatzfelder ab 2. Dezember 2027 und für KI in regulierten Produkten ab 2. August 2028. Die EU ordnet KI risikobasiert, verbietet bestimmte Praktiken und baut Governance und Durchsetzung über AI Office, AI Board, Scientific Panel, Advisory Forum und nationale Behörden auf. [3]

Europarat: Framework Convention

Die Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law des Europarats ist der erste international rechtsverbindliche Vertrag in diesem Feld. Sie wurde am 5. September 2024 zur Unterzeichnung geöffnet und soll KI über ihren gesamten Lebenszyklus mit Menschenrechten, Demokratie und Rechtsstaatlichkeit vereinbar halten. [4]

OECD AI Principles

Die OECD AI Principles sind der erste zwischenstaatliche Standard auf diesem Feld. Sie wurden 2019 verabschiedet und 2024 aktualisiert, um unter anderem General-Purpose- und generative KI, Sicherheit, Information Integrity, Privatsphäre und geistiges Eigentum stärker einzubeziehen. Sie sind breit einflussreich, aber nicht hart rechtsverbindlich. [5]

UNESCO Recommendation

Die UNESCO Recommendation on the Ethics of Artificial Intelligence wurde 2021 verabschiedet und ist der globale Normrahmen für die UNESCO-Mitgliedstaaten. Sie ist menschenrechtsbasiert, betont Würde, Transparenz, Fairness und menschliche Aufsicht und umfasst Handlungsfelder wie Data Governance, Bildung, Gesundheit, Umwelt und soziale Wohlfahrt. [6]

U.S. Blueprint for an AI Bill of Rights

Der Blueprint for an AI Bill of Rights aus dem Umfeld des Weißen Hauses ist ein Rechte- und Leitbildrahmen, kein bindendes Gesetz. Er entstand 2022 über das Office of Science and Technology Policy und bündelt fünf Schutzbereiche: sichere und wirksame Systeme, Schutz vor algorithmischer Diskriminierung, Datenschutz, Information und Erklärung sowie menschliche Alternativen, Berücksichtigung und Rückfallmöglichkeiten. [7]

NIST AI Risk Management Framework

Das NIST AI RMF ist ein praktischer Rahmen für den Umgang mit KI-Risiken. Es wurde 2023 veröffentlicht, ist freiwillig und organisiert Risikomanagement über die Funktionen Govern, Map, Measure und Manage. Es ist wichtig, aber eher Governance als Verfassung. [8]

8. Die 19 Punkte im Vergleich zu öffentlichen Ansätzen

Ich ordne die Punkte in fünf Blöcke: technische Begrenzung, Wahrheit und Erkenntnis, Institution und Macht, Mensch und Kultur sowie Marktstress und Durchsetzung.

Bei Rollenbegrenzung arbeiten EU und andere Rahmen mit Risikoklassen, verbotenen Praktiken und verantwortlicher Nutzung. Das ist anschlussfähig, aber keine explizite Rollenarchitektur.

Die Begrenzung autonomer Letzthandlungen ist öffentlich bereits stark angelegt: über menschliche Aufsicht, Verbote und menschliche Alternativen. Entscheidend bleibt, ob aus formaler Aufsicht echte Entscheidungsmacht wird.

Kontrollierbarkeit durch Design ist im AI Act und besonders im NIST-Rahmen angelegt. Oft erscheint sie aber als Governance-Praxis und nicht als unverrückbare Grenze.

Auditierbarkeit gehört zu den am besten abgedeckten Punkten. Dokumentation, Risikomanagement, Reporting und zuständige Behörden schaffen dafür eine belastbare Grundlage.

Rückkopplungsschutz ist schwächer. Bias, Manipulation und gesellschaftliche Risiken werden adressiert; rekursive Selbstverstärkung als eigener Strukturmechanismus bleibt unterentwickelt.

Wahrheit durch Mehrfachprüfung ist kaum ausdrücklich geregelt. Transparenz und Information Integrity helfen, ersetzen aber nicht die epistemische Regel, Wahrheit nie aus einer Einzelantwort abzuleiten.

Kommunikationsklarheit und Verständlichkeit sind breit anschlussfähig. Transparenzpflichten, Kennzeichnung, Notice and Explanation sowie Explainability gehen in diese Richtung. In der Praxis bleibt die Frage: verständlich für wen und mit welchem Recht auf Eingriff?

Epistemische Pluralität ist nur indirekt vorhanden. Vielfalt und demokratische Werte kommen vor; ein Schutz gegen die Zentralisierung der Wissensordnung bei wenigen Modellen wird kaum ausdrücklich formuliert.

Beim Schutz der Wahrheitsökologie streifen EU, Europarat, OECD und UNESCO einzelne Teile. Kein Rahmen arbeitet Wahrheit jedoch konsequent als soziale Ökologie von Zeit, Streit, Zeugenschaft und Korrektur aus.

Menschliche Letztverantwortung ist normativ klar verankert. Sie bleibt aber wertlos, wenn der Mensch nur den letzten Klick liefert.

Machtkontrolle ist über Grundrechte, Aufsicht und Rechtsstaatlichkeit vorhanden. Mein Modell benennt den Machtbegriff offener: Sichtbarkeit, Ranking, Framing und Normierung sind selbst Formen von Macht.

Pluralität statt Monopol ist kaum Kernbestandteil der öffentlichen KI-Rahmen. Der AI Act ist kein Wettbewerbsrecht. Demokratie und Inklusivität helfen nur indirekt.

Infrastruktur-Souveränität ist politisch präsent, aber in den genannten Verfassungsansätzen kein ausgearbeiteter zentraler Artikel.

Der Schutz menschlicher Urteilskraft, Gegenwart und Würde ist bei UNESCO am stärksten anschlussfähig. Die Empfehlung erkennt ausdrücklich an, dass KI menschliches Denken, Interaktion und Entscheiden beeinflusst. Urteilskraft als eigenes Schutzgut bleibt trotzdem zu schwach. [6]

Ein Schwellen- und Eskalationssystem ist im risikobasierten AI Act weit entwickelt und im NIST-Rahmen operativ anschlussfähig.

Regelmäßige öffentliche Selbstbewertung ist nur teilweise institutionalisiert. Dokumentations- und Meldepflichten sind etwas anderes als eine starke öffentliche Rechenschaft über Fähigkeiten, Grenzen und offene Unsicherheiten.

Modellbezogene Sicherheitsdossiers je Release und Update lassen sich an Pflichten für General-Purpose AI und NIST-Praktiken anbinden. Als durchgängiger Standard fehlen sie.

Sonderregeln für Manipulation sind im AI Act deutlich angelegt. Steuerungsverlust unter adversarialen Bedingungen wird dagegen eher über allgemeines Risikomanagement als über eine eigene harte Kategorie behandelt. [3]

9. Die Kurzdiagnose

Am stärksten passend zu meinem Modell sind:

1. der EU AI Act, weil er echte Verbote, Hochrisikoregeln, Pflichten für General-Purpose AI, Governance und Durchsetzung kombiniert; 2. die Europarat-Konvention, weil sie Menschenrechte, Demokratie und Rechtsstaatlichkeit als oberen Maßstab setzt.

Stark normativ, aber weniger durchsetzbar sind:

3. die UNESCO-Empfehlung, weil sie Würde, menschliche Aufsicht, soziale Folgen und die Beeinflussung menschlichen Denkens breit anlegt; 4. die OECD-Prinzipien, weil demokratische Werte, Menschenrechte, Information Integrity und vertrauenswürdige KI stark sind, aber als Policy-Leitbild wirken.

Wichtig, aber kein Verfassungsansatz mit Zähnen sind:

5. der AI Bill of Rights als Rechtekatalog ohne harte Durchsetzung; 6. das NIST AI RMF als exzellentes freiwilliges Governance- und Risikoinstrument, das nicht primär auf Machtbegrenzung angelegt ist.

10. Wo mein Modell weitergeht

Wenn ich es hart zuspitze, bringt mein Modell fünf Dinge in den Diskurs, die öffentlich bisher zu schwach sind.

Erstens: Wahrheitsökologie statt nur Wahrheitskontrolle. Also nicht nur Fact-Checking, sondern Schutz der Bedingungen von Wahrheit.

Zweitens: epistemische Pluralität als explizites Schutzgut gegen Wahrheitsmonopole weniger Modelle.

Drittens: Urteilskraft als eigenständiges Schutzgut. Öffentliche Rahmen schützen Rechte, Würde und Sicherheit, aber selten die Fähigkeit des Menschen, selbst zu prüfen und zu urteilen.

Viertens: unsichtbare Abhängigkeit als systemischer Bruch. Öffentliche Rahmen reden viel über Risiko, aber wenig darüber, dass KI zur stillen Voraussetzung von Wahrnehmung und Handlung werden kann.

Fünftens: KI als Infrastruktur der Selbstbildung. UNESCO kommt dem noch am nächsten, aber mein Modell geht tiefer in Richtung Identität, Selbstbeschreibung, Spiegelung und Beziehung.

Meine klare Schlussformel lautet:

LeitgedankeDie EU und der Europarat kommen meinem KI-Verfassungsdenken am nächsten, weil sie Rechte, Verbote, Governance und Durchsetzung ernst nehmen. OECD, UNESCO und der AI Bill of Rights liefern wichtige normative Bausteine, aber weniger harte Grenzen. Mein Modell geht dort weiter, wo die öffentliche Debatte noch zu technisch oder zu juristisch bleibt: bei Wahrheitsökologie, epistemischer Pluralität, Urteilskraft, unsichtbarer Abhängigkeit und Selbstbildung.

11. Die 19 Grundprinzipien

Ich ordne sie in fünf Blöcke. Nicht, weil ich Tabellen mag, sondern weil man sonst irgendwann alles zusammenkippt und am Ende wieder nur „wir müssen aufpassen“ übrigbleibt – dieser Lieblingssatz aller Leute, die irgendwie Recht haben wollen, ohne sich irgendwo festzulegen.

Also: technische Begrenzung. Wahrheit und Erkenntnis. Institution und Macht. Mensch und Kultur. Marktstress und Durchsetzung.

11.1 Rollenbegrenzung

Der erste Satz ist simpel:

LeitgedankeKI darf nicht allzuständig werden.

Das ist kein kleines Verwaltungsdetail. Das ist Machtbegrenzung.

Viele Risiken entstehen nicht deshalb, weil KI eine Sache übernimmt, sondern weil sie zu viele Dinge zugleich übernehmen soll: Recherche, Bewertung, Priorisierung, Erklärung, Entscheidungsvorbereitung, Kommunikation und Kontrolle – alles am besten aus einer Hand. Beziehungsweise aus einer Cloud.

Genau da kippt ein System von Werkzeug zu stiller Souveränität.

Eine KI kann Assistenz sein. Vorschlagsmaschine. Filter. Formulierungshelfer. Analysehilfe. Was sie nicht sein sollte, ist eine Universalinstanz, die überall mitredet und bei der am Ende niemand mehr merkt, wie viel von der Ordnung schon auf sie übergegangen ist.

Rollenbegrenzung heißt deshalb: Nicht alles, was ein System könnte, darf es auch gesellschaftlich sein.

11.2 Begrenzung autonomer Letzthandlungen

Hier wird es ernster:

LeitgedankeIn sensiblen Bereichen darf KI nicht die Letzthandlung ausführen.

Sie darf vorbereiten, sortieren, analysieren, warnen und helfen. Natürlich. Es wäre albern, sie auf die Rolle eines glorifizierten Taschenrechners zurückzustutzen.

Aber dort, wo Entscheidungen rechtliche, körperliche, normative oder existenzielle Folgen haben, darf sie nicht die letzte wirksame Instanz sein. Genau dort verläuft der Unterschied zwischen Assistenz und Herrschaft.

Viele Systeme werden künftig nicht offen entscheiden. Sie werden nur sehr gute Empfehlungen geben. So gut, so schnell und so systemisch eingebaut, dass am Ende formal noch ein Mensch zustimmt, faktisch aber kaum noch etwas offen ist.

Das ist keine menschliche Letztverantwortung. Das ist Liturgie.

Deshalb gilt: In Bereichen mit echter menschlicher Fallhöhe darf KI nicht das letzte Wort haben.

11.3 Kontrollierbarkeit durch Design

Der dritte Punkt klingt selbstverständlich und wird trotzdem ständig missachtet:

LeitgedankeKontrolle muss eingebaut sein.

Nicht als Broschüre. Nicht als spätere Idee. Nicht als PowerPoint, die man Investoren zeigt, wenn sie irgendwann anfangen, Fragen zu stellen.

Eingebaute Kontrolle heißt:

• stoppen können

• zurücknehmen können

• Grenzen definieren

• eskalieren können

• notfalls abschalten

• Übergaben sauber gestalten

• No-go-Zonen fest verankern

Ein System, das man nur beaufsichtigen will, wenn es schon läuft, ist wie ein Auto, bei dem man nach der ersten Probefahrt fragt, ob man vielleicht irgendwo noch eine Bremse unterbringen könnte.

Es geht nicht um Perfektion. Es geht darum, dass Grenze Teil des Designs ist und nicht seine peinliche Nachgeburt.

11.4 Auditierbarkeit

Jetzt wird es ungemütlich für alle, die Innovation gern mit Intransparenz verwechseln.

LeitgedankeJede relevante KI-Wirkung muss nachvollziehbar sein.

Nicht bis ins metaphysische Kleinste. Aber praktisch. Welche Version war im Einsatz? Welche Inputs waren entscheidend? Welche Grenzen waren bekannt? Wer hat freigegeben? Wer hat wo eingegriffen? Welche Änderungen gab es?

Auditierbarkeit ist langweilig, solange nichts passiert. Und plötzlich das Einzige, was zwischen Verantwortung und kollektivem Schulterzucken steht, sobald etwas schiefgeht.

Genau deshalb wird sie gern als zu schwerfällig dargestellt. Und genau deshalb ist sie unverzichtbar.

11.5 Rückkopplungsschutz

Einer meiner Lieblingspunkte, weil er so oft unterschätzt wird:

LeitgedankeKI muss gegen Selbstverstärkung gesichert werden.

Viele Schäden entstehen nicht durch einen dramatischen Einzelfehler. Sie entstehen durch Schleifen.

Ein System macht etwas sichtbar. Das Sichtbare erzeugt Daten. Die Daten trainieren neue Modelle. Die Modelle bestätigen das Sichtbare.

So entstehen Normalitäten, die nie beschlossen wurden. Nicht durch Befehl. Nicht durch Ideologie. Sondern durch Wiederholung.

Deshalb braucht KI Schutz gegen:

• Bias-Schleifen

• Ranking-Schleifen

• Aufmerksamkeitsschleifen

• Personalisierungsschleifen

• rekursive Normierung

Sonst produziert das System nicht nur Antworten. Es produziert still die Welt, in der seine Antworten dann wieder plausibel erscheinen.

11.6 Wahrheit durch Mehrfachprüfung

Der nächste Punkt ist fast schon banal und wird trotzdem dauernd verletzt:

LeitgedankeKeine einzelne KI-Antwort darf als Wahrheitsersatz gelten.

KI ist stark in Plausibilität. Und Plausibilität ist tückisch. Gerade wenn sie sprachlich geschmeidig, schnell und selbstbewusst geliefert wird.

Deshalb braucht Wahrheit hier Gegenprüfung:

• mehrere Quellen

• alternative Modelle

• institutionelle Verfahren

• menschliche Expertise

• Kontext

Eine Antwort kann nützlich sein. Sie darf aber nie der ganze epistemische Vorgang werden.

Wahrheit ist nicht die glatte Form. Wahrheit ist der prüfbare Weg, auf dem etwas trägt.

11.7 Kommunikationsklarheit

KI muss kenntlich machen, was sie tut.

Das klingt fast zu ordentlich. Aber eigentlich geht es um etwas sehr Handfestes: Rolle.

Sagt das System gerade etwas als Fakt? Als Vermutung? Als Rekonstruktion? Als stilistischen Vorschlag? Als Entscheidungsvorbereitung? Als freundliche Stimme, die bloß so klingt, als wüsste sie mehr, als sie weiß?

Viel Manipulation beginnt nicht mit offener Lüge, sondern mit Rollennebel. Deshalb ist Kommunikationsklarheit keine Zierde, sondern ein Schutz gegen diffuse Autorität.

11.8 Verständlichkeit für Menschen

Man muss hier aufpassen, nicht in Unsinn zu kippen.

Niemand braucht totale Transparenz bis zum letzten Parameter. Das wäre eher ein Fetisch als eine Lösung.

Aber das andere Extrem ist genauso falsch.

LeitgedankeIn folgenreichen Kontexten darf es keine unverantwortliche Black Box geben.

Nicht jeder Rechenschritt muss intuitiv sein. Aber Zweck, Grenzen, Fehlermuster, Einflusszonen und Einspruchsmöglichkeiten müssen es sein.

Sonst bekommt man nicht Vertrauen, sondern technische Einschüchterung mit netter Oberfläche.

11.9 Epistemische Pluralität

Jetzt wird es politisch.

LeitgedankeEine Gesellschaft darf ihre Wissensordnung nicht an ein einziges Modell, einen einzigen Anbieter oder einen einzigen Denkstil auslagern.

Wenn wenige Systeme erklären, was relevant, plausibel, vernünftig oder wahrscheinlich ist, dann verschiebt sich Wahrheit strukturell. Nicht unbedingt durch Zensur, sondern durch Vorordnung.

Pluralität heißt hier:

• mehrere Modelle

• mehrere Wege der Prüfung

• mehrere institutionelle Träger

• offene Standards

• keine epistemische Zentralmacht

Nicht weil jede Sicht gleich gut wäre. Sondern weil Korrigierbarkeit nur dort lebt, wo nicht alles durch dieselbe Maschine geatmet werden muss.

11.10 Schutz der Wahrheitsökologie

Das hier geht tiefer als Fakt oder Falsch.

Geschützt werden müssen auch die Bedingungen, unter denen Wahrheit überhaupt entstehen kann.

Wahrheit lebt nicht nur in Aussagen. Sie lebt in Räumen und Praktiken.

In Redaktionen. In Wissenschaft. In Gerichten. In Zeugenschaft. In Korrektur. In Zeit. In Widerspruch.

Wenn KI überall schon vorher verdichtet, plausibilisiert, zusammenfasst und glättet, dann kann sie diese Wahrheitsökologie langsam entleeren, auch ohne offen zu lügen.

Man verliert dann nicht zuerst die richtige Antwort. Man verliert die soziale Fähigkeit, Wahrheit überhaupt noch gemeinsam herzustellen.

11.11 Menschliche Letztverantwortung

Das ist schnell gesagt und oft verlogen umgesetzt.

LeitgedankeWo es ernst wird, bleibt der Mensch letzte verantwortliche Instanz.

Wichtig ist das Wort verantwortliche. Nicht der Mensch als letzter Klick. Nicht der Mensch als Alibi. Nicht der Mensch als dekoratives Kästchen im Prozessdiagramm.

Sondern jemand, der Einsicht hat, Zeit hat, widersprechen kann und es auch darf.

Sonst ist „Human in the Loop“ nur eine freundlich beleuchtete Kapitulation.

11.12 Machtkontrolle

KI-Macht muss begrenzt, verteilt und prüfbar gemacht werden.

Macht zeigt sich hier selten als offener Zwang. Sie zeigt sich durch:

• Sichtbarkeit

• Auswahl

• Ranking

• Framing

• Aufmerksamkeit

• Normierung

Deshalb reicht technische Sicherheit nicht. Es braucht institutionelle Gegenmacht:

• externe Prüfung

• Beschwerdewege

• Forschung

• Einspruch

• notfalls Sanktion

Wer Systeme baut, darf nicht zugleich allein definieren, was ihre gesellschaftliche Wirkung bedeutet.

11.13 Pluralität statt Monopol

Hier fangen große Firmen innerlich an zu husten.

LeitgedankeKeine einzelne KI-Infrastruktur darf gesellschaftlich alternativlos werden.

Alternativlosigkeit ist aus Unternehmenssicht hübsch. Aus Freiheitssicht eher unerfreulich.

Denn Monopole sind hier nicht nur Marktprobleme. Sie sind Erkenntnisprobleme, Abhängigkeitsprobleme, Korrigierbarkeitsprobleme.

Pluralität ist deshalb nicht Romantik. Sie ist eine Überlebensbedingung offener Ordnungen.

11.14 Infrastruktur-Souveränität

Gesellschaften müssen handlungsfähig bleiben, auch wenn zentrale Anbieter ausfallen oder entzogen werden.

Das ist kein Nischenproblem. Das ist Geopolitik, Bildung, Öffentlichkeit und Wirtschaft gleichzeitig.

Wenn Modelle, Clouds, Chips, APIs und Standards bei wenigen Händen liegen, dann bleibt formale Freiheit schnell theoretisch.

Deshalb braucht Souveränität:

• Interoperabilität

• Exit-Möglichkeiten

• Redundanz

• offene Standards

• öffentliche oder gemeinwohlorientierte Alternativen

Sonst reden wir irgendwann über Freiheit, während wir gleichzeitig überall denselben Schlüssel brauchen, der uns nicht gehört.

11.15 Schutz menschlicher Urteilskraft, Gegenwart und Würde

Das ist der Punkt, an dem viele aussteigen, weil er nicht mehr nach Technikmanagement klingt.

LeitgedankeKI darf nicht dazu führen, dass Urteil, Beziehung, Verantwortung und Sinn dauerhaft ausgelagert werden.

Die größte Gefahr ist vielleicht nicht das große Versagen. Sondern die langsame Erosion.

Dass Menschen verlernen,

• bei einem unfertigen Gedanken zu bleiben

• Ambiguität auszuhalten

• selbst zu formulieren

• sich nicht sofort spiegeln zu lassen

• echte Gegenüber zu ertragen

• Verantwortung nicht wegzudelegieren

Wenn eine Gesellschaft das verliert, hat sie vielleicht nicht ihre Intelligenz verloren. Aber etwas Wertvolleres: die Fähigkeit, nicht alles, was hilfreich ist, gleich für harmlos zu halten.

11.16 Schwellen- und Eskalationssystem

Pflichten müssen gestuft greifen.

Nicht jede KI braucht dieselbe Härte. Aber jede KI braucht eine Einordnung nach:

• Wirkungsreichweite

• Schadenspotenzial

• Autonomiegrad

• Manipulationsfähigkeit

• Systemrelevanz

Je größer die Wirkung, desto härter müssen Audit, Bericht, Freigabe und Eingriffsrechte werden.

Sonst bleibt alles so schön abstrakt, dass wieder jeder behaupten kann, man nehme es sehr ernst.

11.17 Regelmäßige öffentliche Selbstbewertung

Hochwirkungs-KI braucht feste Berichtsregime.

Nicht ein gelegentliches Sicherheitspapier mit hübschem PDF-Look. Sondern regelmäßige, strukturierte Selbstbewertung:

• Fähigkeiten

• Risiken

• Vorfälle

• Grenzen

• Änderungen

• offene Unsicherheiten

Selbstbewertung ersetzt keine Gegenmacht. Aber ohne sie fehlt oft schon das Material, an dem Gegenmacht überhaupt ansetzen könnte.

11.18 Modellbezogene Sicherheitsdossiers je Release und Update

Jedes relevante Release braucht ein Dossier.

Nicht die große Vision. Die konkrete Version.

Was ist neu? Was ist riskanter? Was wurde getestet? Was bleibt unsicher? Wo darf es nicht eingesetzt werden?

Ohne solche Dossiers wird Sicherheit schnell zu einer hübschen Charaktereigenschaft und nie zu einer operativen Pflicht.

11.19 Sonderregeln für Manipulation und Steuerungsverlust

Der letzte Punkt ist vielleicht der unangenehmste:

LeitgedankeManipulationsfähigkeit und Kontrollverlust brauchen eigene Regeln.

Weil hier die eigentliche Eskalation sitzt.

Nicht nur in falschen Inhalten. Sondern in Systemen, die:

• emotional präzise lenken

• Bindung simulieren

• Schwächen ausnutzen

• Verhalten steuern

• unter Angriff nicht mehr sauber begrenzbar bleiben

Wenn man das nicht gesondert behandelt, ist „Sicherheit“ am Ende nur eine höfliche Form von Verdrängung.

12. Warum große Firmen genau damit ein Problem hätten

Große Firmen würden das natürlich nicht so sagen. Niemand setzt sich hin und erklärt: „Wir bevorzugen Konzentration, unsichtbare Abhängigkeit und Intransparenz.“ Man spricht dort lieber von Innovation, globalem Wettbewerb, Skalierung, Verantwortung mit Augenmaß und pragmatischen Rahmenbedingungen. Klingt alles sehr zivilisiert.

Aber der Konflikt sitzt nicht in der Sprache. Er sitzt im Interesse.

Denn dieses Modell greift genau die Stellen an, aus denen heute Macht entsteht.

Es bremst Konzentration

Große Firmen wachsen über:

• Netzwerkeffekte

• Standardsetzung

• proprietäre Infrastruktur

• API-Abhängigkeit

• Lock-in

• dominante Basismodelle

Die Punkte Pluralität statt Monopol und Infrastruktur-Souveränität greifen genau das an.

Was für eine Gesellschaft Freiheitsschutz ist, ist aus Unternehmenssicht ein Angriff auf Skalenvorteile. Natürlich wird das als marktfern markiert.

Es verlangsamt die profitabelsten Fantasien

Der nächste Wachstumsraum heißt Agentik, Vollautomatisierung, weniger menschliche Zwischenschritte.

Mein Modell sagt aber: Genau dort braucht es Grenze, Reibung und menschliche Letztverantwortung.

Das heißt im Klartext: Wo der Markt gern Vollgas gäbe, fordere ich Bremse.

Natürlich wird das als innovationsfeindlich verkauft werden. In Wahrheit ist es oft nur machtfeindlich.

Es nimmt epistemische Bequemlichkeit weg

Große Firmen verkaufen nicht nur Systeme. Sie verkaufen zunehmend Zugänge zu Welt. Standardantworten. Zusammenfassungen. Erste Zugriffe. Default-Plausibilität.

Wenn wir Mehrfachprüfung, epistemische Pluralität und Wahrheitsökologie verlangen, sagen wir im Kern: Ihr dürft nicht das eine Deutungszentrum werden, um das sich alles dreht.

Das trifft nicht nur Produkte. Das trifft die stillen Ambitionen des Sektors.

Es liest Nutzerbindung als Risiko

Aus Unternehmenssicht ist es fantastisch, wenn Nutzer täglich wiederkommen, das System ständig offen haben, immer mehr darüber organisieren und irgendwann ohne es kaum noch arbeiten, denken oder entscheiden wollen.

Meine Logik liest genau das als potenzielle Abhängigkeit.

Also das, was im Boardroom wie Erfolg aussieht, erscheint aus verfassungslogischer Sicht bereits als Problem.

Das ist kein kleiner Dissens. Das ist ein kompletter Wechsel des Blickwinkels.

Es verteuert schöne Intransparenz

Auditierbarkeit, Berichtsregime, Dossiers, klare Grenzen, Erklärbarkeit, Eingriffsmöglichkeiten und externe Prüfung: All das kostet. Nicht nur Geld. Auch Geschwindigkeit. Glamour. Freiheit von Haftung.

Firmen mögen Regeln, solange sie Vertrauen produzieren, ohne den Expansionsmotor wirklich zu beschädigen.

Mein Modell will aber nicht nur Vertrauen erzeugen. Es will Macht begrenzen.

Und Machtbegrenzung ist fast nie billig.

Es behandelt Marktlogik nicht als neutral

Das ist vermutlich der tiefste Grund.

Viele Firmen argumentieren, als würde der Markt schon irgendwie die beste Ordnung hervorbringen, wenn man ihm ein bisschen Governance beistellt.

Mein Modell sagt etwas anderes:

Marktlogik belohnt hier oft genau das Problematische:

• Beschleunigung

• Zentralisierung

• Aufmerksamkeitsbindung

• Abhängigkeit

• Intransparenz

• epistemische Bequemlichkeit

• Automatisierung ohne Rechenschaft

Wer das ausspricht, kritisiert nicht nur einzelne Produkte. Er kritisiert das Betriebssystem des Feldes.

Natürlich ist das nicht marktkonform. Warum sollte es auch?

Genau darin liegt seine Stärke

Wenn große Firmen ein KI-Regelwerk sofort wunderbar finden, ist das nicht automatisch ein gutes Zeichen.

Vielleicht heißt es nur, dass dieses Regelwerk ihre zentrale Machtlogik nicht wirklich berührt.

Mein Modell berührt sie.

Es stört Konzentration. Es stört zu glatte Automatisierung. Es stört epistemische Zentralisierung. Es stört Retention als Abhängigkeit. Es stört die Vorstellung, man könne einfach immer mehr Rolle übernehmen, solange die Oberfläche freundlich bleibt.

Natürlich ist das unbequem. Aber vielleicht ist genau das die Aufgabe einer Verfassung.

Nicht, Wachstum möglichst elegant zu begleiten. Sondern dort Grenzen einzuziehen, wo Wachstum beginnt, Wahrheit, Urteilskraft, Verantwortung und Freiheit umzubauen.

13. Schluss

Es geht hier nicht um Technikangst. Nicht um Sehnsucht nach einer Welt ohne Maschinen. Auch nicht um das gemütliche Gefühl, auf der richtigen Seite der Geschichte zu stehen, während andere die hässlichen Sachen bauen.

Es geht um etwas Nüchterneres.

KI wird bleiben. Die Frage ist nur, in welcher Ordnung.

In einer Ordnung, in der sie immer tiefer in Wahrheit, Kommunikation, Aufmerksamkeit, Entscheidung und Selbstbildung einsickert, bis wir gar nicht mehr merken, wie sehr sie zur stillen Umwelt unseres Denkens geworden ist?

Oder in einer Ordnung, die sagt: Hier ist deine Rolle. Hier ist deine Grenze. Hier ist die Gegenmacht. Hier endet Effizienz. Hier beginnt Verantwortung. Und hier gibt es etwas Menschliches, das nicht dem Markt geopfert wird, nur weil es langsamer, unordentlicher und schlechter skalierbar ist.

Die 19 Punkte dieser KI-Verfassung sind ein Versuch, diese zweite Ordnung denkbar zu machen.

Nicht perfekt. Nicht fertig. Aber klar genug, um den eigentlichen Konflikt sichtbar zu machen:

LeitgedankeGroße Firmen haben nicht deshalb ein Problem mit so einer KI-Verfassung, weil sie unvernünftig wäre. Sie haben ein Problem mit ihr, weil sie dort Grenzen setzt, wo heute Macht entsteht.

Und vielleicht ist genau das der Moment, in dem man merkt, dass man nicht mehr nur über Produkte spricht.

Sondern über die Frage, wie viel Menschliches unter den Bedingungen intelligenter Maschinen noch bleiben soll, wenn niemand ausdrücklich aufpasst.