Zusammenfassung

Viele Datenschutzdebatten über generative KI beginnen beim Anbieter: Wo steht der Server? Wird eine Eingabe zum Training verwendet? Wie lange speichert das Modell den Chat? Das sind wichtige Fragen. Sie kommen jedoch zu spät, wenn vorher ungeprüft ganze Akten, Postfächer oder Gesprächsverläufe in den Kontext gelangt sind.

ChocoPolitico bezeichnet diesen Punkt als „Flaschenhals vor dem Modell“. [1] Die europäische Datenschutz-Grundverordnung verlangt Zweckbindung und Datenminimierung; personenbezogene Daten sollen angemessen, erheblich und auf das für den Zweck notwendige Maß beschränkt sein. Sie verlangt außerdem Datenschutz durch Technikgestaltung und datenschutzfreundliche Voreinstellungen. [2]

Für FlameP folgt daraus eine klare Reihenfolge: zuerst Zweck und Raum bestimmen, dann Informationen klassifizieren und minimieren, anschließend den zulässigen Kontext bilden – und erst danach ein Modell aufrufen.

1. Der Prompt ist nicht der Anfang

Ein Prompt wirkt wie eine einzelne Nachricht. Technisch kann der tatsächliche Modellkontext sehr viel mehr enthalten: frühere Nachrichten, hochgeladene Dateien, Suchergebnisse, Profildaten, Erinnerungen oder Inhalte aus verbundenen Diensten.

Damit verschiebt sich die Datenschutzfrage. Nicht nur der sichtbare Satz muss geprüft werden, sondern die Zusammenstellung, die ein System im Hintergrund erzeugt.

Je bequemer eine KI alles „weiß“, desto größer wird die Versuchung, Daten vorsorglich verfügbar zu machen. Doch Vorrat ist kein Zweck. Eine Information kann für einen Raum hilfreich, für einen anderen überflüssig und für einen dritten unzulässig sein.

2. Mehr Kontext ist nicht automatisch besser

Modelle profitieren häufig von relevantem Kontext. Daraus wird leicht die falsche Regel: je mehr, desto besser.

Zu viel Kontext kann Antworten sogar verschlechtern. Wichtige Hinweise gehen zwischen Nebensachen unter, veraltete Angaben wirken weiter und intime Details werden verwendet, obwohl eine abstrakte Zusammenfassung genügt hätte.

Datensparsamkeit ist deshalb nicht nur Abwehr. Sie ist eine Form der Qualitätskontrolle. Ein gut gebauter Kontext enthält das, was für die konkrete Aufgabe benötigt wird, und lässt den Rest bewusst draußen.

3. Lokaler Schutz löst nicht alles

Eine naheliegende Gegenposition lautet: Wenn Verarbeitung lokal geschieht, ist das Problem gelöst. Lokale Verarbeitung kann Risiken externer Übertragung und fremder Speicherung deutlich verringern. Sie ist für FlameP deshalb wichtig.

Aber auch ein lokales Modell kann zu viele Daten sehen. Auch lokal können Rollen falsch gesetzt, Informationen verwechselt oder Ausgaben an die falsche Person weitergegeben werden. Der Speicherort ersetzt weder Zweckbindung noch Berechtigungen.

Umgekehrt ist eine externe Verarbeitung nicht allein deshalb verantwortungslos. Entscheidend sind unter anderem Rechtsgrundlage, Vertrag, technische Schutzmaßnahmen, Datenumfang, Löschregeln und die konkrete Aufgabe. FlameP sollte deshalb keine einfache Gleichung „lokal gleich sicher“ verkaufen.

4. Was FlameP daraus macht

FlameP behandelt Kontext als eigenes Schutzobjekt.

Erstens bekommt jeder Raum einen erkennbaren Zweck. Informationen dürfen nicht nur deshalb einfließen, weil sie irgendwo im Konto vorhanden sind.

Zweitens werden Informationen vor einer Modellnutzung klassifiziert. Persönliche Notizen, vertrauliche Projektdaten und öffentliches Wissen brauchen unterschiedliche Regeln.

Drittens soll das System minimieren können. Statt eines vollständigen Dokuments kann eine freigegebene Zusammenfassung genügen; statt eines Namens manchmal eine Rolle; statt eines gesamten Verlaufs ein begrenzter Ausschnitt.

Viertens muss sichtbar sein, welche Quellen in einen KI-Schritt einfließen. Menschen brauchen die Möglichkeit, einzelne Quellen auszuschließen oder den Schritt ohne Modell fortzusetzen.

Fünftens gelten Berechtigungen nicht ewig. Kontextfreigaben erhalten Umfang, Zweck und Dauer.

5. Schutz braucht Reibung – aber die richtige

Jede Rückfrage kann nerven. Wenn ein System bei jedem Satz ein Datenschutzformular öffnet, werden Menschen Warnungen wegklicken oder auf unkontrollierte Werkzeuge ausweichen.

Die Kunst liegt in guten Voreinstellungen. Sensible Bereiche starten eng. Wiederkehrende, risikoarme Abläufe können verständlich freigegeben werden. Ein unerwarteter Wechsel des Zwecks oder Empfängers erzeugt dagegen bewusst Reibung.

FlameP muss diese Regeln nicht verstecken. Eine kurze Erklärung wie „Für diese Zusammenfassung werden drei markierte Dokumente lokal verwendet“ ist hilfreicher als ein pauschales Sicherheitssymbol.

6. Schluss: Erst der Kontext, dann das Modell

Datenschutz wird nicht am Ende durch eine freundliche Zusicherung ergänzt. Er beginnt bei der Auswahl dessen, was ein System überhaupt wissen darf.

Die Regel für FlameP lautet:

LeitgedankeKein Modell erhält automatisch alles, was verfügbar ist. Kontext wird für einen erkennbaren Zweck gebildet, minimiert, begrenzt und sichtbar gemacht.

Das macht KI nicht allwissend. Es macht ihren Einsatz verantwortbarer.

Quellenverzeichnis

Leitgedanke[1] Andreas Degenhardt. Der Flaschenhals vor dem Modell. ChocoPolitico/LinkedIn, 24. Juni 2026.
Leitgedanke[2] Europäische Union. Datenschutz-Grundverordnung, Verordnung (EU) 2016/679, insbesondere Artikel 5 und 25.
Leitgedanke[3] NIST. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, NIST AI 600-1, Juli 2024.