Artikel

Wenn KI handelt, reicht ein Ausschalter nicht

Ein Sprachmodell, das einen Text vorschlägt, bleibt zunächst ein Werkzeug. Ein System, das selbst Informationen beschafft, mehrere Schritte plant, Werkzeuge aufruft und dabei Daten oder Zustände verändert, bekommt eine andere organisatorische Bedeutung. Nicht weil es eine Person wäre, sondern weil seine Handlungen Folgen haben. ChocoPolitico hat diese Verschiebung in zwei Beiträgen zugespitzt: „AI Agents als handlungsfähige Systeme“ fragt nach Autonomie und Kontextgrenzen; „AI Agents in Organisationen“ warnt davor, digitale Akteure sprachlich und organisatorisch wie gewöhnliche Werkzeuge zu behandeln. [1] [2] Das US-amerikanische NIST beschreibt parallel, dass Reichweite und Zahl möglicher Aktionen mit der Autonomie solcher Systeme stark wachsen können und deshalb Identität, Autorisierung, Auditierbarkeit und begrenzte Zugriffe wichtig werden. [3] [4] Für FlameP folgt daraus kein Verbot von Agenten. Es folgt eine Architekturregel: Handlungsfähigkeit darf nie nur als Modellfähigkeit beschrieben werden. Vor jeder Aktion müssen Rolle, Kontext, Berechtigung, Bestätigung, Protokoll und Stop-Regel erkennbar sein.