artículo

Cuando la IA actúa, un interruptor de apagado no basta

Un modelo lingüístico que propone un texto sigue siendo, en principio, una herramienta. Un sistema que obtiene información por sí mismo, planifica varios pasos, invoca herramientas y, al hacerlo, modifica datos o estados adquiere un significado organizativo distinto. No porque sea una persona, sino porque sus acciones tienen consecuencias. ChocoPolitico ha formulado con especial claridad este cambio en dos publicaciones: «AI Agents als handlungsfähige Systeme» pregunta por la autonomía y los límites del contexto; «AI Agents in Organisationen» advierte contra el tratamiento lingüístico y organizativo de los actores digitales como herramientas comunes. [1] [2] Paralelamente, el NIST estadounidense señala que el alcance y el número de acciones posibles pueden crecer considerablemente con la autonomía de estos sistemas y que, por ello, cobran importancia la identidad, la autorización, la auditabilidad y los accesos limitados. [3] [4] Para FlameP, de ello no se deriva una prohibición de los agentes. Se deriva una regla arquitectónica: la capacidad de actuación nunca debe describirse únicamente como una capacidad del modelo. Antes de cada acción deben ser reconocibles el rol, el contexto, el permiso, la confirmación, el registro y la regla de detención.