Articles

Quand l’IA agit, un interrupteur ne suffit pas

Un modèle de langage qui propose un texte reste d’abord un outil. Un système qui collecte lui-même des informations, planifie plusieurs étapes, appelle des outils et modifie ainsi des données ou des états acquiert une autre importance organisationnelle. Non parce qu’il serait une personne, mais parce que ses actes ont des conséquences. ChocoPolitico a mis en relief ce déplacement dans deux publications : « AI Agents als handlungsfähige Systeme » interroge l’autonomie et les limites du contexte ; « AI Agents in Organisationen » met en garde contre le fait de traiter, dans le langage comme dans l’organisation, les acteurs numériques comme de simples outils. [1] [2] Parallèlement, le NIST américain explique que la portée et le nombre d’actions possibles peuvent fortement augmenter avec l’autonomie de tels systèmes, ce qui rend importants l’identité, l’autorisation, l’auditabilité et la limitation des accès. [3] [4] FlameP n’en déduit pas une interdiction des agents. Il en déduit une règle d’architecture : la capacité d’agir ne doit jamais être décrite comme une simple capacité du modèle. Avant chaque action, le rôle, le contexte, l’autorisation, la confirmation, le journal et la règle d’arrêt doivent être reconnaissables.