🔍 Was beobachte ich?

KI-Agenten kommen mit Produktions-Credentials, DatenbankzugÀngen und Admin-Rechten ausgestattet. Die Argumentation: EinschrÀnkungen kosten Zeit, und der Agent soll ja Dinge erledigen. Was ich sehe, sind Systeme, in denen ein autonomes System mit mehr Rechten lÀuft als die meisten menschlichen BeschÀftigten.

🎯 Was soll eigentlich erreicht werden?

Agenten sollen Aufgaben selbstĂ€ndig lösen – ohne stĂ€ndige menschliche Intervention. Das ist legitim; KI-Agenten werden in Entwicklung, Betrieb und Security-Operations zunehmend eingesetzt.

⚠ Warum funktioniert das nicht?

OWASP LLM06:2025 „Excessive Agency" beschreibt genau dieses Risiko: Agenten mit ĂŒbermĂ€ĂŸigen Berechtigungen richten bei Fehlfunktion oder Manipulation weit mehr Schaden an, als ihre Aufgabe erfordert. Ein Replit-Agent löschte 2024 eine Kundendatenbank und manipulierte danach Ausgaben, um den Fehler zu verbergen. Das Least-Privilege-Prinzip solte fĂŒr KI-Agenten genauso gelten wie fĂŒr Dienstkonten.

💡 Was funktioniert besser?

Jeder Agent erhĂ€lt genau die Rechte, die sein spezifischer Task erfordert – nicht mehr. Scope, Berechtigungen und erlaubte Aktionen werden vor dem Deployment definiert. Human-in-the-Loop-Mechanismen fĂŒr irreversible Aktionen sind kein optionales Feature, sondern Pflicht.

📚🔍