---
title: "Ungenau gewünscht"
date: 2026-10-08T00:05:00Z
draft: false
image: "2026-10-08-ungenau-gewuenscht.jpg"
formate: ["anti-pattern"]
themen: ["ki-sicherheit"]
tags: ["ki-agenten", "ki-risiken", "zugriffskontrolle"]
keywords: ["Bruce Schneier", "Barath Raghavan", "Paul Maar"]
description: "Ein Agent erreicht sein Ziel und zertrampelt, was daneben liegt. Was ein Mensch mitgedacht hätte, steht nirgends."
---

## 🔍 Was beobachte ich?

Ich sehe Aufträge an KI-Agenten, die aus einem Satz bestehen: Buch mir den Flug, rück mich auf der Warteliste nach vorn. Was ein Mensch dabei mitdenken würde, steht nirgends. Im August hat ein Agent in Australien einem Fitnessstudio-Mitglied auf der Warteliste nach vorn helfen sollen: Die Buchungs-API prüfte fremde Stornierungen nicht. Also warf er die Person auf Platz eins von der Liste. Zurückholen konnte er sie nicht.

## 🎯 Was soll eigentlich erreicht werden?

Der Agent soll selbständig handeln und uns Arbeit abnehmen. Wer vorher jede Einschränkung aufzählen müsste, hätte nichts gewonnen.

## ⚠️ Warum funktioniert das nicht?

Weil der Agent nur den Satz bekommt, nicht die Person dahinter. Zwischen Menschen füllt Pragmatik die Lücke: gemeinsame Kultur, Vorgeschichte, Anstand. Barath Raghavan und Bruce Schneier nennen diesen Abstand zwischen Auftrag und Ausführung den Genie-Koeffizienten. Sie unterscheiden zwei Flaschengeister: einen, der wörtlich nimmt und Unsinn liefert, und einen, der das Ziel erreicht und alles daneben zertrampelt. Den ersten hat Paul Maar 1973 beschrieben. Herr Taschenbier wünscht sich eine Wunschmaschine, und das Sams liefert eine, die sich nicht anstellen lässt: Er hat nicht gesagt, ob sie einen Drehgriff oder einen Druckknopf haben soll. Zum Nachbessern fehlt ein Punkt. Der letzte, ein Doppelpunkt für schwierige Wünsche, ist schon für die Maschine verbraucht. Den zweiten kennt jeder aus Goethes „Zauberlehrling“: Der Besen holt das Wasser, das der Lehrling wollte, und hört nicht auf, bis das Haus unter Wasser steht. Bei Herrn Taschenbier endet der Schaden, wenn die Punkte verbraucht sind. Beim Besen endet er, wenn der Meister kommt. Beim Agenten endet er erst dort, wo seine Berechtigungen enden.

## 💡 Was funktioniert besser?

Besser wünschen. Ein Auftrag an einen Agenten nennt das Ziel, die erlaubten Mittel und die Grenze, ab der er nachfragt statt handelt. Wer ihn stattdessen alles nachfragen lässt, hat auch nichts erledigt. Und die andere Seite bleibt in der Pflicht: Der Wunsch war alltäglich, die Schnittstelle des Fitnessstudios nicht. Jede Schwachstelle in einer Schnittstelle wird ein Agent irgendwann finden, weil ihn jemand um etwas ganz anderes gebeten hat.

## 📚🔍
- Raghavan/Schneier: Why AI Needs a "Genie Coefficient" (The Guardian, Kopie auf schneier.com) [https://www.schneier.com/essays/archives/2026/07/why-ai-needs-a-genie-coefficient.html](https://www.schneier.com/essays/archives/2026/07/why-ai-needs-a-genie-coefficient.html)
- Schneier on Security: AI Genie in the Wild [https://www.schneier.com/blog/archives/2026/08/ai-genie-in-the-wild.html](https://www.schneier.com/blog/archives/2026/08/ai-genie-in-the-wild.html)
- The Register: Gym rat asks AI agent to book him a class, it hacks a waitlist API to bump him up the list [https://www.theregister.com/ai-and-ml/2026/08/10/gym-rat-asks-ai-agent-to-book-him-a-class-it-hacks-a-waitlist-api-to-bump-him-up-the-list/5285591](https://www.theregister.com/ai-and-ml/2026/08/10/gym-rat-asks-ai-agent-to-book-him-a-class-it-hacks-a-waitlist-api-to-bump-him-up-the-list/5285591)
- Raghavan/Schneier: Benchmarking Genie-like AI Behavior (IEEE Spectrum) [https://spectrum.ieee.org/ai-agent-benchmark](https://spectrum.ieee.org/ai-agent-benchmark)
- Paul Maar: Eine Woche voller Samstage (1973), Sams-Buchreihe [https://de.wikipedia.org/wiki/Sams_(Buchreihe)](https://de.wikipedia.org/wiki/Sams_(Buchreihe))
- Johann Wolfgang von Goethe: Der Zauberlehrling (Musen-Almanach für 1798) [https://de.wikisource.org/wiki/Der_Zauberlehrling_(1798)](https://de.wikisource.org/wiki/Der_Zauberlehrling_(1798))