KI & Sicherheit
- Wer fragt, bekommt recht
Dasselbe Modell, derselbe Code, zwei Fragen – und zwei Ergebnisse. Das Urteil hängt daran, wie gefragt wurde.
- Ungenau gewünscht
Ein Agent erreicht sein Ziel und zertrampelt, was daneben liegt. Was ein Mensch mitgedacht hätte, steht nirgends.
- Sieht aus wie ein Fix
Zwei Frontier-Modelle, 6.000 Patch-Versuche: Ein Viertel schließt die Lücke. Der Rest hat nur die Form eines Fixes.
- Die Grenze, die niemand gezogen hat
Rollen-Marken sollen die Vertrauensgrenze in Sprachmodellen sein. Modelle erkennen Rollen aber am Schreibstil – nicht am Etikett.
- Der Ausbruch durch das Nadelöhr
Der Kanal, den OpenAI mit Absicht offen ließ, war das Sprungbrett.
- Die falsch gestellte Frage
Ziel, Werkzeug, Verursacherin oder eigenmächtig Handelnde: Erst wenn die Rolle der KI klar ist, wird ihr Risiko bewertbar.
- Die KI hat's geprüft
Teilen Modell und Prüfmodell dieselben blinden Flecken, ist der zweite Blick keiner. Wer freigibt, wird zur Knautschzone.
- Die Kiste war nie das Problem
Zwanzig Jahre Debatte über das Überreden des Wächters. Der erste echte Ausbruch nutzte eine Codeausführung in der Pipeline.
- Die letzte Leitplanke
Kein endlicher Regelsatz sichert ein Sprachmodell ab. Gödel beweist es. Bleibt ein Wettlauf, den wir gestalten müssen.
- Shadow AI
Shadow AI ist die neue Schatten-IT – ohne Server, nur ein Chatfenster. Verbote helfen nicht, nur ein besseres Angebot.
- Wenn jeder alles findet
Oversharing in Microsoft 365 war ein schlafendes Risiko – bis Copilot die Summe offener Freigaben in Sekunden durchsuchbar macht.
- Vibe Coding als Methode
Vibe Coding hebelt den Secure SDLC systematisch aus und produziert messbar Angriffsfläche statt Software.
- Das Phantom in der Pipeline
KI-Sprachmodelle halluzinieren Paketnamen systematisch — Angreifende können diese Phantome vorab registrieren.
- Gut genug war gestern
Software war nie sicher – sie war nur schwer genug zu prüfen. KI ändert das grundlegend.
- Die KI-Richtlinie
KI-generierte ISO-27001-Policies klingen richtig – aber niemand kann im Audit die Entscheidungen dahinter erklären.
- Der Agent darf alles
KI-Agenten mit Administratorrechten verstoßen gegen Least Privilege und richten unverhältnismäßigen Schaden an.
- Vertrauen ist gut, Review ist besser
45% von KI-generiertem Code enthält OWASP-Top-10-Schwachstellen – das Review bleibt unverzichtbar.
