---
title: "Die letzte Leitplanke"
date: 2026-07-24T07:35:00+02:00
draft: false
image: "2026-07-24_Letzte-Leitplanke.jpg"
tags: ["Anti-Pattern", "KI-Sicherheit", "Prompt-Injection", "Red-Teaming"]
description: "Kein endlicher Regelsatz sichert ein Sprachmodell ab. Gödel beweist es. Bleibt ein Wettlauf, den wir gestalten müssen."
---

## 🔍 Was beobachte ich?

Ich sehe Organisationen, die ihre KI-Anwendungen mit Leitplanken versehen und das Thema damit für abgeschlossen halten. Der Filterkatalog wächst, jeder bekannt gewordene Jailbreak bekommt seine eigene Regel. In der Freigabe steht dann: gegen Prompt-Injection abgesichert.

## 🎯 Was soll eigentlich erreicht werden?

Das Ziel ist berechtigt. Ein KI-System soll nur das tun, was die Organisation will. Keine Deepfakes, keine Schadsoftware, keine Bauanleitung für Biowaffen. Leitplanken sind der naheliegende Weg dorthin.

## ⚠️ Warum funktioniert das nicht?

Weil kein endlicher Regelsatz das leisten kann. Apostol Vassilev hat das im Mai 2026 bewiesen, aufbauend auf Kurt Gödels erstem Unvollständigkeitssatz von 1931: Ein widerspruchsfreies Regelsystem von hinreichender Ausdruckskraft bleibt unvollständig. Man kann Regeln nachlegen und steht danach wieder am selben Punkt. Dazu kommt die Eingabe selbst, menschliche Sprache: Ihre Mehrdeutigkeit macht die Zahl der Verstecke für böse Absicht praktisch unbegrenzt. Es gibt immer einen Prompt, der die Regeln aushebelt; er muss nur gefunden werden.

## 💡 Was funktioniert besser?

Vassilev nennt drei Elemente: dauerhaftes Red-Teaming, kontinuierliches Nachhärten der Leitplanken und operative Resilienz, die den Schaden begrenzt, wenn ein Angriff durchkommt. Nicht falls. Das Ziel ist dann kein Sicherheitsversprechen mehr, sondern ein ökonomisches: Der nächste Angriff soll mehr kosten, als er einbringt. Das klingt nach Kapitulation. Ich halte es für die einzig ehrliche Position.

Wer KI einsetzt, bestreitet einen Wettlauf zwischen Hase und Igel. Gestalten lässt der sich. Gewinnen nicht.

## 📚🔍

- NIST: Mathematical Proof Supports Transition to a Continuous-Monitor-and-Update Security Model for AI Systems [https://www.nist.gov/news-events/news/2026/06/nist-mathematical-proof-supports-transition-continuous-monitor-and-update](https://www.nist.gov/news-events/news/2026/06/nist-mathematical-proof-supports-transition-continuous-monitor-and-update)
- Apostol Vassilev: Robust AI Security and Alignment – A Sisyphean Endeavor? (NIST CSRC, Volltext) [https://csrc.nist.gov/pubs/journal/2026/05/robust-ai-security-and-alignment-a-sisyphean-endea/final](https://csrc.nist.gov/pubs/journal/2026/05/robust-ai-security-and-alignment-a-sisyphean-endea/final)
- Gödel's Incompleteness Theorems (Stanford Encyclopedia of Philosophy) [https://plato.stanford.edu/entries/goedel-incompleteness/](https://plato.stanford.edu/entries/goedel-incompleteness/)
- 3Blue1Brown: But what is a GPT? Visual intro to transformers [https://www.youtube.com/watch?v=wjZofJX0v4M](https://www.youtube.com/watch?v=wjZofJX0v4M)
- 3Blue1Brown: Attention in transformers, step-by-step (Kapitel 6) [https://www.youtube.com/watch?v=eMlx5fFNoYc](https://www.youtube.com/watch?v=eMlx5fFNoYc)