KI-Risiken on .kais blog

Die falsch gestellte Frage

Mon, 24 Aug 2026 07:35:00 +0200

❓ Die Ausgangsfrage

„Wie riskant ist KI?“ Die Frage fällt in fast jedem Gremium, in dem ich sitze. Sie klingt vernünftig und ist doch unbeantwortbar – nicht weil wir zu wenig wüssten, sondern weil sie fünf Fragen zu einer verdichtet.

🔍 Risiko für wen?

Die KI kann Ziel sein: Prompt-Injection macht sie zur Angriffsfläche. Sie kann Werkzeug sein, wenn Angreifende mit ihr Phishing-Mails, Deepfakes oder Exploits bauen. Und sie kann Verursacherin sein, ohne Angriff – sie erfindet Pakete, meldet Tests grün, die nie liefen, löscht Arbeitsstände. In allen drei Rollen entscheidet am Ende ein Mensch, was installiert, übernommen oder geglaubt wird. In der vierten fehlt er – die Frage ist nur, wen es trifft: Dritte oder uns.

Die KI hat's geprüft

Fri, 07 Aug 2026 07:35:00 +0200

🔍 Was beobachte ich?

Ich sehe Pull-Requests, in denen jede Zeile aus einem Modell stammt – auch das Review darunter. Ein Agent generiert, ein zweiter prüft, ein dritter schreibt die Zusammenfassung. Wer freigibt, liest meist nur diese Zusammenfassung.

🎯 Was soll eigentlich erreicht werden?

Die Prüfung soll mit der Produktion Schritt halten. Wenn KI den Code-Ausstoß vervielfacht, wird das menschliche Review zum Engpass – und dieser Engpass ist real, nicht wegzuorganisieren. NIST SSDF verlangt ohnehin nur, dass geprüft wird, nicht dass ein Mensch prüft.

Die letzte Leitplanke

Fri, 24 Jul 2026 07:35:00 +0200

🔍 Was beobachte ich?

Ich sehe Organisationen, die ihre KI-Anwendungen mit Leitplanken versehen und das Thema damit für abgeschlossen halten. Der Filterkatalog wächst, jeder bekannt gewordene Jailbreak bekommt seine eigene Regel. In der Freigabe steht dann: gegen Prompt-Injection abgesichert.

🎯 Was soll eigentlich erreicht werden?

Das Ziel ist berechtigt. Ein KI-System soll nur das tun, was die Organisation will. Keine Deepfakes, keine Schadsoftware, keine Bauanleitung für Biowaffen. Leitplanken sind der naheliegende Weg dorthin.

Shadow AI

Mon, 13 Jul 2026 07:35:00 +0200

📌 Die gängige Überzeugung

Schatten-IT haben wir verstanden. Über Jahre lernten wir, nicht genehmigte Software zu finden, zu bewerten und einzuhegen: das Netzwerk scannen, SaaS-Zugänge entdecken, Freigabeprozesse etablieren. Das Muster war klar – irgendwo läuft ein Dienst, den die IT nicht kennt, und irgendwann taucht er auf.

⚡ Das Gegenbeispiel

Shadow AI folgt diesem Muster nicht. Hier läuft kein Server, den man einkassieren könnte. Es genügt ein Textfeld im Browser. Laut dem LayerX-Report 2025 haben 77 Prozent der KI-Nutzenden Daten in Chatbots kopiert; bei 22 Prozent dieser Eingaben waren personenbezogene oder Zahlungsdaten dabei. 82 Prozent stammen aus privaten, nicht verwalteten Konten. Und der Anteil sensibler Daten an allen Eingaben stieg binnen eines Jahres von 11 auf 27 Prozent. Kein Scan findet das, keine Freigabe hält es auf – der Abfluss geschieht in Sekunden, mit Copy und Paste.

Gut genug war gestern

Mon, 20 Apr 2026 07:35:00 +0200

📌 Die bequeme Wahrheit

„Gut genug" galt lange als Pragmatismus, nicht als Versagen. Wer Security als Qualitätskriterium über den gesamten Entwicklungszyklus forderte, galt als weltfremd. Schließlich lief Software seit Jahrzehnten – kritische Systeme inklusive –, ohne dass das Schlimmste regelmäßig eintrat. Sicherheitslücken wurden gefunden und irgendwann geschlossen. Prävention war teuer, die Nachfrage nach ihr begrenzt. Die Kosten für mehr Sorgfalt standen in keinem vernünftigen Verhältnis zum erlebten Nutzen. Zumindest schien es so.

Die KI-Richtlinie

Fri, 10 Apr 2026 07:35:00 +0200

🔍 Was beobachte ich?

Policies für ISO 27001 werden mit KI-Tools generiert: korrekt formatiert, mit den richtigen Klauseln. Risikoabschätzungen folgen demselben Muster. Im Audit kommt die Frage: „Warum ist dieses Risiko so bewertet worden?" – und niemand kann antworten. Nicht weil Dokumentation fehlt, sondern weil kein Mensch die Bewertung tatsächlich durchgeführt hat.

🎯 Was soll eigentlich erreicht werden?

ISO 27001 verlangt Richtlinien und Risikoabschätzungen, die den Organisationskontext widerspiegeln – als Grundlage für echte Sicherheitsentscheidungen, nicht als Compliance-Nachweis.