https://blog.0x2e6b6169.de/tags/red-teaming/Recent content in Red-Teaming on .kais blogHugode-deMon, 27 Jul 2026 07:35:00 +0200https://blog.0x2e6b6169.de/posts/2026-07-27-ai-box-experiment/Mon, 27 Jul 2026 07:35:00 +0200https://blog.0x2e6b6169.de/posts/2026-07-27-ai-box-experiment/<h2 id="-das-vertraute-bild">🌍 Das vertraute Bild<a class="heading-anchor" href="#-das-vertraute-bild" aria-label="Link zu diesem Abschnitt"></a></h2> <p>Eliezer Yudkowsky stellte 2002 ein Gedankenexperiment vor: Eine übermenschliche KI sitzt in einer Kiste, ein Mensch bewacht das Tor. Kann sie ihn allein durch Worte zum Öffnen bewegen? Yudkowsky spielte es durch und gewann mehrfach. Stuart Armstrong, Anders Sandberg und Nick Bostrom entwarfen die Gegenmaßnahme: eine „Oracle AI&quot;, die nur antwortet, nie handelt. Die Debatte kreiste um Überredung und den schwachen Menschen am Schloss.</p>https://blog.0x2e6b6169.de/posts/2026-07-24-letzte-leitplanke/Fri, 24 Jul 2026 07:35:00 +0200https://blog.0x2e6b6169.de/posts/2026-07-24-letzte-leitplanke/<h2 id="-was-beobachte-ich">🔍 Was beobachte ich?<a class="heading-anchor" href="#-was-beobachte-ich" aria-label="Link zu diesem Abschnitt"></a></h2> <p>Ich sehe Organisationen, die ihre KI-Anwendungen mit Leitplanken versehen und das Thema damit für abgeschlossen halten. Der Filterkatalog wächst, jeder bekannt gewordene Jailbreak bekommt seine eigene Regel. In der Freigabe steht dann: gegen Prompt-Injection abgesichert.</p> <h2 id="-was-soll-eigentlich-erreicht-werden">🎯 Was soll eigentlich erreicht werden?<a class="heading-anchor" href="#-was-soll-eigentlich-erreicht-werden" aria-label="Link zu diesem Abschnitt"></a></h2> <p>Das Ziel ist berechtigt. Ein KI-System soll nur das tun, was die Organisation will. Keine Deepfakes, keine Schadsoftware, keine Bauanleitung für Biowaffen. Leitplanken sind der naheliegende Weg dorthin.</p>