Ich greife KI-Systeme an.

KI-Systeme laufen in vielen Firmen als Blackbox. Als Sicherheitsforscher zerlege ich die Angriffe, die sie treffen, und zeige, wie man sie schützt. Im Journal dokumentiere ich, was bricht und was standhält.

Scrollen, um zu ermitteln ↓

These 01

Jede neue Technologie wirft neue Schatten.

These 02

Wer KI einsetzt, trägt Verantwortung für das, was er nicht sieht.

These 03

Meine Arbeit: Licht hineinbringen, bevor es jemand anderes tut.

Die Akten

08 Dossiers · horizontal ermitteln

Akte 01vertraulich

Prompt Injection

Sprachmodelle folgen jedem, der überzeugend genug fragt. Wie Angreifer mit reiner Sprache Regeln aushebeln, Daten abziehen und Werkzeuge kapern. Und was dagegen hält.

Akte öffnen

Akte 02vertraulich

Jailbreaks

Rollenspiele, Kodierungen, mehrstufige Dialoge: die Techniken, mit denen Schutzvorgaben von Sprachmodellen fallen. Und was ihre Stabilität wirklich bestimmt.

Akte öffnen

Akte 03vertraulich

KI-Agenten

Sprachmodelle mit Zugriff auf Mail, Datenbanken und Werkzeuge: Aus einem Textproblem wird ein Systemproblem. Die Angriffsfläche der Agenten, bevor sie überall laufen.

Akte öffnen

Akte 04vertraulich

Data Poisoning

Ein Modell ist nur so vertrauenswürdig wie seine Trainingsdaten. Wie vergiftete Datensätze Hintertüren einbauen und die Lieferkette des maschinellen Lernens zum Angriffsziel machen.

Akte öffnen

Akte 05vertraulich

Guardrails

Filter, Klassifikatoren, Regelwerke um das Modell herum. Was Guardrails wirklich leisten, wann sie fallen und warum sie eine Schicht sind, keine Verteidigung.

Akte öffnen

Akte 06vertraulich

Sichere KI-Architektur

Filter beruhigen, Architektur schützt: Rechte begrenzen, Ausgaben misstrauen, kritische Aktionen entkoppeln. Baupläne für KI-Anwendungen, die einen Angriff aushalten.

Akte öffnen

Akte 07vertraulich