Piktogramm mit Kopfsilhouette und Sprechblase auf violettem Hintergrund

Schwachstellen in KI-Systemen

Die Lage der IT-Sicherheit in Deutschland 2026

Gut die Hälfte der in agentischen Ökosystemen bekannt gewordenen Schwachstellen hatte einen hohen oder kritischen Schweregrad (vgl. Abbildung 2-6).

Abbildung 2-6: Neu bekannt gewordene Schwachstellen in KI-Agenten nach Schweregrad

Einheit:

Anzahl

Bemerkung: CVEs von KI-Agentensystemen. KI-Agentensysteme umfassen KI-Coding-Assistenten, allgemeine KI-Agentensysteme und Enterprise-Agentenassistenten. Nicht eingeschlossen sind Agenten-Frameworks, Workflow- und Orchestrierungsplattformen sowie Tool-Gateways. Dieses Produkt nutzt die NVD-API, ist jedoch weder von der NVD empfohlen noch zertifiziert.

Die Mehrzahl der Schwachstellen betraf nicht das KI-Modell selbst. Vielmehr waren die Schnittstellen betroffen, über die die Agenten auf andere Werkzeuge zugreifen, Dateien lesen, Code ausführen oder mit APIs und Datenbanken interagieren. Die sichere Gestaltung dieser Schnittstellen – insbesondere die Absicherung von Werkzeugaufrufen, Zugängen zu externen Diensten und Berechtigungskonzepten – ist ein zentraler Stellhebel für die resiliente Ausgestaltung von KI-Ökosystemen. 

Welche Auswirkungen einzelne Produkte auf die Statistik haben, zeigt das Agentensystem OpenClaw: Allein für dieses wurden im Berichtszeitraum 539 Schwachstellen erfasst (vgl. Ausgewählte Vorfälle: Angriffsfläche: Schwachstellen in KI-Agentensystem OpenClaw). Darüber hinaus wurden im aktuellen Berichtszeitraum 99 neue Schwachstellen bekannt, die Prompt-Injection-Angriffe ermöglichen (vgl. Abbildung 2-7).

Abbildung 2-7: Prompt-Injection-Schwachstellen in KI-Systemen nach Schweregrad

Einheit:

Anzahl

Bemerkung: CVEs, deren Exploit-Kette Prompt Injection als Mechanismus enthält. Ohne Schwachstellen mit unbekanntem Schweregrad. Dieses Produkt nutzt die NVD-API, ist jedoch weder von der NVD empfohlen noch zertifiziert.

Dabei veranlassen Angreifer ein KI-System durch manipulierte Eingaben zu unbeabsichtigtem Verhalten. Rund 60 dieser im aktuellen Berichtszeitraum bekannt gewordenen und analysierten Prompt-Injection-Schwachstellen ermöglichen es Angreifern, das KI-System zur Ausführung von Code – auch Schadcode – zu veranlassen. Die Auswirkungen können damit über bloße Verfälschungen von Ergebnis-Ausgaben deutlich hinausgehen, obgleich Angreifer dafür keine Schadsoftware installieren müssen. Mittels sogenannter indirekter Prompt Injections betten sie schädliche Instruktionen stattdessen direkt in Inhalte ein, die ein KI-System automatisch verarbeitet (etwa E‑Mails, Websites oder Dokumente). In der Fachsprache wird die resultierende Angriffskette - von der initialen Prompt Injection über die Ausweitung von Rechten bis zur Einnistung - auch als Promptware bezeichnet.

Es ist davon auszugehen, dass KI-spezifische Schwachstellen, die etwa das Vergiften, also die Manipulation von Trainingsdaten, oder das gezielte Täuschen von KI-Modellen ermöglichen, in der Schwachstellenstatistik noch unterrepräsentiert sind. Die Absicherung multifunktionaler KI-Agentensysteme ist äußerst komplex, und es fehlen derzeit aufgrund der dynamischen Entwicklung noch etablierte Sicherheitsstandards. Klassische IT‑Sicherheitsmaßnahmen wie Eingabevalidierung, Ausgabeprüfung und Zugriffsbeschränkung behalten jedoch ihre Relevanz.