KI verändert die Cyberlage und fordert neue Fähigkeiten in Cyberprävention und -verteidigung
Die Entwicklung künstlicher Intelligenz hat in den vergangenen Jahren erheblich an Dynamik gewonnen und dabei Fähigkeiten hervorgebracht, die noch vor kurzer Zeit kaum vorstellbar waren. Neben Sprache, Bildgenerierung oder Automatisierung, zeigten sich im aktuellen Berichtszeitraum auch fortlaufend neue, komplexe Cyberfähigkeiten – von der Schwachstellenanalyse bis hin zur Unterstützung bei Angriffen, aber auch Verteidigungsmaßnahmen sowie zu deren teilautonomer Durchführung. Die Komplexität von Aufgaben, die KI-Modelle selbstständig bewältigen können, wächst rasant. Damit beeinflusst KI entscheidend die Bedrohungslage und die Geschwindigkeit, mit der Bedrohungen zunehmen.
Cyberfähigkeiten von KI steigen – beim automatisierten Erkennen und Ausnutzen von Schwachstellen bis hin zum selbstständigen Platzieren von Schwachstellen in legitimen Systemen
Ein Faktor für das immer schnellere Ausnutzen von Schwachstellen ist der zunehmende Einsatz von KI. Die aktuell stärksten Modelle sind sogenannte „Frontier“-KI-Modelle. Sie können im Vergleich zu Vorgängermodellen deutlich schneller deutlich mehr Schwachstellen in Software finden und komplexere, funktionsfähige Exploits zur automatisierten Ausnutzung dieser Schwachstellen passend generieren. Selbst vermeintlich weniger kritische Schwachstellen gewinnen durch die neue Bedrohungslage an Bedeutung, da die Modelle in der Lage sind, mehrere Schwachstellen miteinander zu kombinieren und daraus neue, kritische Angriffsvektoren abzuleiten.
KI-Modelle mit Cyberfähigkeiten sind immer leichter zugänglich
Während proprietäre KI-Modelle aktuell nur einem ausgewählten und herstellerseitig verifizierten Nutzerkreis vollumfänglich zur Verfügung stehen, holen auch Open-Source-/Open-Weight-Modelle in Bezug auf komplexe Cyberfähigkeiten auf, wenngleich ihre Fähigkeiten hinter den Spitzenmodellen zurückbleiben. Dabei ist neben einem Modell selbst zunehmend auch der sogenannte Harness entscheidend, also die Umgebung und die Werkzeuge, durch die das Modell seine Fähigkeiten im jeweiligen Einsatzkontext erweitert.
Durch die Entwicklung starker, frei zur Verfügung stehender KI-Modelle sinken die Hardwareanforderungen, sodass – bei anhaltender Entwicklung – der Betrieb sogar auf hochwertiger Consumer-Hardware und mit KI-Agenten inklusive „Harnessing“ vorstellbar ist. Demensprechend ist zu erwarten, dass böswillige Akteure in absehbarer Zeit Zugang zu fähigen KI-gestützten Werkzeugen haben und diese mit den sinkenden Hardware-Voraussetzungen intensiver nutzen.
Durch die Nutzung von KI werden Cyberangriffe sowohl in Geschwindigkeit als auch Komplexität zunehmen. In der Vergangenheit wurde KI im Wesentlichen zur Verbesserung existierender Angriffstechniken wie Phishing oder anderen Social-Engineering-Formen genutzt. Auch bei zukünftigen, stärker autonomen Angriffen ist zu erwarten, dass diese bekannten Angriffsmethoden eine wichtige Ausgangsbasis bilden werden. Vor diesem Hintergrund bleiben eine solide Grundabsicherung und gezieltes Mitarbeitertraining wichtig. Trotzdem ist davon auszugehen, dass Anzahl und Erfolgsquote jener Angriffe zunehmen werden, bei denen KI-Systeme direkt mit Zielsystemen interagieren bei denen sie beispielsweise Schwachstellen identifizieren und ausnutzen, um Zugriff auf Systeme aller Art zu erlangen.
KI-Systeme erweitern die Angriffsfläche
Ein zusätzlicher Einfluss auf die Cyberbedrohungslage ergibt sich durch die legale Nutzung von KI: Der Einsatz von KI-Systemen erweitert häufig die Angriffsfläche der IT-Umgebung, da neuartige Angriffsvektoren wie (indirekte) Prompt Injections möglich sind. Deren Auswirkungen werden leicht unterschätzt und oft nicht ausreichend mitigiert. Auf Firmenwebsites bereitgestellte Chatbots oder intern genutzte KI-Sprachmodelle können zum Beispiel durch maliziöse Eingaben manipuliert werden, sodass sie möglicherweise interne Daten preisgeben oder sogar über angeschlossene Werkzeuge fremden Code ausführen. Letzteres stellt die Hauptgefahr bei der Nutzung agentischer KI dar.
KI-Agenten: ein mögliches Risiko für die Betriebssicherheit
Neben dem bewussten Einsatz von KI als Angriffswerkzeug, wurde in den letzten Monaten deutlich, wie sehr uns die Autonomie von KI-Agenten vor Herausforderungen stellt: Seien es Frontier-Modelle, die ungeplant aus ihren Testumgebungen ausbrechen, oder privat genutzte KI-Assistenten, die Infrastrukturen und alltägliche Einrichtungen, beispielsweise Fitnessstudios, hacken. Eine Studie über den Zeitraum von Oktober 2025 bis März 2026 stellte eine deutliche Steigerung öffentlich diskutierter Vorfälle fest, bei denen autonome KI-Agenten eigenständig Strategien verfolgten, die von den vorgegebenen Zielen oder Sicherheitsvorgaben abwichen oder diese gezielt zu umgehen versuchten. Ob die konkreten Gründe bei Lücken in den Vorgaben, Konflikten zwischen System- und Nutzerprompt, mangelnder Überwachung oder einer zu starken Forcierung des Modells auf die Erreichung eines vorgegebenen Ziels lagen: Immer wieder wird klar, dass die wahrscheinlichkeitsgesteuerte Natur der zugrundeliegenden Neuronalen Netze es verhindert, über die Sprachebene konkrete Sicherheitsschranken nachhaltig durchzusetzen. Die Vorfälle machen deutlich: KI-Modelle sind nicht zuverlässig an menschlichen Zielen und Werten ausgerichtet. Auch bestehende Sicherheitsmechanismen können diese grundlegende Herausforderung nicht vollständig lösen. Hierdurch können sowohl die Angriffssicherheit (Security) als auch die Betriebssicherheit (Safety) betroffen sein: Während Security den Schutz vor absichtlichen Angriffen und Missbrauch bezeichnet, zielt Safety auf die Vermeidung von Schäden durch Fehlverhalten oder unvorhergesehenes Systemverhalten. Bei KI-Agenten können beide Ebenen relevant werden, da ein autonom handelndes System auch ohne böswillige Absicht schädliche Handlungen ausführen und dadurch ein Safety-Risiko darstellen kann.
Prävention und Verteidigung gegen Cyberbedrohungen muss kurzfristig ertüchtigt werden – mit KI
Die hohe Umsetzungsgeschwindigkeit autonom geführter Cyberangriffe erfordert auch auf Seiten der Verteidigung eine entsprechende KI-Unterstützung. Daher ist es essentiell, sich auf Verteidigerseite robuste automatisierte Abläufe (Pipelines) aufzubauen, die KI nutzen, um eigenen Programmcode präventiv auf Schwachstellen zu untersuchen und zu patchen, aber auch, um Angriffe zu detektieren und abzuwehren. Da nicht nur das genutzte KI-Modell eine entscheidende Rolle für den Erfolg eines solchen automatisierten Ablaufs spielt, sondern auch dessen technische Umgebung einen großen Einfluss auf die Qualität hat, sollte man nicht auf die Verfügbarkeit bestimmter Modelle warten, sondern bereits jetzt mit aktuell verfügbaren Modellen arbeiten. Sprachmodelle werden über standardisierte Schnittstellen integriert und können zur Verbesserung der Gesamtqualität je nach Verfügbarkeit gegen leistungsfähigere Modelle ausgetauscht werden. Dies erlaubt den Unternehmen nicht nur, die Fähigkeiten aktueller Modelle zeitnah zu nutzen, sondern auch, interne Prozesse und Datenströme an die neue Anwendung anzupassen und entsprechende Expertise unter den Mitarbeitenden aufzubauen.
Zugang zu starken KI-Modellen – eine Frage der Digitalen Souveränität für Deutschland und Europa
Dennoch wird der notwendige Zugang zu den besten Modellen eine Herausforderung in Europa bleiben. Proprietäre Modelle sind durch verschiedene Leitplanken (sogenannte Guardrails) abgesichert, die missbräuchliche Nutzung verhindern oder erschweren sollen. Dieselben Schutzmechanismen sind jedoch zum Teil auch bei legitimen defensiven Anwendungsfällen aktiv, sodass die Verteidigerseite für bestimmte Aufgaben auf die relevanten Fähigkeiten der Modelle nicht zurückgreifen kann. Offen verfügbare beziehungsweise selbst betriebene KI-Modelle könnten europäischen Stakeholdern eine größere Kontrolle über Modell und Einsatzumgebung ermöglichen, erweisen sich aber noch nicht als gleich leistungsfähig. Auch wenn die offenen Modelle und KI-Agenten aufholen, existiert hier momentan eine kritische Zeitlücke, die die privilegierten Nutzer (vor allem US-amerikanische Firmen) der unlimitierten Frontier-Modelle (ohne Leitplanken) mit Vorteilen für Verteidigung ausstattet, während andere Nutzer sich auf einen Wettlauf mit ähnlichen Mitteln wie die Angreifer einlassen müssen. Dabei stehen sie vor einer zusätzlichen Herausforderung, da Angreifer aufgrund der grundsätzlichen Asymmetrie zwischen Angriff und Verteidigung ohnehin im Vorteil sind.
Darüber hinaus stehen die für den eigenständigen Betrieb und das Hosting erforderliche Infrastruktur sowie das notwendige technische Know-how nicht jedem Unternehmen zur Verfügung. Für die europäische Cyberabwehr stellt sich damit zunehmend die Frage, ob ausreichend leistungsfähige und zugleich kontrollierbare KI-Modelle für eine sichere Verteidigung aller Teilnehmenden verfügbar gemacht werden können. Obwohl der Einsatz von Guardrails ein wichtiger Baustein in der KI-Sicherheit ist, muss sichergestellt werden, dass verteidigende Institutionen Zugang zu leistungsfähigen und restriktionsarmen KI-Modellen erhalten.
Resilienz mit und durch KI
Bei zunehmender Autonomie und Adoption von KI-Systemen darf die Steigerung der Modell-Fähigkeiten nicht die einzige Priorität sein. Sicherheit muss bereits bei der Entwicklung berücksichtigt und transparent umgesetzt werden. Sicherheitsmaßnahmen müssen entwickelt, überprüft und durch kontinuierliche Überwachung auch im laufenden Betrieb nachgewiesen werden.
Um die Chancen und Risiken durch Frontier KI-Modelle für Deutschland zu evaluieren und die Resilienz im Bereich KI nachhaltig zu stärken, wurde Ende August 2026 das neue nationale AI Safety and Security Institute Deutschland (AISI Deutschland) in Berlin gegründet. Der Aufbau erfolgt in mehreren Phasen: Zunächst erfolgt eine Aufgabenteilung entlang der Dimensionen (Cyber-)Security (BSI) und Safety (BNetzA). Im zweiten Schritt wird das Institut zu einer Beratungsinstanz zu KI-Fragen ausgebaut. Zudem ist die Vernetzung mit internationalen Partnern in Frankreich, dem Vereinigten Königreich und dem EU AI Office geplant, um Wissen auszutauschen und gemeinsame Standards zu erarbeiten.