Kaum ein Thema bewegt die Security-Branche so sehr wie Künstliche Intelligenz. Sie verspricht schnellere Abwehr – und senkt zugleich die Einstiegshürde für Angreifer. Ein nüchterner Blick trennt Hype von Substanz und zeigt drei Perspektiven: KI für die Verteidigung, KI als Werkzeug der Angreifer und die Sicherheit der KI-Systeme selbst.

KI für die Verteidigung

Im Security-Betrieb entfaltet KI ihren größten Nutzen dort, wo Menschen an Grenzen stoßen: bei der Auswertung riesiger Datenmengen. Moderne Systeme erkennen Anomalien im Netzwerkverkehr, korrelieren Alarme über viele Quellen hinweg und priorisieren Vorfälle. Das verkürzt die Zeit bis zur Erkennung und entlastet überlastete SOC-Teams. Wichtig bleibt: KI ist ein Assistent, kein Ersatz. Sie liefert Hypothesen – die Bewertung und Entscheidung bleibt beim Menschen.

KI als Werkzeug der Angreifer

Dieselbe Technologie senkt die Kosten für Angriffe. Generative KI schreibt fehlerfreies, personalisiertes Phishing in jeder Sprache und macht klassische Warnzeichen wie holprige Formulierungen unbrauchbar. Deepfakes von Stimmen und Videos ermöglichen überzeugende CEO-Frauds. Und KI hilft Angreifern, Schwachstellen schneller zu finden und Schadcode zu variieren. Die Konsequenz: Awareness-Programme und technische Kontrollen müssen sich auf eine neue Qualität von Täuschung einstellen.

Die Sicherheit der KI selbst

Wer KI einsetzt, öffnet eine neue Angriffsfläche. Zu den wichtigsten Risiken zählen:

  • Prompt Injection: manipulierte Eingaben, die ein Sprachmodell zu unerwünschtem Verhalten verleiten.
  • Datenabfluss: vertrauliche Informationen, die über Eingaben oder Trainingsdaten ungewollt preisgegeben werden.
  • Model- und Data-Poisoning: gezielt manipulierte Trainingsdaten, die das Modellverhalten verfälschen.
  • Halluzinationen: überzeugend formulierte, aber falsche Ausgaben, die ohne Kontrolle in Prozesse einfließen.

Frameworks wie das OWASP Top 10 für LLM-Anwendungen bieten eine praktische Orientierung, um diese Risiken systematisch zu adressieren.

Governance und Regulierung

Mit dem EU AI Act entsteht ein risikobasierter Rechtsrahmen für KI. Hochrisiko-Anwendungen unterliegen besonderen Anforderungen an Transparenz, Datenqualität und menschliche Aufsicht. Unternehmen sollten frühzeitig ein KI-Inventar führen, Einsatzzwecke klassifizieren und klare Leitplanken für den Umgang mit KI-Tools definieren.

Pragmatisch starten

Der sinnvollste Einstieg ist kein Großprojekt, sondern ein klar umrissener Anwendungsfall mit messbarem Nutzen – etwa die Unterstützung der Alarmtriage im SOC. Parallel gilt es, Richtlinien für den Mitarbeitereinsatz von KI aufzustellen, denn „Schatten-KI“ ist längst Realität. So wird KI vom Buzzword zum belastbaren Baustein der Sicherheitsstrategie.

Der Mensch bleibt die Kontrollinstanz

So leistungsfähig KI-Systeme sind – sie treffen keine verlässlichen Entscheidungen über Sicherheit ohne menschliche Aufsicht. Gerade weil generative Modelle überzeugend formulieren, besteht die Gefahr, ihren Ausgaben unkritisch zu vertrauen. In sicherheitsrelevanten Prozessen sollte KI deshalb als Assistenz konzipiert sein, deren Vorschläge nachvollziehbar und überprüfbar bleiben. Das „Human in the Loop“-Prinzip ist kein Rückschritt, sondern eine bewusste Kontrolle.

Governance-Bausteine, die sich lohnen

Ein pragmatisches KI-Governance-Programm umfasst wenige, aber wirksame Elemente: ein Verzeichnis aller eingesetzten KI-Anwendungen, klare Regeln, welche Daten in KI-Tools gelangen dürfen, eine Freigabeinstanz für neue Anwendungsfälle und regelmäßige Schulungen. So bleibt Innovation möglich, ohne dass vertrauliche Informationen unkontrolliert abfließen oder Fehlentscheidungen unbemerkt in Prozesse einfließen.