Die Gefahr durch KI-gestützte Angriffe

Für Angreifer ist KI die stärkste Waffe. Jetzt muss sie zur Verteidigung genutzt werden.

Die Fähigkeiten von Frontier-Modellen existieren nicht mehr nur in der Theorie. Anthropic, OpenAI und andere werden in Kürze Modelle veröffentlichen, die – objektiv betrachtet – in der Lage sind, Sicherheitslücken in großem Umfang aufzudecken. Dabei handelt es sich nicht um schrittweise Verbesserungen. Stellen Sie sich vor, eine Vielzahl von Agenten katalogisiert methodisch und ununterbrochen jede Schwachstelle in Ihrer technologischen Infrastruktur.

In den nächsten sechs Monaten wird die Einstiegshürde für ausgefeilte Angriffe weiter sinken. Die Traumwaffe eines Hackers wird für jeden verfügbar sein, der über eine Kreditkarte und einen Computer verfügt.

Das Besondere an dieser Entwicklung ist nicht nur die Leistungsfähigkeit. Es ist die Asymmetrie und derzeit spielt sie dem Angreifer in die Hände. Ein einzelner Akteur kann nun Kampagnen durchführen, für die früher ganze Teams erforderlich waren. Die Modelle machen keine Ruhepausen, sind skalierbar und müssen nur einmal richtig liegen. Für die Verteidiger hingegen gilt dies für jedes einzelne Mal. Das ist kein fairer Kampf. 

Die anvisierten Sicherheitslücken sind nicht schwer zu finden. Ein durchschnittliches Unternehmen ist auf Tausende von Technologieanbietern und Millionen von Open-Source-Abhängigkeiten angewiesen, die über Jahre hinweg Risiken mit sich gebracht haben: Konfigurationsfehler, übersehene API-Endpunkte, Zugriffsrichtlinien, die einst sinnvoll waren, aber nie mehr überprüft wurden. Es handelt sich um alte Missstände, die nie vollständig behoben wurden, und die neuen Modelle sind sehr gut darin, sie aufzudecken.

Doch es wird noch schlimmer. Mitarbeiter probieren Agenten aus, ohne sich über das Risiko im Klaren zu sein, das sie damit eingehen. Durch Vibe Coding ist die Softwareentwicklung nun auch für Menschen zugänglich, die nie darin geschult wurden, darüber nachzudenken, welche Folgen dies hat. Jeder Desktop verhält sich mittlerweile praktisch wie ein Server und es ist wahrscheinlich, dass dort unbeaufsichtigte KI-Tools in der Nähe sensibler Systeme laufen. Die Angriffsfläche wird immer größer, meist unbemerkt.

Die Quittung dafür wird früher kommen, als die meisten Verantwortlichen erwarten.

Die schnellsten KI-gestützten Angriffe gelangen bereits innerhalb von 25 Minuten vom Zugriff bis zur Ausschleusung, während ein durchschnittliches Unternehmen immer noch Tage braucht, um ein Eindringen zu erkennen. Diese Zahlen waren bereits beunruhigend. Die neuen Frontier-Modelle werden sie noch einmal deutlich übertreffen. Dagegen ist kein Unternehmen gefeit. Auch nicht die KI-Rechenzentren, die diese Modelle betreiben, denn die KI‑Infrastruktur dieser Modelle nutzt genau die IT, deren Schwächen sie aufdecken kann. Das Modell ist derzeit nicht die Lösung, sondern wird das Problem noch verschärfen. 

Am häufigsten höre ich hierzu die Frage: Was nun?

Die Rolle der Cyber-Sicherheitsbranche: Die Modelle, die das Problem verursachen, werden eine Rolle bei der Verteidigung spielen und KI mit KI bekämpfen.

Der Schlüssel liegt in der Tatsache, dass dieselben Modelle, die Sicherheitslücken finden und ausnutzen, auch Teil der Verteidigung sein können. Dies gelingt aber nur, wenn sie schnell in Sicherheitslösungen integriert werden. Der Vorteil für die Sicherheitsverantwortlichen besteht darin, dass sie diese Modelle nutzen können, um die von ihnen aufgedeckten Sicherheitslücken umgehend – praktisch in Echtzeit – zu identifizieren, zu validieren und zu beheben. Zwar haben die Angreifer Zugriff auf diese Technologie, wir aber auch. Die Strategie liegt auf der Hand: Wir müssen KI mit KI bekämpfen.

Man sollte jedoch bedenken, dass diese Modelle als umfassende Verteidigungssysteme nicht wirksam sind. Sie werden es auch niemals sein. Sie sind zwar leistungsstark, benötigen aber eine Infrastruktur, deren Aufbau uns Jahre gekostet hat und folgende Elemente umfasst:

• Sensoren: Sensoren im gesamten Netzwerk, in der Cloud, an Endpunkten und in Browsern, die sowohl Daten sammeln als auch bekannte Bedrohungen stoppen, bevor sie sich ausbreiten. Zum Schutz des Edge wurden über Jahre hinweg Technologien entwickelt, die nun durch KI ergänzt werden müssen. Was die Sensoren nicht erkennen, können die Modelle nicht beheben. Die Instrumentierung am Edge ist kein optionales Extra, sondern die Grundvoraussetzung.
• KI-gestützte Data Lakes: Sensoren allein generieren eine Meldungsflut. Um aus dieser Meldungsflut verwertbare Informationen zu gewinnen, ist Kontext vonnöten. Der Kontext wiederum erfordert einen umfangreichen, sicherheitsspezifischen Data Lake, der darauf ausgelegt ist, Signale zu empfangen, zu normalisieren und zu speichern. Logische Data Lakes sind so umfangreich, dass sie der KI den Kontext liefern können, der erforderlich ist, um ein verdächtiges Signal in ein bestätigtes Signal und eine konkrete Reaktion umzuwandeln. Der Data Lake ist kein reiner Speicher; er ermöglicht es den Modellen – in Kombination mit Algorithmen für maschinelles Lernen, die von der Branche über viele Jahre zum Antizipieren von Randfällen und bekannten Techniken entwickelt wurden –, Daten im laufenden Betrieb zu analysieren. Diese Kombination ist schwer zu replizieren und noch schwerer anzugreifen.
• Eine solide Basis ohne Silos: Noch nie war es so wichtig wie heute, die Fragmentierung des Cyber-Sicherheitsstacks zu reduzieren. Untersuchungen zeigen, dass bei 75 % der Sicherheitsverletzungen zwar Protokolle vorlagen, die auf anomales Verhalten hätten hinweisen müssen, kritische Signale jedoch übersehen wurden, bis es zu spät war. Die Signale waren da, aber sie gingen in den fragmentierten Tools unter. Die Daten müssen an einem Ort zusammengeführt werden und moderne Tools müssen selbstheilend sein. Diese Lücke war noch zu bewältigen, solange die Angriffe mit menschlicher Geschwindigkeit erfolgten. Bei dem Tempo, das die KI ermöglicht, wird dies nicht mehr machbar sein. Konsolidierung ist nicht einfach eine Option für die Modernisierung. Sie ist eine Grundvoraussetzung. 

Die Lösung besteht nicht darin, LLMs und Cyber-Sicherheit gegeneinander zu stellen, sondern in ihrem Zusammenspiel. 

• KI-Labs müssen diese Funktionen auf verantwortungsvolle Weise zur Verfügung stellen und dabei gewährleisten, dass die Sicherheitsverantwortlichen und die nationalen Sicherheitsbehörden konsultiert wurden. 
• Neue Funktionen im Bereich der Cyber-Sicherheit und beim Betrieb der KI-Agenten sollten von vornherein abgesichert sein und nicht von KI-Unternehmen ohne Rücksicht auf die Sicherheit eingeführt werden. 
• Die Sicherheitsverantwortlichen müssen in der Lage sein, diese Funktionen schnell zu nutzen, um sicherzustellen, dass wir KI mit KI bekämpfen können. 

Es steht viel auf dem Spiel. Das Zeitfenster zum Handeln ist offen und wir müssen gemeinsam schnell und zielgerichtet vorgehen. Jeder Sicherheitsverantwortliche, jeder Vorstand, jedes KI-Unternehmen muss dieses Thema mit der gebotenen Dringlichkeit behandeln. 

Dies ist der entscheidende Moment für die Cyber-Sicherheitsbranche.

Wenn die Basis stimmt, wird KI zum Verteidiger. Stimmt sie nicht, kann kein Modell der Welt Ihr Unternehmen retten. 

Unsere Arbeit ist bereits in vollem Gange. Branchenweit – gemeinsam mit KI-Labs, Technologieanbietern, unseren Partnern und unseren Kunden – schaffen wir die Basis, die eine Verteidigung erst möglich macht. KI-Labs spielen dabei eine wichtige Rolle – ebenso wie Sie alle.

Cyber-Sicherheitsressourcen sind gerade noch wertvoller geworden.