KI verändert die Spielregeln der Sicherheit – worauf sich Sparkassen jetzt einstellen müssen
Warum klassische Schutzmechanismen nicht mehr ausreichen, wie sich Angriffe durch KI verändern – und welche Fähigkeiten Banken jetzt aufbauen sollten. Ein Gespräch mit Frank Thias, Senior Principal Solutions Engineer bei F5 – einem globalen Anbieter für Application Delivery und Security, der Unternehmen dabei unterstützt, Anwendungen und APIs über komplexe Cloud- und IT-Landschaften hinweg sicher zu betreiben.
Herr Thias, KI verändert gerade viele Bereiche der IT. Wie verändert sie konkret die Anwendungssicherheit?
KI verändert die Anwendungssicherheit grundlegend. Anwendungen treffen heute dynamische Entscheidungen zur Laufzeit – über Modelle, Agenten und APIs (Programmierschnittstellen, über die Systeme miteinander kommunizieren). Dadurch wächst die Angriffsfläche deutlich.
Neue Risiken entstehen vor allem durch Prompt Injection (gezielte Manipulation von Eingaben), den Missbrauch von KI-APIs oder agentische Systeme, die eigenständig Aktionen ausführen.
„Klassische Perimetersicherheit reicht nicht mehr aus – wir müssen Sicherheit zur Laufzeit denken.“
Viele Anwendungen integrieren KI über APIs oder externe Services. Entstehen dadurch neue Risiken?
Ja, und oft sind sie weniger offensichtlich. APIs werden zur zentralen Angriffsfläche, während KI-Systeme Eingaben nicht immer zuverlässig als legitim oder bösartig unterscheiden können. Gleichzeitig entstehen durch externe KI-Services neue Abhängigkeiten – etwa bei Datenschutz, Transparenz und regulatorischen Anforderungen.
Welche Rolle spielen Prompt-basierte Angriffe?
Eine sehr große. Prompt Injection greift nicht die Infrastruktur an, sondern die Entscheidungslogik der KI selbst. Manipulierte Eingaben können Sicherheitsregeln umgehen oder Systeme zu unerwünschten Aktionen verleiten – selbst in abgeschotteten Umgebungen. Auch Datenmanipulation, etwa über Trainingsdaten oder RAG-Systeme (KI greift dabei auf externe Wissensquellen zu), kann das Verhalten von Modellen langfristig verändern.
Angreifer nutzen selbst KI. Was bedeutet das für die Verteidigung?
Es geht nicht mehr um ein Gleichgewicht, sondern um Geschwindigkeit.
KI wird auch auf der Verteidigungsseite zum zentralen Werkzeug, zum Beispiel für Anomalieerkennung, Bot-Abwehr oder den Schutz von APIs in Echtzeit. Wir bewegen uns von statischen Regeln hin zu einer kontinuierlichen, KI-gestützten Laufzeitsicherheit, bei der Systeme Angriffe simulieren und Schutzmechanismen dynamisch anpassen.
Verschiebt sich das Kräfteverhältnis zwischen Angreifern und Verteidigern?
Nicht eindeutig, aber das Tempo steigt auf beiden Seiten massiv. Entscheidend ist nicht mehr das Gleichgewicht, sondern die Fähigkeit, mit der Geschwindigkeit der Angriffe Schritt zu halten.
Wo hat KI die Cyberabwehr bereits messbar verbessert?
Vor allem bei der frühzeitigen Erkennung komplexer Angriffe – etwa durch die Analyse großer Datenmengen im API- und Bot-Traffic. Auch automatisierte Tests („Red Teaming“, also das gezielte und systematische Simulieren realer Angriffe auf Systeme und deren Verhalten) helfen, Schwachstellen schneller zu identifizieren und zu schließen.
Müssen wir Sicherheit im KI-Zeitalter komplett neu denken?
Nicht komplett neu, aber deutlich erweitern.
„Sicherheit wird vom statischen Zustand zu einem dynamischen Kontroll- und Governance-Modell.“
Das bedeutet: Systeme werden nicht einmal abgesichert, sondern kontinuierlich überwacht, getestet und gesteuert.
Wo stoßen klassische Sicherheitskonzepte an ihre Grenzen?
Klassische Ansätze basieren auf bekannten Angriffsmustern und statischen Regeln. KI-Systeme hingegen verhalten sich dynamisch und erzeugen neue, schwer vorhersehbare Risiken. Zudem fehlt oft die Fähigkeit, Entscheidungen von KI-Systemen kontinuierlich und nachvollziehbar zu überwachen, was im regulierten Bankenumfeld besonders kritisch ist.
Welche neuen Prinzipien setzen sich durch?
Ein klarer Shift hin zu kontinuierlicher Kontrolle zur Laufzeit, sogenannten Guardrails (definierte Sicherheitsleitplanken für KI-Systeme) und automatisierten Tests. Wir vertrauen Systemen nicht mehr einmalig, sondern überprüfen sie permanent.
Wie sieht ein Red-Team-Test bei KI konkret aus?
Im Gegensatz zu klassischen Tests wird nicht die Infrastruktur angegriffen, sondern gezielt die Logik und Entscheidungsfindung der KI. Typische Szenarien sind Prompt Injection, Jailbreaks (Umgehung von Sicherheitsregeln), Datenabfluss oder das Ausnutzen von KI-Agenten mit erweiterten Rechten.
Wie oft sollten solche Tests stattfinden?
Kontinuierlich, idealerweise automatisiert und direkt in Entwicklungsprozesse integriert (z. B. in CI/CD-Pipelines, also automatisierte Software-Release-Prozesse).
„Einmalige oder jährliche Tests reichen nicht mehr aus.“
APIs gelten als zentrale Angriffspunkte. Was machen Unternehmen falsch?
Viele Unternehmen haben keinen vollständigen Überblick über ihre APIs („API Sprawl“). Zudem werden APIs oft wie klassische Benutzeroberflächen abgesichert, obwohl Angriffe hier häufig auf Geschäftslogik und Daten abzielen.
Was ist die am häufigsten übersehene Schwachstelle?
Fehlende Transparenz über die tatsächlich genutzten Schnittstellen. Shadow APIs, veraltete Endpunkte oder unkontrollierte Integrationen bleiben oft unsichtbar – und damit ungeschützt.
Wo entstehen die größten Reibungen zwischen Entwicklung und Security?
Vor allem durch unterschiedliche Ziele: Entwicklungsteams werden an Geschwindigkeit gemessen, Security-Teams an Risikominimierung. Security wird oft zu spät eingebunden und dann als „Blocker“ wahrgenommen.
„Sicherheit muss Teil des Entwicklungsprozesses sein – nicht dessen Gegenspieler.“
Welche Rolle wird KI in der Cyberabwehr künftig spielen?
KI wird zur zentralen Triebkraft, nicht nur bei der Erkennung, sondern auch bei Analyse und Vorbereitung von Gegenmaßnahmen. Gleichzeitig steigt die Komplexität der Systeme massiv, etwa durch Multi-Cloud-Architekturen und KI-Agenten.
Wird Cybersecurity vollständig automatisiert?
Nein. Der Zielzustand ist keine autonome Sicherheit, sondern eine Mensch-KI-Partnerschaft. KI übernimmt Geschwindigkeit und Skalierung, der Mensch bleibt für Entscheidungen und Verantwortung unverzichtbar.
Was müssen Unternehmen jetzt tun, um resilient zu bleiben?
Entscheidend sind Transparenz, Automatisierung und klare Governance. Sicherheit muss als kontinuierlicher Prozess verstanden werden, der sich laufend an neue Risiken anpasst.
„Resilienz entsteht nur, wenn Sicherheit als kontinuierlicher Prozess verstanden wird.“
