KI: Die neue Verwundbarkeit des Internets

KI ist auch eine Waffe der Verteidigung

Wer ausschließlich über die Gefahren spricht, unterschätzt die zweite Seite.

Unternehmen erzeugen täglich Millionen sicherheitsrelevanter Ereignisse. Menschen können diese Daten nicht vollständig analysieren. KI kann Muster erkennen, Anomalien identifizieren und unterschiedliche Warnmeldungen miteinander verbinden.

Auch bei der Softwareentwicklung kann KI helfen. Sie kann Quellcode überprüfen, Schwachstellen suchen, Konfigurationen analysieren und bei der Behebung von Fehlern unterstützen.

Damit entsteht ein technologisches Wettrennen. Die gleichen Fähigkeiten, die Angreifer nutzen können, stehen grundsätzlich auch Verteidigern zur Verfügung.

Ein Unternehmen, das KI-Agenten unkontrolliert mit weitreichenden Rechten ausstattet, erhöht sein Risiko. Ein Unternehmen, das KI in einer kontrollierten Umgebung mit begrenzten Zugriffsrechten einsetzt und kritische Aktionen überwacht, kann dagegen seine Sicherheitsfähigkeit verbessern.

Die Technologie selbst ist nicht automatisch Angreifer oder Verteidiger. Entscheidend sind ihre Einsatzbedingungen. Somit stellt sich immer die Frage: KI: Freund oder Feind?

Europas strukturelles Problem

Die KI-Debatte darf nicht verdecken, dass viele Unternehmen schon vor dem Aufkommen moderner KI unzureichend geschützt waren.

Die Europäische Agentur für Cybersicherheit ENISA stellte 2026 fest, dass Ransomware weiterhin die Cyberbedrohung mit der größten kurzfristigen Wirkung ist. Öffentliche Verwaltungen waren der am stärksten betroffene Sektor. 73 Prozent der erfassten betroffenen Organisationen gehörten zu den nach NIS2 definierten wichtigen oder wesentlichen Einrichtungen.⁸

Die digitale Infrastruktur Europas ist hochgradig vernetzt. Unternehmen arbeiten mit Cloud-Diensten, externen Softwareanbietern, Lieferanten, Logistiksystemen, Zahlungsdienstleistern und spezialisierten Plattformen. Jeder zusätzliche Dienst schafft Abhängigkeiten und erweitert die Angriffsfläche.

Besonders problematisch sind alte Systeme. In vielen Unternehmen existieren Anwendungen, die über Jahre oder Jahrzehnte gewachsen sind. Sie funktionieren wirtschaftlich zuverlässig, wurden aber nicht für eine Welt entwickelt, in der Maschinen, Mitarbeiter, Kunden und externe Dienstleister permanent miteinander verbunden sind.

Hinzu kommen fehlende Sicherheitsfachkräfte, unvollständige Inventare, schwaches Patchmanagement und zu weitreichende Benutzerrechte.

Cybersecurity wurde lange als IT-Thema behandelt. Das reicht nicht mehr.

Wenn ein Produktionsunternehmen wegen eines Cyberangriffs seine Fertigung stoppen muss, handelt es sich nicht um ein gewöhnliches Computerproblem. Wenn ein Krankenhaus nicht mehr auf Patientendaten zugreifen kann, ist die Angelegenheit unmittelbar gesellschaftlich relevant. Bei Energieversorgern oder Verkehrssystemen kann ein digitaler Ausfall kritische Infrastruktur betreffen.

Deutschland und Europa haben zu spät reagiert

Deutschland verfügt über eine leistungsfähige Industrie und einen großen Mittelstand. Gerade diese Stärke bringt eine besondere Verantwortung mit sich.

Viele Unternehmen sind international vernetzt, besitzen hochautomatisierte Produktionsanlagen und sind auf digitale Lieferketten angewiesen. Ihre wirtschaftliche Bedeutung steht deshalb teilweise im Missverhältnis zur Sicherheitsorganisation.

Die Einführung der europäischen NIS2-Regeln soll hier ansetzen. Unternehmen und Organisationen mit besonderer Bedeutung müssen Risiken systematischer bewerten und Sicherheitsmaßnahmen verbessern.

Die Umsetzung in den Mitgliedstaaten verlief allerdings nicht ohne Verzögerungen. Deutschland gehörte zu den Ländern, bei denen die nationale Umsetzung der europäischen Vorgaben lange nicht vollständig abgeschlossen war.⁹

Regulierung allein wird das Problem jedoch nicht lösen.

Ein Unternehmen kann sämtliche Dokumentationspflichten erfüllen und trotzdem technisch unsicher sein. Entscheidend ist, ob alle Systeme bekannt und aktuell sind, ob Administratorzugänge abgesichert werden, ob kompromittierte Konten sofort gesperrt werden können, ob Backups geschützt sind und welche Rechte externe Dienstleister besitzen.

Auch der Einsatz von KI muss in diese Sicherheitsarchitektur integriert werden.

Die menschliche Schwachstelle wird gefährlicher

Eine der größten Veränderungen betrifft den Menschen.

Phishing existiert seit Jahrzehnten. Früher waren betrügerische Nachrichten häufig durch schlechte Sprache oder offensichtliche Fehler erkennbar. Generative KI verändert das.

Angreifer können überzeugende Nachrichten in nahezu jeder Sprache erstellen. Sie können öffentliche Informationen über Unternehmen und Mitarbeiter verarbeiten und daraus individuelle Täuschungsversuche entwickeln.

Hinzu kommen synthetische Stimmen und Bilder.

Ein Angreifer kann eine Stimme imitieren und damit einen Mitarbeiter unter Druck setzen. In Kombination mit öffentlich verfügbaren Informationen kann daraus ein glaubwürdiger Betrugsversuch entstehen.

Die Konsequenz ist nicht, dass Menschen künftig keinem Anruf mehr vertrauen dürfen. Unternehmen müssen vielmehr davon ausgehen, dass eine überzeugende Nachricht kein ausreichender Beweis für ihre Echtheit ist.

Kritische Überweisungen benötigen unabhängige Kontrollwege. Administratorzugänge brauchen zusätzliche Absicherung. Mitarbeiter müssen regelmäßig geschult werden.

Die nächste Schwachstelle: KI selbst

Noch grundsätzlicher wird das Problem, wenn KI-Agenten direkten Zugriff auf Unternehmenssysteme erhalten.

Ein Büroagent kann E-Mails lesen, Termine verwalten, Rechnungen prüfen und interne Daten abrufen. Ein Softwareagent kann Programme verändern und Tests durchführen. Ein Produktionsagent kann Maschinenparameter analysieren.

Je mehr Rechte ein solcher Agent besitzt, desto attraktiver wird er für Angreifer.

Damit entsteht eine neue Sicherheitsfrage: Was passiert, wenn ein KI-Agent manipuliert wird?

Eine traditionelle Software führt normalerweise vorher definierte Befehle aus. Ein KI-Agent interpretiert dagegen Informationen und kann daraus eigene nächste Schritte ableiten.

Dazu gehören Prompt-Injection-Angriffe, bei denen manipulierte externe Inhalte ein KI-System zu unerwünschten Handlungen bewegen sollen. Das Risiko wächst erheblich, wenn der Agent gleichzeitig Zugriff auf E-Mail, Cloudspeicher, Datenbanken oder Unternehmenssysteme besitzt.

KI benötigt deshalb eine eigene Sicherheitsarchitektur.

Ein Agent muss begrenzte Rechte besitzen. Kritische Aktionen müssen überprüfbar sein. Protokolle müssen nachvollziehbar bleiben. Menschen müssen Entscheidungen zurücknehmen können.