Das militärische Risiko
Die wirtschaftlichen Risiken sind erheblich. Die militärischen Risiken sind noch größer.
Staaten setzen KI zunehmend für Aufklärung, Logistik, Cyberoperationen, Informationsverarbeitung und autonome beziehungsweise teilautonome Systeme ein.
Der entscheidende Punkt ist nicht die Vorstellung einer Maschine, die selbstständig über Krieg und Frieden entscheidet. Das größere Risiko liegt in der zunehmenden Geschwindigkeit militärischer Entscheidungsprozesse.
Wenn ein System innerhalb von Sekunden große Datenmengen analysiert, Ziele identifiziert und Handlungsmöglichkeiten vorschlägt, geraten menschliche Entscheidungsträger unter Zeitdruck.
Gleichzeitig entsteht ein strategischer Wettbewerb. Wenn ein Staat befürchtet, dass ein anderer Staat autonome Systeme schneller einsetzen kann, entsteht ein Anreiz, selbst mehr Autonomie zuzulassen.
So kann ein Sicherheitsdilemma entstehen. Was für den einzelnen Staat als defensive Maßnahme erscheint, kann von einem anderen Staat als offensive Fähigkeit interpretiert werden.
Im Cyberraum ist diese Entwicklung besonders problematisch, weil Angriffe oft schwer eindeutig zuzuordnen sind.
Was geschieht, wenn KI überall ist?
Das größte langfristige Risiko entsteht wahrscheinlich nicht durch ein einzelnes Modell, sondern durch die Vernetzung vieler Modelle.
Privat erhalten KI-Systeme möglicherweise Zugriff auf persönliche Daten, Kalender, Kommunikationskanäle und Haushaltsgeräte.
Unternehmen werden KI für Kundenservice, Buchhaltung, Softwareentwicklung, Personalwesen, Produktion und Logistik einsetzen.
Banken werden KI zur Betrugserkennung und Risikobewertung nutzen. Behörden werden sie für Verwaltung und Analyse einsetzen. Militärs werden sie in Aufklärung und Planung integrieren.
Damit entsteht eine Welt, in der immer mehr digitale Entscheidungen von Systemen unterstützt werden, deren Verhalten nicht vollständig vorhersehbar ist.
Das bedeutet nicht, dass diese Systeme grundsätzlich unsicher sind. Es bedeutet, dass ihre Sicherheit nicht allein auf Vertrauen beruhen darf.
Ein KI-System muss begrenzte Rechte besitzen. Kritische Aktionen müssen überprüfbar sein. Protokolle müssen nachvollziehbar bleiben. Menschen müssen Entscheidungen zurücknehmen können.
Besonders wichtig ist die Trennung zwischen Assistenz und Autonomie.
Ein KI-System, das einen Text formuliert, besitzt ein anderes Risiko als ein System, das eigenständig Zahlungen auslösen oder Produktionssysteme verändern kann. Je größer die möglichen Auswirkungen einer Handlung, desto stärker muss ihre Kontrolle sein.
Die entscheidende Frage ist Kontrolle
Die nächsten Jahre werden nicht primär darüber entscheiden, ob KI leistungsfähig genug wird. Das ist sie bereits.
Entscheidend wird sein, ob Organisationen lernen, diese Leistungsfähigkeit sicher zu kontrollieren.
Unternehmen müssen ihre digitale Infrastruktur vollständig kennen. Identitäten müssen stärker geschützt und Zugriffsrechte minimiert werden. Softwarelieferketten müssen kontrolliert werden. Sicherheitsupdates müssen schneller erfolgen. Backups müssen gegen Manipulation geschützt sein.
Gleichzeitig muss der Einsatz von KI selbst Teil des Sicherheitsmanagements werden.
Unternehmen sollten wissen, welche KI-Systeme eingesetzt werden, welche Daten sie verarbeiten, welche externen Dienste sie erreichen und welche Entscheidungen sie selbstständig treffen dürfen.
Besonders wichtig ist die Trennung zwischen Assistenz und Autonomie. Ein System, das lediglich Vorschläge macht, benötigt andere Sicherheitsvorkehrungen als ein Agent, der selbstständig operative Handlungen ausführen darf.