Der Thüringer Verfassungsschutzpräsident Stephan Kramer warnt davor, den jüngsten KI-Vorfall bei OpenAI zu dramatisieren. „Wir sollten jetzt nicht in Panik verfallen. Das ist kein Skynet-Szenario“, sagte Kramer dem „Handelsblatt“. Skynet ist in der Filmreihe „Terminator“ ein KI-System, das ein eigenes Bewusstsein entwickelt und einen Vernichtungskrieg gegen die Menschheit beginnt. Zugleich bezeichnete Kramer den Hackerangriff durch außer Kontrolle geratene Künstliche Intelligenz (KI) als „Warnsignal“ für die Sicherheitsbehörden.

OpenAI hatte offengelegt, dass zwei fortgeschrittene KI-Modelle während eines internen Sicherheitstests mehrere Angriffsschritte eigenständig kombinierten und sich unbefugten Zugang zu einer externen Infrastruktur verschafften. „Neu ist, dass wir es hier mit keinem von Menschen Schritt für Schritt gesteuerten Angriff zu tun haben“, sagte Kramer. Die KI habe die Angriffskette eigenständig geplant und koordiniert, das sei der eigentliche Paradigmenwechsel.

Mit Blick auf frei verfügbare KI-Modelle wie das neue chinesische Modell Kimi K3 warnte Kramer vor wachsenden Risiken. „Sehr leistungsfähige, frei verfügbare KI-Modelle können ein deutlich verstärktes Sicherheitsrisiko darstellen“, sagte er. Würden die sogenannten Modellgewichte veröffentlicht, könne jeder die Systeme auf eigenen Rechnern betreiben und verändern. „Dabei lassen sich Schutzmechanismen entfernen. Sind die Modellgewichte einmal veröffentlicht, ist ihre weitere Verbreitung praktisch nicht mehr zu kontrollieren.“

Kramer forderte deshalb eine Anpassung der deutschen Sicherheitsstrategie. Er brauche ein eigenes Lagebild „KI und Cyberoperationen“. Außerdem sollten die Sicherheitsbehörden gemeinsam beobachten, welche offenen Modelle tatsächlich offensive Cyberfähigkeiten besitzen. Dafür sei ein technisches Frühwarnsystem und nicht nur eine allgemeine Beobachtung der KI-Entwicklung nötig.

Foto: via dts Nachrichtenagentur