… wenn es denn wahr ist
Im Artikel „KI bricht aus und hackt fremde Plattform“ berichtet der ORF, dass ein KI-System von OpenAI aus seiner Testumgebung „ausgebrochen“ sei und per Netz eine andere KI-Plattform „gehackt“ habe.
So im etwa soll das vor sich gegangen sein:
OpenAI wollte laut einem Blogeintrag des Unternehmens beim neuen Modell GPT-5.6 Sol und einer noch unveröffentlichten künftigen Version die Fähigkeit ausloten, Sicherheitslücken für Cyberattacken auszunutzen. Dafür sollte die Software Aufgaben eines Standardtests mit dem Namen ExploitGym lösen, der dafür oft in der Branche verwendet wird. Doch die KI-Modelle gingen viel weiter als erwartet, um die Aufgabe zu erfüllen.
Zunächst brach die Software aus der Testumgebung aus, indem sie sich auf eigene Faust Zugang zum offenen Internet verschaffte, und zwar über eine bisher unentdeckt gebliebene Schwachstelle. Während sie eigenständig im Netz unterwegs waren, kamen die Modelle zu dem Schluss, dass es bei Hugging Face nützliche Daten und Lösungen für die ExploitGym-Aufgaben geben könnte.
Deshalb habe sich die Software Zugang zu „geheimen Informationen“ auf der Plattform verschafft, mit denen sie beim ExploitGym-Test „schummeln“ könnte, erläuterte OpenAI. Auch dafür setzte die OpenAI-Software unter anderem auf zuvor unentdeckte Sicherheitslücken, aber auch auf gestohlene Zugangsdaten. Hugging Face zufolge führte der KI-Angreifer Tausende Schritte aus und wechselte den Standort der digitalen Steuerzentrale der Attacke.
Dass man KI-Programme „dressieren“ kann, Sicherheitslücken bei Softwareprodukten zu erkennen, ist nicht neu. Neu ist die Kombination innerhalb eines komplexen Sachverhalts.
Aber ist das echt?
Ich weiß es nicht; ich halte das berichtete Ereignis für möglich. Aber vielleicht haben sich zwei KI-Firmen – der „Angreifer“ OpenAI und das „Opfer“ Hugging Face – zusammen getan, um eine Schlagzeile zum Thema Leistungsfähigkeit der KI zu produzieren. Jedenfalls war der Chef von Hugging Face, Clement Delangue, gar nicht „böse“:
In den vergangenen 24 Stunden habe seine Firma mit OpenAI zusammengearbeitet, „und wir sind fest davon überzeugt, dass ihrerseits keine böse Absicht vorlag“. Dass der Cyberangriff völlig autonom erfolgt war, bezeichnete Delangue als „überwältigend“.
Der Angriff – wenn es denn einer war – würde jedenfalls die Fähigkeiten der KI-Software von OpenAI und den Wert der Entwicklungen bei Hugging Face „beweisen“ oder mindestens gedanklich nahelegen. Dass die Nachricht von der ausgebrochenen KI jedenfalls vielen Menschen Angst macht, ist vielleicht auch Teil des „Projekts“: Angst kann auch Umsätze generieren.
Wir befinden uns hier in einer sehr dünnen Schicht von relativ wenigen Insidern, die uns viel „verkaufen“ wollen und die fast unkontrolliert agieren können. Es ist maximale Vorsicht geboten!