Präzise Regelungen sind nötig
Der Spiegel titelt heute: „Anthropic meldet vierten Hackerangriff durch eigenes KI-Modell„. Da heißt es unter anderem:
Das US-Unternehmen Anthropic hat einen vierten Cybersicherheitsvorfall mit seinem KI-Dienst Claude gemeldet. Wie die Entwicklerfirma am Mittwoch in einem Blogbeitrag mitteilte, ereignete sich der Zwischenfall im Januar mit einer Vorabversion von Claude Opus 4.6. Die Betroffenen seien informiert worden, weitere Details nannte Anthropic nicht.
Schon im Juli hat es ähnliche Meldungen über eine „entkommene“ KI-Software der Firma OpenAI gegeben: ich habe als „KI hackt KI“ darüber berichtet.
Was entnehmen wir den Meldungen?
Die KI-Konzerne schaffen es offenbar nicht, ihre Softwareprodukte zu kontrollieren. KI-Programme andrerseits schaffen es, auf der Basis großer Textcorpora zu Lösungen für Probleme zu kommen, die von den Machern nicht einmal erahnt worden sind.
Was ist zu tun?
Meines Erachtens sollten über Staatengemeinschaften – wie die UNO oder die EU – KI-Plattformen und KI-Programme meldepflichtig gemacht werden. Leistungsparameter müssen öffentlich werden: Menschen müssen sich darüber informieren können, was die Programme leisten können. Über Datenunfälle wie bei Anthropic muss ehestens Bericht erstattet werden, nicht erst nach einem halben Jahr. Verspätete Berichte müssen mit Strafen geahndet werden.
Das Ganze geht nur international. Staatsgrenzen sind der KI egal.