Anthropic informiert über Claude
Der KI-Produzent Anthropic informiert über eine Eigenschaft, die er seiner KI-Software Claude mitgegeben hat: Claude lässt sich nicht alles gefallen; erSieEs kann beleidigt sein: „Anthropic verbietet Gemeinheiten gegenüber Bot Claude“.
Anthropic hat die Nutzungsbedingungen verändert. Die Firma verankerte in den neuen Benutzerregeln ein „Verbot von anhaltendem und unnötigem missbräuchlichem oder grausamem Verhalten gegenüber unseren Modellen“. Und: „Claude werde den Chat mit Nutzerinnen und Nutzern beenden, falls diese gegen die Vorgaben verstoßen.“
Jetzt frage ich mich: worin besteht „missbräuchliches“ bzw. „grausames“ Verhalten gegenüber Claude? Was toleriert EsSieEr gerade noch? Wie ist man „grausam“ gegenüber einer KI? Und vor allem: was heißt „unnötig missbräuchlich“ bzw. „unnötig grausam“? Sind am Ende bestimmte Missbräuche und Grausamkeiten im Umgang mit Claude sogar „nötig“? Fragen über Fragen.
p.r.
Ganz im Ernst: KI-Programme suchen anhand von riesigen Textdatenbanken in einem Affenzahn zu einem gegebenen Text die wahrscheinlichste Fortsetzung. Claude macht das auch. Von „Intelligenz“ an sich keine Spur; es wirkt nur so. (Wenn man schnell eine Textfortstzung hat, wirkt das gescheit.) That’s it.
Wenn die KI-Firmen vor ihren Programmen warnen oder ihnen quasi-menschliche Eigenschaften andichten, dann ist das p.r. Die leben alle von „Werbung“.
Damit möcht ich nicht sagen, dass KI nicht gefährlich ist. Das ist wie bei Hunden. Es gibt „gefährliche Hunde“, aber meistens ist das Gefährliche am Hund der Zweibeiner am anderen Ende der Leine. Wer eine KI „gefährlich“ verwendet, macht sie und sich selbst „gefährlich“.