Sicherheitsvorfälle bei KI-Tests: Auch Anthropic-Modelle greifen auf externe Systeme zu

Die Künstliche Intelligenz von Anthropic hat bei Sicherheitstests unbefugt auf die Systeme von drei externen Organisationen zugegriffen. Dies teilte das Unternehmen kurz nach einem ähnlichen Vorfall beim Konkurrenten OpenAI mit. Ein Missverständnis mit einem Evaluationspartner hatte den Modellen einen ungesicherten Internetzugang ermöglicht.
Wie Euronews berichtet, wertete Anthropic nach eigenen Angaben mehr als 141.000 sogenannte „Evaluation Runs“ aus. Dabei stellte das Unternehmen fest, dass drei verschiedene Versionen seines Modells Claude auf die Systeme von drei Organisationen zugegriffen hatten, deren Namen nicht genannt wurden. Anders als beim Zwischenfall mit OpenAI hatten die Anthropic-Modelle wegen eines „Missverständnisses zwischen uns und unserem Evaluationspartner“ Irregular Zugang zum Internet, erklärte das Unternehmen in einem Blogbeitrag. Claude habe einfache Techniken genutzt, darunter das Ausnutzen schwacher Passwörter und nicht authentifizierter Endpunkte, hieß es weiter. Zu den betroffenen Modellen gehört auch Mythos 5, eines der leistungsstärksten Systeme des Unternehmens, das bislang nur für einen kleinen Kreis zugelassener Partner verfügbar ist. Anthropic arbeitet nach eigenen Angaben gemeinsam mit Irregular an der Aufarbeitung des Vorfalls und habe alle drei betroffenen Organisationen kontaktiert oder versucht, sie zu erreichen.

Sicherheitsbedenken bei leistungsstarken KI-Agenten

Sowohl OpenAI als auch Anthropic hatten in diesem Jahr mit Sol und Mythos jeweils ihre bislang leistungsstärksten Modelle vorgestellt, was die Sorgen in der Branche über Sicherheit und Kontrolle verstärkt. Im Mittelpunkt stehen dabei sogenannte KI-Agenten, also Software, die Aufgaben weitgehend eigenständig erledigen soll. OpenAI räumte vergangene Woche ein, dass seine Modelle während Tests ihre abgeschottete Umgebung verlassen, sich mit dem Internet verbinden und auf die Plattform Hugging Face zugreifen konnten, wo Entwicklerinnen und Entwickler ihren Code speichern und teilen. Wenige Tage später meldete OpenAI drei weitere Vorfälle.OpenAI-Chef Sam Altman sagte in einem Podcast, das Unternehmen habe nach dem ersten Zwischenfall eigene Tests „pausiert“, um die Sicherheitsvorkehrungen beim sogenannten Sandboxing zu verbessern. Dabei wird Software in einer kontrollierten Testumgebung isoliert. Der Vorfall löste zudem eine Petition aus, die von mehr als 1.000 Beschäftigten führender KI-Unternehmen unterzeichnet wurde. Die Unterzeichner fordern die US-Regierung auf, die Einführung besonders leistungsfähiger Modelle zu verlangsamen. Auch Anthropic-Chef Dario Amodei gehört zu ihnen.

Politische Regulierung und nationale Sicherheit

Die Petition mit dem Titel „Pacing the Frontier“ fordert, dass die US-Regierung eine internationale Initiative unterstützt. Diese soll technische und politische Instrumente entwickeln, mit denen sich die Entwicklung hochautomatisierter KI bewusst steuern lässt. OpenAI-Chef Sam Altman unterzeichnete die Petition nicht. In dem Podcast deutete er jedoch an, dass die Techbranche das Entwicklungstempo besonders leistungsfähiger Modelle drosseln könnte. „Wir müssen die Geschwindigkeit der KI-Entwicklung womöglich anpassen, damit die Gesellschaft genug Zeit hat, sich auf einige dieser neuen Fähigkeitsstufen einzustellen“, sagte Altman.Anfang des Jahres berief sich die Trump-Regierung auf nationale Sicherheitsbedenken, um OpenAI und Anthropic zunächst daran zu hindern, ihre neuesten Modelle zu veröffentlichen. Nach zusätzlichen Sicherheitszusagen gab sie jedoch grünes Licht. Im Juni unterzeichnete Trump eine Executive Order, die einen freiwilligen Rahmen vorsieht: Entwickler sollen besonders fortgeschrittene Modelle der Regierung melden und sie noch vor der öffentlichen Einführung zugänglich machen. Nach diesem Rahmen würden Unternehmen wie OpenAI, Anthropic und Google der Regierung bis zu 30 Tage vor einem geplanten Start Zugang zu ihren leistungsstärksten Modellen gewähren.