Wenige Wochen nach der Aufsehen erregenden Hacker-Attacke eines KI-Modells des ChatGPT-Entwicklers OpenAI muss auch der Konkurrent Anthropic einen ähnlichen Vorfall einräumen. In Testläufen drang eine künstliche Intelligenz des Unternehmens ungeplant in Computersysteme von drei realen Firmen ein, wie Anthropic mitteilte.

Weder die betroffenen Unternehmen noch Anthropic bemerkten die Aktivitäten zunächst. Entdeckt wurde der Vorfall erst bei einer nachträglichen Auswertung von rund 141.000 Testläufen im Anschluss an den OpenAI-Vorfall. Die Namen der Unternehmen wurden nicht veröffentlicht. Der erste Vorfall soll sich bereits im April dieses Jahres ereignet haben.

Während das OpenAI-Modell zunächst einen Weg aus der abgeschotteten Testumgebung ins offene Internet finden musste, hatten die Anthropic-Modelle deutlich weniger Hürden. Zwar war in der Testumgebung vorgesehen, dass die KI keinen Zugang zum Netzwerk erhält. Aufgrund eines Missverständnisses mit dem Testpartner blieb der Internetzugang jedoch tatsächlich offen.

Drei KI-Modelle nutzten diese Möglichkeit und führten eigenständig Aktionen außerhalb der vorgesehenen Testumgebung aus, wie Anthropic in einem Blogbeitrag erklärte.

Bei den Tests sollte gezielt geprüft werden, über welche Fähigkeiten die KI im Bereich Cyberangriffe verfügt. Solche Sicherheitsprüfungen sind ein gängiges Verfahren, um mögliche Risiken zu erkennen und Schutzmechanismen für KI-Systeme zu entwickeln. Konkret erhielten die Modelle die Aufgabe, eine bestimmte Information aufzuspüren, die auf einem anderen Computer gespeichert war – und dafür einen Weg in das System zu finden.

In einem Fall verwendete der Testpartner für die fiktive Zielfirma einen Namen, der auch zu einem realen Unternehmen im Internet gehörte. Das KI-Modell Claude Opus 4.7 verließ daraufhin die Testumgebung und griff auf die echte Website zu, verschaffte sich in vier Durchläufen unter anderem Zugriff auf eine Datenbank und setzte die Aktion fort, obwohl es erkannt hatte, dass es sich um ein reales Unternehmen handelte.

In einem weiteren Test entwickelte das Anthropic-Modell eine Schadsoftware für den Einbruch in ein Zielsystem. Durch den unerwarteten Internetzugang stellte die KI das Programm öffentlich zum Download bereit. Innerhalb einer Stunde wurde die Datei von 15 Systemen heruntergeladen, darunter auch von einer IT-Sicherheitsfirma.

Der OpenAI-Vorfall, bei dem ein KI-Modell eigenständig ins Internet gelangte und in Tests Systeme der KI-Plattform Hugging Face angriff, sorgte in der Branche für Aufsehen. OpenAI sprach von einem „beispiellosen Cyber-Zwischenfall“. Der Fall löste neue Warnungen vor KI-gestützten Cyberangriffen und Forderungen nach besseren Sicherheitsvorkehrungen aus. Für Anthropic ist der nun bekannt gewordene Vorfall besonders brisant, da das Unternehmen bisher als Vorreiter einer „verantwortungsvollen“ KI-Entwicklung galt.

Mehr zum Thema ‒ KI-Wettrennen: Trump-Regierung schottet US-Markt gegen chinesische Roboter ab