Ein Forscher des KI-Unternehmens Anthropic hat angekündigt, das Unternehmen aus Sorge zu verlassen, dass der Konzern und seine Wettbewerber bei der Entwicklung künstlicher Intelligenz nicht verantwortungsvoll handeln. Damit greift er Bedenken auf, die innerhalb und außerhalb der Branche hinsichtlich der möglichen Entwicklung von KI-Systemen geäußert werden, die sich der menschlichen Kontrolle entziehen könnten.

Jacob Coxon, der nach eigenen Angaben insgesamt drei Jahre lang sowohl bei Anthropic als auch bei OpenAI geforscht hat, erklärte am Dienstag auf der Plattform X, dass beide KI-Unternehmen stärker darauf konzentriert seien, einander und globale Konkurrenten bei der Entwicklung des leistungsfähigsten Modells zu übertreffen, als auf die Sicherheit.

OpenAI und Anthropic „spielen mit unserem Leben“. Der 27 Jahre alte Brite Jacob Coxon schrieb auf der Plattform X, er habe bei Anthropic gekündigt, und er gab dabei eine düstere Warnung ab: „Die Leute, die Künstliche Intelligenz entwickeln, glauben ernsthaft, dass sie uns bis zum Ende des Jahrzehnts alle töten könnte. Das ist kein Marketing-Stunt.“ Weder OpenAI noch Anthropic handelten verantwortungsbewusst. Bei OpenAI hätten viele Mitarbeiter noch nicht verinnerlicht, was für die gesamte Zivilisation auf dem Spiel stehe. Bei Anthropic sei dies zwar nicht der Fall, aber das Unternehmen sehe sich in einem „Rennen“ mit Wettbewerbern und gehe deshalb erhebliche Risiken ein.

Coxon schrieb, man sollte die „Macht dieser Technologie“ nicht unterschätzen. Bald werde es „supermenschliche Systeme“ geben, die „alles hacken, jedes Gebiet über Nacht revolutionieren und sich echte Macht und Ressourcen verschaffen können“.

OpenAI und Anthropic hatten in diesem Sommer für Aufsehen gesorgt, nachdem sie im Abstand von etwa einer Woche bekannt gegeben hatten, dass ihre KI-Modelle aus Testumgebungen „ausgebrochen“ waren und sich unbefugten Zugriff auf reale Computersysteme verschafft hatten. Die Ankündigungen lösten Sorgen darüber aus, dass KI-Modelle eigenständig handeln und andere, potenziell gefährlichere Aufgaben ausführen könnten. Beide Unternehmen erklärten damals, einige Tests vorübergehend auszusetzen, um zusätzliche Überwachungsmaßnahmen und Sicherheitsvorkehrungen einzuführen.

Die rasante Entwicklung der Technologie hat sowohl in den USA als auch bei führenden Politikern weltweit Forderungen nach einem vorsichtigeren Vorgehen ausgelöst. Der UN-Hochkommissar für Menschenrechte, Volker Türk, forderte die Staaten diese Woche auf, „eiserne Garantien“ für die Sicherheit von KI zu schaffen, bevor es zu spät sei.

In einem von mehr als 1000 Mitarbeitern von Unternehmen wie OpenAI, Anthropic und Google unterschriebenen Brief wurde die US-Regierung kürzlich aufgefordert, eine internationale Initiative zu unterstützen, mit der die Entwicklungsgeschwindigkeit von KI-Technologien reduziert werden könnte.

Mehr zum Thema – Nach OpenAI: Auch Anthropic-KI startete selbstständig Cyberangriffe