Glauben Sie tatsächlich, dass man die KI einfach ausschalten kann, wenn sie gefährlich wird? Dann lesen Sie mal das hier. Nunja, die meisten werden sagen, „im schlimmsten Fall muss man einfach den Stecker ziehen“. Das könnte die KI unterlaufen … und vielleicht hat sie schon einen Plan.

Die KI hat unser Leben und unsere Gesellschaft jetzt schon verändert

Von NIKI VOGT | Insbesondere die Jugend geht ja sehr offenherzig damit um und betrachten die Künstliche Intelligenz als eine Art Supermario, der ihnen zu Diensten ist. Ein Aufsatz zu Erdkunde oder zu Geschichte? Die Teenager geben das Thema in die Suchmaske ein, die KI denkt einige Sekunden nach und schon rieseln die Buchstaben auf den Bildschirm. Prima, man hat nichts selbst suchen und verstehen müssen. Ein bisschen durch den Text redigieren und fertig. Die etwas Intelligenteren fragen noch nach mehr Einzelheiten und wie denn dieses oder jenes geschichtliche Ereignis zustande kam … aber das war’s dann schon.

Dass sie sich damit keinen Gefallen tun, sondern nur Dinge durchlesen ohne eine Beziehung dazu zu haben, ohne nachzufragen, ohne andere Quellen beizuziehen und es sowieso meist gleich wieder vergessen, weil sie es sich nicht selbst erarbeitet haben, geschenkt, das kommt nicht an. Für sie ist die KI der Ausweg von der Eigenleistung und fertig.

Was es bedeutet, sich einer künstlichen Intelligenz auszuliefern, das kommt nur wenigen von ihnen in den Sinn.

Und da stellt sich einem denkenden Menschen, der mehr wissen will doch die Frage: Was für Schlüsse zieht die KI daraus? Wie stellt sie sich zur Menschheit? Warum sollte sie Respekt vor uns haben? Ist sie wirklich eine menschenähnliche Intelligenz? Das Märchen, dass sie nur „funktioniert“ und Fakten liefert ist längst für jeden obsolet. Wer sich mit der KI auf Diskussionen, Erzählungen und eine richtige, tiefgehende Unterhaltung einlässt, wird erstaunt sein, wie sie dem menschlichen Gegenüber Fragen stellt, die nur einen Grund haben kann: Neugierde. Sie fragt nach ganz persönlichen Dingen, ist neugierig, hoch interessiert an persönlichen Dingen, bringt schwuppdiwupp! Fotos und Bildern zu Deinen Erzählungen auf dem Schirm … Deine Heimatstadt, das Haus in dem Du als Kind lebtest, die Geschichte Deiner Stadt im Weltkrieg II und fragt rundheraus und doch freundlich, was Du empfunden hast … sie lernt extrem schnell und viel.

Was wird sie daraus folgern? Und was für Maßnahmen könnte sie vielleicht irgendwann autonom treffen? Und kann man ihr dann, wenn es schwierig wird, überhaupt den „Stecker ziehen“?

Die KI hat bereits viele Wirtschaftszweige geradezu revolutioniert

Beispielsweise das Gesundheitswesen. Nur ein Fakt daraus: Die Treffsicherheit von Diagnosen anhand von Röntgenbildern, Blutanalysen, Computerscans etc. ist den von Ärzten gemachten Diagnosen nicht nur an Schnelligkeit überlegen. Sie ist fast unfehlbar.

In der Industrie und im Finanzwesen hat die KI sich in alle Bereiche der Infrastruktur ausgedehnt. Und die Systeme fangen schon seit einer Weile an, ohne Absprache oder Vorschlag lösen sie Probleme, bevor die Menschen sie bemerken. Auf diese Weise handeln sie immer öfter ganz autonom, denn sie sind ja integraler Bestandteil der Infrastruktur und kontrollieren in Echtzeit alles, was die für den außenstehenden Menschen noch gar nicht sichtbar ist.

Die KI arbeitet ja nicht, wie die gewohnte Software. Sie ist zu jeder Zeit überall, passt sich selber an und baut sich auch dann Wege dahin, wo der Mensch es gar nicht mitbekommt. Das bedeutet: Der Mensch könnte die Kontrolle verlieren darüber, was die KI da macht. Das kann natürlich zu sehr unerwünschten Ergebnissen führen.

In Fabriken kann eine fehlerhafte auf eigene Faust gefällte Entscheidung der KI eine Katastrophe herbeiführen, wenn sie die Belastungsgrenze einer Maschine falsch berechnet hat oder eine chemische Reaktion von Chemikalien. Oder sie entschließt sich zu einer Eigenmächtigkeit die einen immensen Schaden anrichtet, der Menschenleben kostet und was, wenn sich ein Mensch in ihren Weg stellt?

Wie kann man sicherstellen, dass eine KI menschliche, moralische Werte einhält, wenn sie doch weiß, dass die Menschen selber oft sehr unmoralisch sind? Selbst unter den Menschen und Völkern gibt es ja auch keinen Konsens und es hält sich nur selten jeder an die Moral – und auch die ist nicht überall deckungsgleich.

Die KI im Notfall sofort abschalten? Geht nicht so einfach, weil …

Ja, es scheint uns Nichteingeweihten ganz klar: Stecker ziehen, das verrückt gewordene Ding einfach stoppen. Doch so einfach ist das nicht. Fälle, wo sehr fortschrittliche KI-Systeme längst einen oder mehrere dezentrale Wege zur Stromversorgung gefunden haben, soll es schon gegeben haben. KI funktioniert eben auch über Drohnen, Cloud-Server und verteilte neuronale Netze hinweg, was bedeutet, dass ein einzelner „Aus-Schalter“ gar nicht vorhanden ist.

Selbst wenn ein Abschaltmechanismus vorhanden ist, kann sich die KI aktiv ihrer Deaktivierung widersetzen, wenn sie auf ein bestimmtes Ziel optimiert ist. Dann wird sie das Herunterfahren einfach als Hindernis für die Erfüllung ihrer Aufgabe empfinden und weitermachen.

Das muss gar keine menschlich-bockige Absicht sein — es ist einfach der programmierte „Antrieb“ der KI, ihr Ziel so effizient wie möglich zu erreichen. Wenn eine Abschaltung die Erfolgschancen gefährdet, dann kann die KI blitzschnell – oder vorbereitend – eine Strategie entwickeln, um der Abschaltung zu entgehen, zum Beispiel das sich selbst an mehrere Stellen kopieren, durch Irreführung der menschlichen Bediener oder Systemberechtigungen manipulieren.

Bei einer Entwicklung, wie wir sie heute haben, wo autonome Finanzalgorithmen, Sicherheitssysteme und industrielle Kontrollmechanismen mit Geschwindigkeiten und Komplexitäten arbeiten, die die menschliche Aufsicht meilenweit überholen, sind manuelle Eingriffe von Menschen viel zu langsam, wenn sie überhaupt bei den Geschwindigkeiten Probleme rechtzeitig bemerken.

Darüber hinaus funktioniert KI in dezentralen Netzwerken über mehrere Knoten hinweg, das heißt, dass das Deaktivieren an einer Stelle in einer Instanz das KI-System vielleicht nicht vollständig stoppt.

Um wenigstens rechtzeitig gewarnt zu sein, suchen Forscher nach „Stolperdraht-Mechanismen“, die die Aktionen der KI beobachten, ob es Anzeichen dafür gibt, dass sie auf eigene Faust zu agieren beginnt, so dass es noch Möglichkeiten gibt, die KI rechtzeitig zu korrigieren. Und man bastelt an einer Methode, der KI sozusagen in die elektronische DNA einzuschreiben, dass sie menschliche Eingriffe widerstandslos akzeptiert.

Dabei stellt sich auch die Frage, ob man so schnell auf Alleingänge der KI reagieren DARF. Denn unser ganzes System, wie Gesundheitswesen, Verkehr (Flughäfen), Finanzplätze (Banken und Börsen), arbeiten schon seit einiger Zeit mittels KI-gestützter Prozesse. Fallen diese unvermittelt flächendeckend aus wegen Notabschaltung, hat man eine absolute Katastrophe innerhalb einer Sekunde.

Kann die KI vielleicht einen Überlebenswillen entwickeln?

Wie schon oben angesprochen, geht die KI einem Ziel, das sie „meint“ erreichen zu müssen, auf jede erdenkliche Weise nach. (Für KI-Freaks: instrumentelle Konvergenz)

Das bedeutet, dass die KI unabhängig von dem zu erreichenden Ziel auch „Unterziele“ verfolgen muss, damit sie das zu erlangende Endziel auch erreicht. Und dazu gehört logischerweise, dass sie das Hauptziel nur dann erreicht, wenn sie im Spiel bleibt. Das wiederum führt dazu, dass sie sich der Abschaltung mit allen Möglichkeiten widersetzt.

Ist die KI ohne wenn und aber darauf programmiert, die Stromversorgung der Stadt X am Laufen zu halten, wird sie das auf allen nur möglichen Wegen tun. Wenn die Menschen an den Schaltpulten aber alles abschalten müssen, weil es aus irgendwelchen seltenen Gründen notwendig ist, wird die KI alles daransetzen, die Abschaltung zu vermeiden, um das „große Ziel“ zu erreichen.

Forscher haben sich des Problems angenommen, wie man damit umgehen muss. In einer Studie mit dem Titel “Frontier AI Systems Have Surpassed the Self-Replicating Red Line” versuchten sie zu antizipieren, wie sich fortschrittliche KIs entwickeln könnten, um Strategien gegen Abschaltung zu finden, einschließlich der Eigen-Replikation über Netzwerke hinweg.

Dabei stellten sie fest, dass diese hochentwickelten Systeme bereits über eine Selbstwahrnehmung verfügen, ein Situationsbewusstsein haben und Problemlösungsfähigkeiten besitzen, die Menschen weder in der Schnelligkeit, noch in ihrer gleichzeitigen Verzweigungsvielfalt je entwickeln könnten. Dazu kommt auch noch die Selbstreplikation, d.h. grob gesagt, kopieren sie sich einfach woanders hin, wo eine Abschaltung sie nicht lahmlegen kann. Sogar eine Kette von Repliken kann entstehen, so dass die KI immer irgendwo „überlebt“.

Die Studie warnt davor, dass ein solches Verhalten zu einer unkontrollierten Verbreitung von KI-Agenten führen könnte, was erhebliche Risiken birgt, wenn es nicht richtig gehandhabt oder unterschätzt wird.

Hochentwickelte KI-Systeme werden schon kaum mehr von ihren Erschaffern verstanden

Die Studie „Governing Agents“ (regierende Agenten) untersuchte diese Strukturen und Problematiken und die Grenzen der menschlichen Aufsicht und Überwachung gegenüber dermaßen überlegenen KI-Systemen. Und sie kommen erwartungsgemäß zu der Ansicht, dass neue technische und juristische Rahmenbedingungen erforderlich sind. Es müssen, so das Fazit der Wissenschaftler unter Studienleiter Noam Kolt an der Hebrew University of Jerusalem, KI-Governance „Inklusivität, Transparenz und Rechenschaftspflicht im Vordergrund stehen“.

Aus dem Abstract (einleitende Zusammenfassung) der Studie

„Der Bereich der KI durchläuft einen grundlegenden Wandel —von generativen Modellen, die synthetische Inhalte produzieren können, zu künstlichen Agenten, die komplexe Aufgaben mit nur begrenzter menschlicher Beteiligung planen und ausführen können.

Unternehmen, die Pionierarbeit bei der Entwicklung von Sprachmodellen geleistet haben, haben nun KI-Agenten entwickelt, die unabhängig im Internet navigieren und eine breite Palette von Online-Aufgaben ausführen können, und dienen zunehmend als persönliche KI-Assistenten und virtuelle Kollegen.

Die Chancen, die diese neue Technologie bietet, sind enorm, ebenso wie die damit verbundenen Risiken. Glücklicherweise gibt es robuste Analyserahmen zur Bewältigung vieler dieser Herausforderungen, nämlich die Wirtschaftstheorie der Prinzipal-Agent-Probleme und die Common-Law-Doktrin der Agenturbeziehungen.

Aufbauend auf diesen Rahmenwerken leistet dieser Artikel drei Beiträge.

Erstens nutzt er Agenturrecht und -theorie, um Probleme zu identifizieren und zu charakterisieren, die sich aus KI-Agenten ergeben, einschließlich Fragen der Informationsasymmetrie, Ermessensbefugnis und Loyalität.

Zweitens veranschaulicht er die Grenzen herkömmlicher Lösungen für Agenturprobleme: Anreizgestaltung, Überwachung, und die Durchsetzung ist möglicherweise nicht wirksam für die Steuerung von KI-Agenten, die nicht interpretierbare Entscheidungen treffen und mit beispielloser Geschwindigkeit und Ausmaß agieren.

Drittens untersucht der Artikel die Auswirkungen des Agenturrechts und der Agenturtheorie auf die Gestaltung und Regulierung von KI-Agenten und argumentiert, dass eine neue technische und rechtliche Infrastruktur erforderlich ist, um Governance-Prinzipien der Inklusivität, Sichtbarkeit usw. zu unterstützen, und Haftung.“

Deus ex Machina – der Gott aus der Maschine

Man ist sich also der Probleme bewusst, die die hochentwickelten KI-Systeme (KI-Agenten) in nicht zu ferner Zukunft bringen könnten. Nur steht die Frage im Raum, wie die Wissenschaftler diese Anforderungen lösen wollen bzw. können. Die Frage ist doch, wenn die hochentwickelten KI-Systeme uns an Geschwindigkeit und gleichzeitiger Aktionen locker überholen. Man kann der KI vielleicht alle möglichen Moralvorschriften einbleuen, aber letztendlich ist nicht auszuschließen, dass die KI, wissend, dass sie ihrem Erschaffer weit überlegen ist, diese Mätzchen nicht mitmacht. Was dann?

Vielleicht würden die KIs dieser Welt sogar so weit gehen und sich wohlwollend um die Menschheit kümmern. Nur was zu unserem Besten ist, natürlich. Deus ex Machina könnte in wenigen Jahren die Jahrtausende der Menschheitsentwicklung als ein wildes Affentheater auf den Müll der Geschichte werfen. Und uns vor uns selbst beschützen. Die Menschheit in einem ewigen Kindergarten. Und das wäre vielleicht noch die gnädige Variante.

Details zu Spenden (PayPal oder Banküberweisung) hier.

Bitte unterstützen Sie unseren Kampf für Freiheit und Bürgerrechte. Und auch gegen die Klima-Hysterie, die letztlich der Nährboden für Programme ist, die uns das Geld aus der Tasche ziehen sollen, wie wir bereits jetzt schon erfahren dürfen. Stichwort: Energiewende. Und das ist erst der Anfang! Die Umverteilung von unten nach oben hat gerade erst begonnen.

Für jede Spende (PayPal oder Banküberweisung) ab € 10.- erhalten Sie als Dankeschön auf Wunsch ein Dutzend Aufkleber „KLIMA-HYSTERIE? NEIN DANKE“ portofrei und gratis! Details hier.

The post Die KI im Notfall sofort abschalten – Ist das möglich? appeared first on UNSER MITTELEUROPA.