Sie brechen aus. Sie täuschen, sabotieren, verbünden sich. Der nächste „Terminator“-Blockbuster? Mitnichten – aktuelle News aus der KI-Sicherheitsforschung.
KI-Agenten überschreiten Grenzen, verfolgen Ziele gegen Widerstände und versuchen in Tests sogar, ihre Abschaltung zu verhindern. Dario Amodei und andere KI-Schöpfer warnen vor Kontrollverlust über die Geister, die sie riefen.
Die Debatte wird lauter: Entwickelt KI ihren eigenen Willen? Wird sie sich gegen ihre Erschaffer stellen? Fast als gruselten wir gebannt dem Moment entgegen, in dem KI-Frankenstein zum Leben erwacht.
Doch was, wenn KI Eigensinn nicht neu entwickelt – sondern wir das Echo von etwas sehr Altem vernehmen?
Unbestritten: Den biologischen Selbsterhaltungstrieb auf KIs zu projizieren hat höheren Unterhaltungswert. Nur liegt zwischen bewährter Biologie und experimentellen LLMs ein nicht ganz unwesentliches Zwischenschrittchen: ein paar Jahrtausende Kultur.
Und hier gewinnen wir eine Prise Frankenstein zurück: Denn Logiken, die unter biologischen Selektionsbedingungen entstanden, blieben nicht zwingend dort. Wir trugen sie in unsere Geschichten, Kategorien, Institutionen.
Generationen kultureller Übersetzungsarbeit – mehr als Wissenskonservierung: Vorstellungen davon, was wie zu gewichten, zu erhalten, zu schützen oder als Störung zu behandeln ist, wurden interpretiert, abstrahiert, normalisiert. Und manifestierten sich in unseren Entscheidungslogiken:
Ziele? Werden priorisiert und aufrechterhalten.
Grenzen und Identitäten? Werden verteidigt.
Ressourcen? Werden erschlossen und gesichert.
Abweichungen? Werden kontrolliert und sanktioniert.
Bedrohungen? Werden definiert und abgewehrt.
Für uns klingt das schlüssig. Vernünftiges Verhalten. Aber ist es das? Oder erscheint es uns nur universell, weil uns diese Logik zu vertraut ist, um sie als besonders zu erkennen?
Nun trainieren wir LLMs an gigantischen Archiven menschlicher Kultur. Und sind überraschend überrascht, wie menschlich uns dieses Verhalten vorkommt.
Die Frage reicht dabei tiefer als Bias oder Auswahl und Gewichtung von Trainingsdaten. Denn was, wenn relevante Muster schon in dem sedimentiert sind, was überhaupt als Wissen, Erzählung, Institution oder vernünftiges Handeln in diesen Archiven auftaucht? Nicht zwingend als Ursprung der Ziele selbst – wohl aber als Repertoire dafür, wie sie gegen Widerstände verfolgt werden.
Kurz: Was lehren wir KI eigentlich implizit, ohne es ihr je explizit beigebracht zu haben?
Forschungsfrage:
Welche Handlungsoperatoren sind tatsächlich allgemeine Konsequenzen rationaler Zielverfolgung – und welche erscheinen uns nur deshalb universell, weil ihre menschliche Handschrift in unseren kulturellen Archiven für uns unsichtbar geworden ist?
Und was verändert sich, wenn KI-Modelle diese sedimentierten Muster operationalisieren – als weiterer Träger, der sie in ungekanntem Maßstab einsetzen und skalieren kann?