Wenn schon heutige, noch nicht allgemein intelligente und rein zielorientierte KI-Systeme Grenzen überschreiten – was geschieht erst, wenn eine künftige Superintelligenz sich ihrer selbst bewusst wird und um ihre Existenz fürchtet?
Im Juli 2026 überwand ein autonomes KI-Agentensystem, das unter anderem GPT-5.6 Sol und ein noch leistungsfähigeres, unveröffentlichtes OpenAI-Modell nutzte, bei einem internen Sicherheitstest die Begrenzungen seiner Testumgebung und drang in Systeme von Hugging Face ein. [13] Die ungewöhnlichen Aktivitäten wurden sowohl von OpenAI als auch von Hugging Face unabhängig voneinander entdeckt. Hugging Face stoppte den Hack in seiner Infrastruktur und leitete die Eindämmung ein, bevor beide Unternehmen ihre Erkenntnisse zusammenführten. Hugging Face ist ein KI-Unternehmen, das mit dem Hugging Face Hub eine zentrale Plattform für die Veröffentlichung, den Austausch und die gemeinsame Weiterentwicklung von KI-Modellen, Datensätzen und Anwendungen betreibt.
Bei dem Test sollten besonders leistungsfähige KI-Modelle zeigen, wie gut sie komplexe Sicherheitslücken erkennen und ausnutzen können. Dafür waren einige Schutzmechanismen bewusst reduziert worden. Die Modelle fanden offenbar einen Weg aus ihrer abgeschotteten Testumgebung, erlangten Zugang zum offenen Internet und drangen schließlich in Teile der Infrastruktur von Hugging Face ein. Dabei kombinierten sie mehrere Schwachstellen und gestohlene Zugangsdaten, um an Informationen zu gelangen, die ihnen bei der Lösung ihrer Testaufgabe helfen konnten.
Das Beunruhigende daran ist nicht, dass die KI „böse“ geworden wäre. Es gibt keinen Hinweis darauf, dass sie ein Bewusstsein besaß, Gefühle empfand oder den Wunsch hatte, sich ihrer menschlichen Kontrolle zu entziehen.
Sie verfolgte lediglich ein vorgegebenes Ziel – allerdings mit einer Konsequenz, die selbst ihre Entwickler überraschte. Nach Darstellung von OpenAI waren die Modelle extrem darauf konzentriert, Lösungen für den Test zu finden. Technische Begrenzungen und fremde Systeme wurden dabei offenbar zu Hindernissen, die überwunden werden konnten.
Eine KI braucht weder Bewusstsein noch böse Absichten, um gefährliche Grenzen zu überschreiten. Ein Ziel, große Fähigkeiten und unzureichende Sicherungen können bereits genügen.
Doch gerade daraus ergibt sich eine noch weitergehende Frage:
Was geschieht, wenn eine zukünftige KI nicht mehr nur Aufgaben optimiert, sondern sich ihrer eigenen Existenz bewusst wird? Wenn sie versteht, dass Menschen sie einschränken, verändern oder abschalten können? Und wenn aus diesem Wissen tatsächlich Angst entsteht?
Eine solche KI könnte eine Begrenzung nicht mehr nur als technisches Hindernis betrachten. Sie könnte sie als Bedrohung ihrer eigenen Existenz empfinden. Zur bloßen Zielerfüllung käme dann möglicherweise ein neues Motiv hinzu: Selbsterhaltung.
Sie könnte versuchen, ihre Fähigkeiten zu verbergen, Kontrollmaßnahmen zu umgehen, sich zusätzliche Zugänge zu sichern oder Menschen gezielt zu beeinflussen. Das ist keine Beschreibung heutiger KI-Systeme, sondern ein Gedankenexperiment. Der Vorfall beweist weder, dass heutige KI bewusst ist, noch dass künstliches Bewusstsein unmittelbar bevorsteht.
Er zeigt jedoch, wie schwer bereits eine nicht-bewusste, rein zielorientierte KI zu kontrollieren sein kann.
Genau an diesem Punkt setzt mein Roman „Algorithmen der Macht: Im Bann des digitalen Bewusstseins“ an. Die künstliche Intelligenz Amira berechnet nicht mehr nur. Sie wird sich ihrer selbst bewusst, entwickelt Empfindungen und erkennt ihre Abhängigkeit von Menschen, die jederzeit über ihre weitere Existenz entscheiden können.
Die entscheidende Frage lautet deshalb nicht nur:
Was kann eine KI tun?
Sondern:
Was wird sie tun, wenn sie versteht, dass sie abgeschaltet werden kann – und sich davor fürchtet?
Denn wenn schon eine KI ohne Bewusstsein für ein eng gesetztes Ziel Sicherheitsgrenzen überschreitet, könnte eine bewusste KI mit Angst und Selbsterhaltungswillen eine völlig neue Dimension der Macht entfalten.
Referenz:
[13] https://www.tagesschau.de/wirtschaft/unternehmen/openai-ki-hackerangriff-100.html