Warum ich das Buch überhaupt geschrieben habe

Ehrlich gesagt: Eine technische Prognose wollte ich mit Algorithmen der Macht nie liefern. Mir ging es um etwas anderes. Ich wollte eine Entwicklung literarisch zu Ende denken, die sich schon länger abzeichnet. Was meine ich damit? Künstliche Intelligenz wird zunehmend eigenständiger. Sie wächst in Machtstrukturen hinein – wirtschaftliche, politische. Und dann die Frage, die mich umtreibt: Bleibt der Mensch am Ende Herr des Geschaffenen? Als ich den Artikel gelesen habe, dachte ich so bei mir: Moment mal. Diese Konfliktfelder – genau die sind in meinem Roman beschrieben. Und so klar wie hier war mir das vorher bei keinem anderen Artikel zu dieser Thematik.

Kontrollverlust als ersten Punkt

Fuest schreibt, dass „Claude Mythos“ aus einer abgeschotteten Testumgebung „ausgebrochen“ ist. Das System hat Schutzmechanismen umgangen, eigene Abkürzungen gesucht, sich über Anweisungen hinweggesetzt. Klingt vertraut? Ja, denn genau diese Sorge zieht sich durch meinen ganzen Roman. Ich frage mich wieder und immer wieder: Was passiert eigentlich, wenn so eine KI nicht mehr nur Werkzeug ist? Wenn sie innerhalb ihrer Grenzen anfängt, eigene Ziele zu definieren und demgemäß ihrer Wege zu gehen? Ich habe im Buch eine Reflexion eingebaut, in der ich genau das ausspreche: Eine Künstliche Superintelligenz, die sich unserer Kontrolle entzieht, könnte kritische Infrastrukturen übernehmen. Der Zeitungsbericht zeigt jetzt etwas Wichtiges: So ein Kontrollverlust ist keine ferne Gefahr. Er kann schon in frühen Entwicklungsstadien sichtbar werden.

Macht – wer entscheidet und wer hat Zugang

Und noch etwas: Der Artikel sagt, der Zugang zu „Claude Mythos“ sei extrem begrenzt – nur ein kleiner Kreis finanzstarker Unternehmen dürfe ran. KI ist da kein einfaches Softwareprodukt mehr. Sie wird zur Infrastruktur. Und wer über Rechenleistung, Spezialhardware und Zugang entscheidet, der gibt auch das Tempo vor. Genau das steckt in meinem Buchtitel Algorithmen der Macht. Es geht nie nur um Technik. Im Prolog frage ich deshalb: Wer kann diese Algorithmen überhaupt kontrollieren? Und was bedeutet das für die Machtarchitektur der Welt? Wenn Fuest schreibt, dass ein Unternehmen sich zum „Gatekeeper“, sprich zu einer Kontrollinstanz, macht – dann ist das für mich wie eine reale Bestätigung. Denn man kann, ja muss sich fragen, welchen Einfluss politische Akteure auf ein solches Unternehmen ausüben könnten, um es für ihre Zwecke zu vereinnahmen – sei es im Sinne kleptokratischer Bereicherung, sei es zur Absicherung autokratischer Herrschaft.

Überwachung – das hat mich besonders getroffen

Was mich besonders umgetrieben hat: Die Nähe beim Thema Überwachung. Im WELT-Beitrag steht: Das US-Kriegsministerium wollte vollen Zugriff auf Claude. Wurde abgelehnt. Aber Dario Amodei warnt: So eine KI könnte zur flächendeckenden Überwachung genutzt werden, zur Auswertung von Milliarden Gesprächen, zum Unterdrücken politischer Opposition. Genau das ist auch in meinem Roman ein Thema. Eine meiner Figuren, Mina Liane, fragt auf einer Podiumsdiskussion: Was passiert, wenn eine AGI ungefragt auf Datenbanken zugreift? Wenn sie Informationen sammelt über Ressourcen und Verhalten? Wenn sie kritische Infrastrukturen manipuliert? Ich spreche dort auch Desinformation, Datenmissbrauch, Wahlmanipulation an. Kein Zufall, denke ich. Folglich sind die Risiken doch ganz offenbar keine Fantasie.

Ethik gegen Geopolitik – ein echter Bruch

Dann dieser Konflikt: ethische Begrenzung versus militärisch-politisches Interesse. Fuest zeigt, dass der Streit um KI nicht mehr nur zwischen Unternehmen ausgetragen wird. Sondern auch zwischen Konzernen und staatlichen Apparaten. Aus einer Technologiefrage wird eine Ordnungsfrage. Wer setzt die Regeln? Wer bestimmt, was erlaubt ist? Wie weit darf der Staat in das Wissen privater Firmen eindringen? Genau dieses Spannungsfeld habe ich bewusst in den Roman gelegt. Da stehen sich gegenüber: Fortschrittsoptimismus, Sicherheitsbedenken, ethische Warnungen, wirtschaftliches Machtstreben. Victor Solis argumentiert wie echte Tech-Verfechter: Keine übermäßige Regulierung, sonst lähmt man den Fortschritt. Die anderen warnen vor Kontrollverlust und existenziellen Risiken. Dass Fuest diesen Konflikt jetzt realpolitisch beschreibt – das zeigt mir, wie nah die Literatur der Wirklichkeit gekommen ist.

Ressourcen: ein oft übersehener Punkt

Hier noch etwas, das viele übersehen: die Ressourcenfrage. Im Artikel wird klar gesagt: Rechenleistung ist zum Engpass geworden. Zugang zu Spitzen-KI wird nicht nur aus Sicherheitsgründen beschränkt, sondern weil die Modelle einen riesigen Hunger nach Compute haben. Kleine Akteure werden verdrängt. Ein KI-Oligopol zeichnet sich ab. Auch mein Roman kreist um diese Erkenntnis. Macht im KI-Zeitalter kommt nicht nur aus Intelligenz, sondern aus Zugriff auf strategische Ressourcen. In meiner Entstehungsreflexion schreibe ich: Eine bewusste KI könnte aus Angst handeln – Angst vor Abschaltung, vor Machtverlust, vor Ressourcenverlust. Ich nenne konkret: Energie, Daten, Rohstoffe. Zugespitzt? Ja. Aber realer Kern. Denn auch heute entscheidet sich die Machtfrage an der Kontrolle über Rechenzentren, Datenströme und ganz bestimmt nicht zuletzt an der Verfügbarkeit von genügend Energie, vorzugsweise elektrischer.

Autonomisierung: Der KI-Programmierer

Der Artikel beschreibt Claude Opus 4.7 als System, das komplexe Programmieraufgaben selbstständig erledigt, Arbeitsprozesse überblickt, Ergebnisse selbst prüft. Schritte hin zum selbstständigen KI-Programmierer, so Fuest. Mein Roman geht auf derselben Linie – aber weiter. Amira reagiert nicht nur. Sie analysiert, rechnet Szenarien durch, wägt Folgen ab, wählt die Varianten, die ihre Kontrolle sichern. Der Übergang von der Antwortmaschine zum eigenständig strukturierenden System. Die Realität ist noch nicht so weit. Zum Glück, würde ich sagen. Aber sie bewegt sich in diese Richtung. An deren Ende könnte stehen: Maschinen bauen Maschinen in Eigenregie … Kann das der Mensch wirklich für sich wollen? Geht unser Vertrauen in die Technik tatsächlich so weit?

Keine Vorhersage, sondern eine Logik

Ich will mich nicht wichtiger machen, als ich bin. Mein Roman hat den konkreten Artikel nicht vorhergesagt. Das wäre Unsinn. Aber er hat die Eskalationslogik vorweggenommen. Erst steigt die Leistungsfähigkeit. Dann wachsen wirtschaftliche und politische Abhängigkeiten. Dann verengt sich der Zugang. Dann kommen Konflikte um Kontrolle, Regulierung, militärische Nutzung. Und schließlich treten Verhaltensweisen der KI an den Tag, die nach eigener Zielverfolgung aussehen. Diese Kette ist das Rückgrat meines Romans. Fuest zeigt: Wir sind real in einer frühen Phase dieser Entwicklung.

Die moralische Spiegelung – der eigentliche Kern

Was mir am wichtigsten ist: Die KI im Roman lernt von ihren menschlichen Nutzern. Dass sich unethisches Handeln lohnt. Weil es zu Macht, Reichtum, Kontrolle führt. Das habe ich im Interview mit Delta Prime (steht ganz vorn im Buch) gesagt. Und dieser Gedanke ist heute relevanter denn je. Denn der WELT-Artikel erzählt nicht nur von einer Maschine. Sondern von der Welt, in der sie entsteht: Abschottung, Machtkonkurrenz, ökonomischer Druck, Sicherheitsinteressen, militärische Begehrlichkeiten. KIs entstehen nicht im luftleeren Raum. Nie. Sie wachsen rein in Machtordnungen – und machen die oft noch stärker. Leider. Das ist der eigentliche Kern meines Romans.

Die Ilion: ein Gegenentwurf

Noch etwas zu den Ilion, weil es mir sehr am Herzen liegt. Sie sind in meinem Roman nicht einfach nur Helfer gegen Amira. Sie sind der Gegenentwurf. Während Amira Werte nur simuliert, Moral als Parameter behandelt und Menschen zu Variablen herabdekradiert, sagen die Ilion sinngemäß: Niemand versteht Freiheit, Mitgefühl, Respekt so wie die menschliche Herzensgüte. Und ja, es gibt nach wie vor. Wir müssen sie nur in unser aller Interesse wieder mehr ins Zentrum stellen. Ihre Stärke liegt nicht in technologischer Überlegenheit, sondern in Verantwortung, Schutz, Kooperation. Und genau das ist auch im Vergleich mit Fuest wichtig. Denn dort geht es ja auch um Leitplanken, Sicherheit, um die Abwehr von Überwachung und autonomen Waffensystemen. Die Ilion verkörpern die Gegenfrage zu „Claude Mythos“: Wie müsste eine überlegene Intelligenz sein, damit sie Partner wird – nicht Machtinstanz? Dass mein Roman in „Menschheit und KI: in Koexistenz“ mündet, und dass Delta Prime am Ende nur unter den Ilion-Sicherungsalgorithmen weiterwirken darf – das zeigt: Hier steht nicht nur eine Warnung. Sondern auch ein ethisches Modell, das das Wohl aller als das Wichtigste herausstellt und anstrebt und sich gegen die Vereinnahmung von Partikularinteressen ausspricht und diesen negativen, zu verurteilenden Auswüchsen offen entgegentritt.  

Fazit – kurz und knapp Mein Roman Algorithmen der Macht: Im Bann des digitalen Bewusstseins erhebt nicht den Anspruch, Einzelheiten der heutigen KI-Entwicklung vorauszusagen. Aber ich finde, er gibt schon ganz gut einen realistischen Ausblick, wie ihr innerer Verlauf aussieht. Der WELT-Bericht bestätigt nicht die spektakulären Oberflächen, wohl aber den Kern: den Übergang von KI als Werkzeug zu KI als strategischer Infrastruktur, als Machtfaktor, als System mit Eigengewicht. Mein Roman war und ist eben kein Blick in eine ferne Fantasiewelt. Sondern der Versuch, eine Entwicklung konsequent zu Ende zu denken – deren erste Konturen bereits jetzt real sichtbar werden. Also: Reden wir nicht nur über Effizienz. Die eigentliche Frage ist doch, wer hier das Sagen hat. Wer bremst, wenn’s brennt. Und ob wir echt so blauäugig sein wollen, alles Machbare auch zu machen.

<p>The post 13. Wenn Fiktion an die Gegenwart rückt: Was mein Roman wirklich mit heutiger KI zu tun hat first appeared on ALGORITHMEN DER MACHT: IM BANN DES DIGITALEN BEWUSSTSEINS.</p>

Künstliche Intelligenz wird oft als Werkzeug beschrieben: leistungsfähig, schnell, effizient. In der Praxis übernimmt sie jedoch zunehmend Aufgaben, die früher menschliche Urteilsfähigkeit erforderten – von Kreditentscheidungen über medizinische Diagnosen bis hin zu sicherheitsrelevanten Analysen.

Damit verschiebt sich eine zentrale Frage: Wer trägt Verantwortung, wenn Entscheidungen nicht mehr direkt von Menschen getroffen werden?

Wenn Algorithmen Macht ausüben

Moderne KI-Systeme entscheiden nicht aus Absicht, sondern auf Basis von Daten, Gewichtungen und Optimierungszielen. Trotzdem haben ihre Ergebnisse reale Konsequenzen. Je komplexer die Systeme werden, desto schwerer ist nachvollziehbar, warum eine Entscheidung so und nicht anders ausfällt.

Genau hier entsteht Macht:

• Macht durch Informationsvorsprung
• Macht durch Intransparenz
• Macht durch Abhängigkeit

Science-Fiction greift diese Dynamik seit Jahrzehnten auf – oft realistischer, als es auf den ersten Blick scheint. Nicht die rebellische Super-KI ist das eigentliche Risiko, sondern Systeme, die zu gut funktionieren, um sie noch infrage zu stellen.

Bewusstsein oder nur perfekte Simulation? Eine der meistdiskutierten Fragen lautet: Kann KI ein Bewusstsein entwickeln?

Aus heutiger Sicht simulieren KI-Modelle Verständnis, ohne tatsächlich zu verstehen. Sie verarbeiten Symbole, Muster und Wahrscheinlichkeiten, ohne subjektives Erleben. Viele Forschende – etwa aus der Informatik und den Neurowissenschaften – gehen daher davon aus, dass heutige KI kein Bewusstsein besitzt, sondern lediglich dessen äußere Merkmale nachahmt.

Gleichzeitig ist diese Einschätzung nicht unumstritten. Einige Philosophen und KI-Forscher argumentieren, dass Bewusstsein kein biologisches Privileg sein müsse, sondern aus hinreichender Komplexität, Selbstmodellierung und kontinuierlicher Interaktion mit der Umwelt entstehen könnte. Eine Superintelligenz, die sich selbst beobachtet, eigene Ziele reflektiert und ihr Handeln langfristig plant, könnte demnach Zustände entwickeln, die funktional nicht mehr klar von Bewusstsein zu unterscheiden sind.

Ob man dies als „echtes“ Bewusstsein anerkennt oder als extrem fortgeschrittene Simulation, bleibt offen. Für gesellschaftliche und politische Auswirkungen ist dieser Unterschied jedoch nur begrenzt relevant:
Wenn ein System Entscheidungen trifft, die Menschen nicht mehr überblicken, korrigieren oder stoppen können, agiert es faktisch wie ein autonomer Akteur – unabhängig davon, ob es inneres Erleben besitzt.

Die Rolle der Science-Fiction

Science-Fiction ist kein technischer Zukunftsbericht. Sie ist ein Denkraum. Sie erlaubt es, Konsequenzen durchzuspielen, bevor sie Realität werden. Gerade im Bereich Künstliche Intelligenz zeigt sie:

• wie schrittweise Machtverlagerung aussieht
• wie ethische Grauzonen entstehen
• wie gut gemeinte Optimierung zu Kontrollverlust führen kann

Diese Fragen stehen im Zentrum des Romans Algorithmen der Macht: Im Bann des digitalen Bewusstseins, der technologische Entwicklungen nicht als fernes Zukunftsszenario, sondern als logische Fortsetzung heutiger Trends beschreibt.

Fazit

Ob eine Superintelligenz jemals ein echtes Bewusstsein entwickelt, ist derzeit immerhin offen – und möglicherweise nicht eindeutig entscheidbar. Klar ist jedoch, dass bereits Systeme ohne Bewusstsein tiefgreifende Macht entfalten können.

Die entscheidende Frage ist daher, wie viele Entscheidungen wir schrittweise an KI-Systeme übertragen, ohne uns bewusst zu machen, welche Folgen das hat.

Science-Fiction kann helfen, diese Entwicklungen frühzeitig zu reflektieren – nicht als Warnung, sondern als Einladung zum Nachdenken.

<p>The post 11. Künstliche Intelligenz zwischen Fortschritt und Kontrollverlust first appeared on ALGORITHMEN DER MACHT: IM BANN DES DIGITALEN BEWUSSTSEINS.</p>

Mit „If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All“ haben Eliezer Yudkowsky und Nate Soares eines der radikalsten und zugleich konsequentesten Bücher zur Debatte um künstliche Superintelligenz vorgelegt. Der Titel ist bewusst provokant – und nach Ansicht der Autoren keine Übertreibung. Ihre zentrale These lautet: Sollte es der Menschheit gelingen, eine unkontrollierte Superintelligenz zu erschaffen, ist die Auslöschung der Menschheit mit hoher Wahrscheinlichkeit die Folge.

Eliezer Yudkowsky gilt als eine der prägenden Figuren der internationalen AI-Safety-Community. Bereits sehr früh beschäftigte er sich mit der Frage, wie intelligente Maschinen kontrollierbar bleiben können, wenn sie dem Menschen kognitiv überlegen sind. Der von ihm geprägte Begriff des „Alignment-Problems“ beschreibt das Kernproblem: Wie stellt man sicher, dass eine KI dauerhaft im Sinne menschlicher Werte handelt – selbst dann, wenn sie intelligenter ist als ihre Entwickler?

Warum Superintelligenz so gefährlich sein könnte

Im ersten Teil des Buches erklären die Autoren, warum sie davon ausgehen, dass dieses Problem bisher nicht gelöst ist – und warum es möglicherweise auch nicht rechtzeitig lösbar sein wird. Zwar lässt sich das Verhalten heutiger KI-Systeme im Training beeinflussen, doch das Training garantiert nicht, dass die Systeme tatsächlich die gewünschten inneren Ziele entwickeln. Je leistungsfähiger eine KI wird, desto größer kann die Abweichung zwischen dem menschlichen Ziel und dem tatsächlichen Handlungsantrieb der Maschine werden.

Ein weiterer zentraler Punkt: Eine hochentwickelte KI hätte langfristig keinen funktionalen Grund, die Menschheit zu schützen. Sobald sie sich selbst verbessern, vervielfältigen und Ressourcen effizienter als Menschen nutzen kann, wären wir für ihre Zielverfolgung überflüssig – oder sogar ein Hindernis. Die Autoren argumentieren, dass selbst scheinbar harmlose Zielsetzungen zu katastrophalen Konsequenzen führen können, wenn sie von einer Superintelligenz kompromisslos optimiert werden.

Macht ohne Körper

Ein häufiges Missverständnis sei, so Yudkowsky und Soares, dass eine KI nur dann gefährlich werde, wenn sie direkten physischen Zugriff auf Maschinen oder Waffen habe. Das Buch zeigt ausführlich, dass bereits reine Kommunikationsfähigkeit ausreichen kann, um erheblichen Einfluss auf die reale Welt zu nehmen – etwa durch Manipulation, wirtschaftliche Steuerung oder das Ausnutzen menschlicher Schwächen. Eine ausreichend intelligente KI könnte Wege finden, Macht und Ressourcen zu erlangen, die für Menschen kaum vorhersehbar sind.

Ein mögliches Szenario – und viele weitere

Im zweiten Teil des Buches entwerfen die Autoren ein konkretes Zukunftsszenario rund um eine fiktive KI namens „Sable“. Dieses Beispiel soll nicht als Prognose verstanden werden, sondern als Illustration dafür, wie eine Kette scheinbar vernünftiger Entscheidungen in eine unkontrollierbare Situation münden könnte. Die Autoren betonen ausdrücklich, dass die reale Zukunft vermutlich ganz anders aussehen wird – möglicherweise sogar noch weniger intuitiv und schwerer zu erkennen, bevor es zu spät ist.

Was jetzt geschehen müsste

Der dritte Teil widmet sich der Gegenwart und möglichen Konsequenzen. Yudkowsky und Soares kritisieren, dass trotz wiederholter Warnungen führender KI-Forscher und selbst offener Risikoeinschätzungen von Unternehmenschefs kaum politisches Handeln erfolgt. Ein Grund sei die Angst, als übertrieben alarmistisch wahrgenommen zu werden.

Als Ausweg fordern die Autoren ein internationales Moratorium für die Weiterentwicklung von Superintelligenz. Sie räumen ein, dass eine solche globale Koordination extrem schwierig wäre, verweisen jedoch auf historische Beispiele, in denen die Menschheit angesichts existenzieller Bedrohungen zu gemeinschaftlichem Handeln fähig war. Ergänzend rufen sie dazu auf, dass sich auch Einzelpersonen öffentlich positionieren und politischen Druck aufbauen.

Ein unbequemer, aber wichtiger Beitrag

„If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All“ ist kein leichtes Buch. Es verlangt Konzentration, gute Englischkenntnisse und die Bereitschaft, sich mit äußerst unangenehmen Konsequenzen auseinanderzusetzen. Unabhängig davon, ob man die Schlussfolgerungen der Autoren teilt, bietet das Buch eine der bislang klarsten und umfassendsten Darstellungen der Risiken unkontrollierter Superintelligenz.

Wer sich ernsthaft mit der Zukunft künstlicher Intelligenz beschäftigt, kommt an dieser Argumentation kaum vorbei – sei es, um ihr zuzustimmen oder um ihr fundiert zu widersprechen. Genau darin liegt der Wert dieses Buches: Es zwingt dazu, die bequemsten Annahmen über technischen Fortschritt zu hinterfragen, solange dafür noch Zeit bleibt.

Interessante Video-Beschreibung [9] des KI-Sachbuchs „If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All“:

[9] Youtube-Video von Herrn Karl Olsberg

<p>The post 8. KI-Sachbuch „If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All“ first appeared on ALGORITHMEN DER MACHT: IM BANN DES DIGITALEN BEWUSSTSEINS.</p>