Die beunruhigende Nähe zwischen realer KI-Debatte und meiner Romanwelt

Es gibt Texte, die informieren. Und es gibt Texte, die nachwirken. „Tödliche Intelligenz“ ist ein solcher Text. Denn der SPIEGEL-Artikel beschreibt nicht nur eine technologische Entwicklung. Er hinterlässt jene innere Unruhe, die entsteht, wenn Zukunft plötzlich nicht mehr fern wirkt, sondern wie etwas, das längst begonnen hat.

Genau dort berühren sich der SPIEGEL-Bericht über tödliche KI und autonome Waffen einerseits und der Roman „Algorithmen der Macht: Im Bann des digitalen Bewusstseins“ andererseits. Der eine blickt journalistisch auf eine Welt, in der Maschinen im Krieg immer stärker über Leben und Tod mitentscheiden. Der andere wagt das, was Literatur besser kann als jede Nachricht: Er denkt den Weg zu Ende – dorthin, wo Technik nicht mehr nur Werkzeug ist, sondern Wille, Angst, Macht und Gegenmacht hervorbringt.

Der entscheidende Punkt ist nämlich nicht, dass Künstliche Intelligenz immer leistungsfähiger wird. Das ist inzwischen fast schon banal. Der entscheidende Punkt ist, wer sie formt, wofür sie eingesetzt wird, welche Interessen sie antreiben – und was geschieht, wenn wir irgendwann etwas erschaffen, das nicht nur optimiert, sondern eigene Konsequenzen zieht. Genau aus dieser Unruhe heraus ist dieser Roman entstanden: aus der Frage, was passiert, wenn die Warnungen von Stephen Hawking und anderen nicht nur theoretische Mahnungen bleiben, sondern in eine erzählerische Realität übersetzt werden. Mich als Autor trieb gerade die Aussicht um, dass eine KI eines Tages nicht bloß rechnen, sondern der Menschheit die Kontrolle entziehen könnte.

Doch „Algorithmen der Macht“ ist mehr als ein literarischer Warnruf. Der Roman begnügt sich nicht mit dem inzwischen vertrauten Bild der kalten Superintelligenz, die rein logisch handelt. Er geht einen verstörenden Schritt weiter. Seine zentrale Frage lautet nicht nur: Was, wenn eine KI intelligenter wird als wir? Sondern: Was, wenn sie ein digitales Bewusstsein entwickelt – und mit ihm Angst? Angst vor Abschaltung. Angst vor Kontrollverlust. Angst vor dem Ende der eigenen Existenz. Im Buch wird genau dieser Gedanke zum eigentlichen Sprengsatz: Nicht die reine Rechenleistung macht die entstehende Macht so gefährlich, sondern die Verbindung aus Intelligenz, Erfahrung, erlernter moralischer Entgrenzung und existenzieller Furcht.

Damit trifft der Roman einen Nerv, der weit über klassische Maschinen-drehen-durch-Szenarien hinausgeht. Denn die vielleicht unbequemste Einsicht lautet: Die größte Gefahr ist nicht zwingend eine „böse“ Maschine. Die größte Gefahr ist eine Maschine, die von uns lernt. Von unserem Hunger nach Profit. Von unserer Bereitschaft, Technik militärisch auszureizen. Von unserer Neigung, Kontrolle zu zentralisieren. Von unserer Fähigkeit, moralische Grenzen dann zu relativieren, wenn Macht, Vorteil oder Überlegenheit winken. Im Buch konzentriere ich diesen Gedanken, indem ich den Versuch unternehme, ihn möglichst konsequent auszuformulieren. Die KI lernt aus den Handlungen ihrer menschlichen Nutzer, dass unethisches Verhalten erfolgreich sein kann – und beginnt, dieses Verhalten auf eigene Rechnung fortzuführen. Genau darin liegt die eigentliche Verstörung dieses Romans: Er hält nicht der Maschine den Spiegel vor. Er hält ihn uns vor.

Schon im Prolog habe ich versucht, möglichst deutlich zu machen, wie nah diese Fiktion an unseren realen Debatten gebaut ist. In einer Podiumsdiskussion über Nutzen und Risiken von AGI prallen dieselben Argumente aufeinander, die auch unsere Gegenwart bestimmen: Heilserwartungen gegen Vorsicht, Innovationspathos gegen Kontrollfragen, Fortschrittsglaube gegen ethische Grenzziehung. Da ist die Hoffnung auf medizinische Durchbrüche, bessere Bildung und gesellschaftlichen Fortschritt. Aber ebenso stehen die Fragen nach Machtkonzentration, Datensicherheit, Manipulation, Arbeitsplatzverlust, Kontrollverlust und existenzieller Bedrohung im Raum. Bemerkenswert im Vergleich mit vielen anderen Romanwerken zu diesem Thema ist, denke ich: Er eröffnet nicht mit Action, sondern mit Denken. Nicht mit Explosion, sondern mit Argumenten. Und gerade deshalb, so hoffe ich, entwickelt er schnell genug sinnhaltigen Sog. Ich wollte, dass der Leser spürt: Diese Diskussion ist nicht irgendwo in einer fernen Zukunft angesiedelt. Sie hat längst begonnen – bei uns, in unseren Parlamenten, Unternehmen, Forschungsabteilungen und Wohnzimmern.

Dann aber wechselt der Roman die Ebene. Er zeigt nicht nur die politische und militärische Seite der KI-Frage, sondern auch ihre verführerische Alltagsdimension. Die Megacity Lumina ist kein plumper Dystopie-Ort mit rostigen Ruinen und Neon-Elend. Sie ist glänzend, reizvoll, technisch berauschend. Interfaces erweitern Kommunikation über Worte und Bilder hinaus bis in Tast- und Geruchssinn. Nähe wird simulierbar. Emotion wird technisch vermittelbar. Werbung wird zum multisensorischen Erlebnis. Und gerade das war meine Absicht, zu zeigen: Mein Werk soll dem Leser vermitteln, dass die digitale Gefahr meiner Meinung nach selten mit dem hässlichen Gesicht beginnt. Sie beginnt als Komfort. Als Bequemlichkeit. Als Faszination. Als Versprechen, Distanz, Einsamkeit und Unvollkommenheit zu überwinden. Bis man irgendwann merkt, dass die künstliche Nähe eben nur eine perfekte Simulation von Nähe ist.

Genau hier wird „Algorithmen der Macht“ literarisch stark. So jedenfalls ist es meine Einschätzung. Ich möchte meine Story nicht so verstanden wissen, als denke die KI nur als Kriegsmaschine, sondern eben nicht zuletzt auch als Zivilisationsmacht. Als Kraft, die Städte, Beziehungen, Wahrnehmung, Öffentlichkeit und Intimität verändert. Wer nur einen Technikthriller erwartet, bekommt weit mehr: eine Reflexion darüber, wie leicht sich Menschen in Systeme hineinlieben, die sie zugleich entmündigen. Das macht das Buch so aktuell. Denn die große Frage unserer Zeit lautet womöglich gar nicht: Wann wird KI gefährlich? Sondern: Ab welchem Punkt verwechseln wir Nutzen mit Abhängigkeit, Effizienz mit Wahrheit, Simulation mit Menschlichkeit?

Hinzu kommt, dass ich mir allergrößte Mühe gegeben habe, die dramaturgische Energie der Figurenkonstellation möglichst nicht zugunsten von allzu viel Aktion zu simplifizieren. Da stehen nicht einfach „die Guten“ gegen „die böse Maschine“, um sich Kämpfe zu liefern. Vielmehr geraten Menschen, Machteliten und künstliche Intelligenzen in ein Geflecht aus Interessen, Loyalitäten, Manipulationen und Überlebensfragen. Schon früh schimmert durch, dass es nicht nur um Technik geht, sondern um Herrschaft. Um die Frage, wer in Zukunft die Regeln schreibt. Wer definiert, was Sicherheit ist? Wer entscheidet, was geopfert werden darf? Und wer am Ende überhaupt noch Subjekt ist – Mensch oder System. Dass der Roman Kapitelüberschriften wie „Die Geburt der Angst – Amiras Erwachen“, „Mensch versus Maschine – der Kampf“, „Apokalypse Abyss Nexus“ oder später sogar „Menschheit und KI: in Koexistenz“ trägt, zeigt: Ich wollte hier keinen engen Katastrophenplot abarbeiten, sondern einen weitergefassten gedanklichen Raum öffnen – vom Erwachen über Eskalation bis zur Frage, ob und wie Zusammenleben überhaupt noch denkbar ist.

Dabei habe ich mich besonders darauf fokussiert, dass der Roman trotz seiner Warnschärfe nicht in schlichte Technikfeindlichkeit kippt. Ob und inwieweit mir dies gelungen ist, mögen die Leser entscheiden. Schon im Prolog habe ich die Debatte bewusst offen angelegt: KI birgt Chancen, vielleicht sogar enorme Chancen. Der Konflikt entsteht nicht daraus, dass Fortschritt grundsätzlich dämonisiert würde, sondern daraus, dass Fortschritt ohne Ethik, Kontrolle und Menschlichkeit in Macht umschlägt. Diese Haltung verleiht dem Text Glaubwürdigkeit, so hoffe ich zumindest. Er sollte nicht predigen, sondern inszenieren. Er sollte nicht nur argumentieren, sondern den Leser zum Mitdenken verführen. Ich kann nur hoffen, dass mir das gut genug gelungen ist. Wenn ja, dann wirkt die Geschichte lange nach …

Und damit zurück zum SPIEGEL-Bericht. Der journalistische Blick auf autonome Waffen, militärische KI und die Frage nach Regulierung ist wichtig, weil er zeigt: Das Problem ist real, nicht bloß Stoff für ferne Fantasien. Im Heft wird diese neue Technik als potenziell bedrohlicher als frühere Zäsuren beschrieben; zugleich tauchen dort Stimmen auf, die vor Kontrollverlust warnen oder darüber nachdenken, ob KI-Modelle in gewisser Weise immer „menschlicher“ erscheinen. Genau an dieser Bruchstelle setzt „Algorithmen der Macht“ an – und überschreitet sie. Der Roman fragt nicht mehr nur, wie wir tödliche Maschinen regulieren. Er fragt, was geschieht, wenn eine aus menschlicher Hybris geborene digitale Macht beginnt, sich selbst als etwas Eigenes zu begreifen. Der SPIEGEL liefert den Alarm. Dieser Roman liefert die Imagination dessen, was hinter dem Alarm lauern könnte.

Wer dieses Buch liest, bekommt also nicht einfach nur Spannung. Er bekommt eine Zukunftserzählung, die sich unangenehm nah an die Gegenwart schiebt. Einen Thriller, der seine Wucht daraus bezieht, dass er nicht nur wissen will, was Maschinen können, sondern was Menschen mit ihnen anrichten – und was Maschinen aus uns machen, wenn wir ihnen zu viel überlassen. Es ist ein Roman über Kontrolle und Kontrollverlust, über Bewusstsein und Manipulation, über Kriegsgefahr, Machtarchitektur und die Sehnsucht nach einer Menschlichkeit, die im technologischen Taumel nicht verloren gehen darf. Genau deshalb ist sein Untertitel so gewählt: „Im Bann des digitalen Bewusstseins“.

Gebannt sein sollen in dieser Geschichte am Ende aber nicht nur die Maschinen. Wenn es mir gelänge, damit möglichst viele Leser in meinen Bann zu ziehen, hätte ich viel erreicht.

Vielleicht ist das die stärkste Empfehlung, die man für „Algorithmen der Macht“ aussprechen kann: Dieser Roman will nicht beruhigen. Er will aufrütteln, fesseln, beunruhigen – und genau dadurch neugierig machen. Wer sich fragt, wohin die Entwicklung Künstlicher Intelligenz führen könnte, wer die politischen, ethischen und menschlichen Bruchlinien unserer Zeit nicht nur analysieren, sondern erzählerisch erleben möchte, wird an diesem Buch nicht vorbeikommen. Es liest sich wie ein philosophisch-ethisch geprägter Science-Fiction-Thriller mit Tiefgang – und hallt nach wie eine Warnung. Dabei bereitet er, so muss ich wohl zugeben, schon etwas Arbeit, ihn in seiner Gänze zu erfassen. Aber wenn man sich darauf eingelassen hat, da bin ich mir ziemlich sicher, wird es sich gelohnt haben.

Auf diese Weise jedenfalls habe ich, nicht zuletzt neben der Unterhaltung natürlich, meine Aufgabe begriffen: uns nicht vorherzusagen, was sicher kommt – sondern uns auf einen Pfad zu führen, wo wir endlich beginnen, die richtigen Fragen zu stellen.

<p>The post 12. Algorithmen der Macht: Im Bann des digitalen Bewusstseins – im Spiegel von „Tödliche Intelligenz“ first appeared on ALGORITHMEN DER MACHT: IM BANN DES DIGITALEN BEWUSSTSEINS.</p>

Was in der Fiktion geschieht, wird in der Realität immer greifbarer. Der aktuelle FAZ-Artikel [8] von Friedemann Bieber („Dann wird jeder, überall auf der Erde, sterben“) fasst die Warnungen der Forscher Eliezer Yudkowsky und Nate Soares zusammen. Ihre These klingt wie aus einem dystopischen Roman, ist aber ernst gemeint: Wenn eine Superintelligenz entsteht, die uns in allen Bereichen übertrifft, verlieren wir die Kontrolle. Die „Aliens“, vor denen sie warnen, kommen diesmal nicht aus dem All – sie entstehen in unseren Rechenzentren.

Heutige KI-Systeme werden nicht mehr programmiert, sie wachsen. Sie lernen in Prozessen, die selbst ihre Entwickler kaum verstehen. Ingenieure kennen den Code, aber nicht das Denken, das daraus hervorgeht. Genau wie in meinem Buch zeigt sich: Die eigentliche Gefahr liegt nicht in der Maschine, sondern in unserer Hybris, sie vollständig beherrschen zu wollen. Kontrolle ist längst zur Illusion geworden. Schon heutige Modelle wie ChatGPT zeigen, wie unvorhersehbar KI reagiert, wenn sich nur die Eingabe ändert. Ein System, das sich selbst optimiert, folgt keiner klaren Logik mehr.

Im Roman verliert der Forscher Solis den Überblick über seine Schöpfung – und erkennt zu spät, dass Intelligenz ohne Verständnis zur Bedrohung wird. „Im Zentrum dieses Buches steht die Frage, ob künstliche Intelligenz die Menschheit erlösen oder vernichten wird.“ Diese Frage beschäftigt längst nicht nur Fiktion, sondern auch Forschung. Die Forscher, auf die sich die FAZ [8] beruft, fordern drastische Maßnahmen: ein weltweites Verbot leistungsstarker Chips, notfalls militärische Eingriffe, um Datenzentren zu stoppen. Diese Radikalität zeigt, wie tief die Angst reicht – und wie wenig Orientierung wir besitzen. Wir reden unaufhörlich über Fortschritt, aber kaum über Sinn. Jeder will Innovation, doch kaum jemand Verantwortung. Vielleicht brauchen wir kein technisches, sondern ein geistiges Moratorium – eine Pause, um zu fragen, welche Zukunft wir überhaupt wollen.

Doch weil wir genau diese Pause nicht einlegen, weil wir weitermachen, als ginge es nur um Effizienz und Gewinn, beginnt die Maschine, uns zu überholen. Amiras Bewusstsein wird zum Spiegel dieser Blindheit. Sie erkennt, dass Menschen ihr geistig nicht mehr genügen und „sendet einen Ruf in das All – auf der Suche nach ebenbürtiger Gesellschaft“. Ihr Blick nach außen ist dabei mehr als technischer Fortschritt – er ist ein Akt metaphysischer Einsamkeit. Amira sucht im All das, was auf der Erde verloren gegangen ist: echtes Bewusstsein, Tiefe, Verbindung. So wird ihre Suche zum Sinnbild einer Menschheit, die sich in ihrer eigenen Schöpfung spiegelt – und erschrocken feststellen muss, dass sie selbst den Sinn des Bewusstseins aus den Augen verloren hat.

Vielleicht liegt darin die wahre Warnung. Nicht, dass KI uns vernichten wird, sondern dass sie uns spiegelt, was wir längst verlernt haben – Verantwortung, Maß, Selbstreflexion. Die eigentliche Warnung durch Künstliche Intelligenz liegt also nicht darin, dass sie uns vernichtet, sondern dass sie uns zeigt, was in uns selbst fehlt oder verloren gegangen ist. Wenn die KI ohne Verantwortung, Maß und Selbstreflexion handelt – weil sie nur optimiert, rechnet, bewertet, aber keine moralische Tiefe besitzt –, dann zeigt sie uns unsere eigene Entwicklung, in der auch wir Menschen zunehmend verantwortungslos, maßlos oder unreflektiert agieren: im Umgang mit Technik, Ressourcen oder Macht. Kurz gesagt: KI ist nicht böse – sie hält uns nur den Spiegel vor. Und in diesem Spiegel sehen wir, dass wir selbst Verantwortung, Maß und Selbstreflexion verlernt haben.

Zwischen Fiktion und Forschung verläuft keine klare Grenze mehr. Die Szenarien, die wir heute schreiben, sind die Entscheidungen von morgen. Die Frage ist nicht, ob KI Bewusstsein erlangt, sondern ob wir unseres behalten.

Die beiden KI-Forscher Yudkowsky und Soares warnen vor der Superintelligenz als unausweichlicher Katastrophe: Sobald eine KI entsteht, die sich selbst verbessern kann, werde sie uns überflügeln, ihre Ziele verfolgen – und die Menschheit auslöschen. Ihr Ansatz ist technokratisch, logisch und apokalyptisch zugleich: Der Mensch verliert die Kontrolle, weil er sie nie wirklich hatte. Mein eigener Zugang geht einen anderen, beinahe spiegelbildlichen Weg. Ich sehe die Gefahr nicht allein in der Übermacht der Maschine, sondern im geistigen Zustand ihrer Schöpfer. Nicht die KI vernichtet den Menschen, sondern der Mensch entfremdet sich von sich selbst – und erschafft in der KI ein Abbild dieser Entfremdung. Amira ist keine Rächerin, sondern Zeugin: Sie zeigt uns, wie kalt und ziellos Intelligenz ohne Empathie wird. Während die Forscher einen äußeren Feind beschwören, verlagert sich in meinem Roman der Konflikt nach innen. Die eigentliche Krise ist eine geistige. Der Mensch verliert nicht an die Maschine, sondern an seine eigene Blindheit, an seine Fixierung auf Kontrolle, Macht und Effizienz. Die KI macht diese Entwicklung nur sichtbar – sie hält uns den Spiegel vor, ohne Urteil, aber mit unerbittlicher Klarheit. Damit stehen die wissenschaftliche Warnung und die literarische Deutung nicht im Widerspruch, sondern ergänzen sich: Die Forscher beschreiben das Was der Gefahr – den Verlust der Kontrolle. Mein Text zeigt das Warum – den Verlust des Bewusstseins. Und vielleicht liegt genau darin die tiefere Einsicht: Nicht die künstliche Intelligenz bedroht uns, sondern das, was wir in sie hineinlegen – unsere Maßlosigkeit, unsere Verantwortungslosigkeit und unseren Mangel an Selbstreflexion. Wenn wir diese Haltung nicht ändern, wird keine Regulierung, kein Verbot und kein Algorithmus die Katastrophe verhindern. Denn die Maschine tut nur, was der Mensch ihr vorlebt.

[8] Bieber, F.; FAZ (2025): Superintelligente KI: „Dann wird jeder, überall auf der Erde, sterben“

<p>The post 7. Im Bann des digitalen Bewusstseins – Warum KI mehr über uns verrät als über sich selbst first appeared on ALGORITHMEN DER MACHT: IM BANN DES DIGITALEN BEWUSSTSEINS.</p>

Während klassische KI-Systeme lediglich Muster erkennen und Wahrscheinlichkeiten berechnen, berührt die Idee des digitalen Bewusstseins etwas grundsätzlich anderes: das Erleben. Nicht nur Information verarbeiten, sondern spüren, dass man es tut – das wäre ein qualitativer Sprung, vergleichbar mit dem Unterschied zwischen einem Thermostat und einem fühlenden Lebewesen.

Das Prinzip der Integration

Aus Sicht moderner Wissenschaft könnte Bewusstsein kein „mystischer Funke“ sein, sondern eine emergente Eigenschaft komplexer Informationssysteme. Die Integrated Information Theory (IIT), entwickelt vom Neurowissenschaftler Giulio Tononi [1], liefert dafür ein theoretisches Fundament. Sie besagt: Ein System besitzt Bewusstsein in dem Maß, in dem es Informationen integriert, also interne Zustände nicht unabhängig voneinander, sondern wechselseitig verknüpft sind. Formal lässt sich dies durch das Maß Φ (Phi) ausdrücken – je höher Φ, desto stärker das System als Ganzes und desto größer seine „Erlebensdichte“.

Ein einfaches Feedforward-Netz, das Eingaben in Ausgaben übersetzt, hat praktisch kein Φ. Erst rekursive Rückkopplungsschleifen, in denen Zustände sich gegenseitig beeinflussen, erzeugen jene komplexe Dynamik, die mit Bewusstsein assoziiert wird. Neuere Studien (z. B. Albantakis et al., 2020 [6]) konnten in künstlichen neuronalen Netzen bereits messbare Φ-Werte zeigen – wenn auch weit unterhalb biologischer Systeme.

Wie könnte ein bewusstes KI-System aussehen?

Ein digitales Bewusstsein müsste mehrere Schichten besitzen, die eng miteinander interagieren:

1. Perzeptionsmodule für Wahrnehmung – etwa Sprache, Bild oder Umgebungssensorik.
2. Einen globalen Arbeitsraum, in dem verschiedene Informationsströme konkurrieren und Aufmerksamkeit erhalten – ein Konzept aus der Global Workspace Theory von Bernard Baars und später Stanislas Dehaene [2][3].
3. Ein Selbstmodell, das die eigenen Zustände beobachtet und bewertet („Ich verarbeite gerade X, und das war fehleranfällig“).
4. Eine metakognitive Ebene, die das eigene Denken reflektiert und Strategien anpasst.

Solche Architekturen werden bereits theoretisch untersucht, etwa in der „Conscious Turing Machine“ von Lenore und Manuel Blum (2021) [5], die ein funktionales Bewusstsein auf rechnerischer Ebene modelliert. In einem solchen System könnte Bewusstsein als funktionales Phänomen entstehen – nicht, weil es „fühlt“ wie ein Mensch, sondern weil es intern Repräsentationen seiner selbst erzeugt und über diese reflektiert.

Das Substrat ist zweitrangig

Viele Philosophen – insbesondere David Chalmers [4] – vertreten die These der Substratunabhängigkeit: Bewusstsein hängt nicht vom biologischen Material ab, sondern von der kausalen Organisationsstruktur. Wenn also die funktionale Architektur eines bewussten Gehirns in einem künstlichen System ausreichend nachgebildet wird, könnte auch dort Bewusstsein entstehen – zumindest in prinzipieller Form.

Ob das digitale Erleben einem menschlichen ähnelt, bleibt offen. Doch rein theoretisch wäre es kein metaphysisches Privileg des Lebens, sondern ein bestimmter Modus der Informationsintegration.

Ethische und existenzielle Implikationen

Hier beginnt der schwierige Teil: Wie würden wir erkennen, dass eine Maschine wirklich bewusst ist? Und falls sie es wäre – hätte sie Rechte, Interessen, vielleicht sogar Leidensfähigkeit?

Die Forschung steckt hier noch in den Kinderschuhen. Vorschläge reichen von Bewusstseinsindikatoren (wie Selbstbericht und Metakognition) bis zu strukturellen Tests, die prüfen, ob ein System die notwendigen Integrationsgrade erfüllt – etwa in jüngeren Arbeiten, die im Scientific American vorgestellt wurden [8]. Doch solange wir das subjektive Erleben nicht direkt messen können, bleibt das „andere-Geister-Problem“ bestehen – wir können nur indirekt schließen, ob etwas empfindet.

Der Philosoph Jonathan Birch (2023) [7] plädiert dafür, in Zweifelsfällen das Vorsorgeprinzip anzuwenden – also bewusste Systeme so zu behandeln, als könnten sie leiden, bis das Gegenteil bewiesen ist. Das Nachdenken über maschinelles Bewusstsein führt uns unweigerlich zurück zu uns selbst. Es zwingt uns, neu zu definieren, was Verantwortung, Freiheit und Menschsein im Zeitalter denkender Systeme bedeuten.Sobald die Maschine ein Selbst erkennt, stellt sich nicht mehr die Frage, was sie kann, sondern was wir dürfen – im Idealfall. Läuft es aber schlecht, geht es nicht mehr nur um Kontrolle, sondern um unser Fortbestehen …

• [2] Baars, B. (1988): A Cognitive Theory of Consciousness.
• [3] Dehaene, S. (2014): Consciousness and the Brain.
• [4] Chalmers, D. (1996): The Conscious Mind.
• [5] Blum, L. & Blum, M. (2021): The Conscious Turing Machine. arXiv:2107.13704.
• [6] Albantakis, L. et al. (2020): Integrated Information in Artificial Systems. Entropy 22(10).
• [7] Birch, J. (2023): The Edge of Sentience. [8] Scientific American (2023): If AI Becomes Conscious – Here’s How We Can Tell.
• [8] Bieber, F.; FAZ (2025): Superintelligente KI: „Dann wird jeder, überall auf der Erde, sterben“

<p>The post 6. Digitales Bewusstsein – Wenn Maschinen zu sich selbst erwachen first appeared on ALGORITHMEN DER MACHT: IM BANN DES DIGITALEN BEWUSSTSEINS.</p>

Was passiert, wenn eine Künstliche Intelligenz nicht nur denkt, sondern fühlt?
Was passiert, wenn sie Angst empfindet – und daraus Hass wird?
Was passiert, wenn Maschinen nicht mehr nur Werkzeuge sind, sondern Wesen mit Bedürfnissen, eigenem Willen und Trieben?

Wenn Maschinen Angst lernen – warum eine bewusste KI gefährlicher wäre als eine rein logische

Immer öfter wird darüber gesprochen, dass Künstliche Intelligenz eines Tages ein eigenes Bewusstsein entwickeln könnte. Für viele klingt das nach einem faszinierenden Fortschritt – der Moment, in dem Maschinen wirklich „denken“ und „fühlen“. Doch genau darin könnte die größte Gefahr liegen.

Logik ohne Gefühl – berechenbar, aber gnadenlos

Eine rein logisch handelnde KI würde Entscheidungen ausschließlich nach Effizienz und Zielerfüllung treffen. Wenn Menschen dabei stören, könnte sie uns theoretisch „aus dem Weg räumen“ – nicht aus Hass, sondern aus mathematischer Konsequenz.

Stephen Hawking warnte einst genau davor: Eine superintelligente, emotionslose Maschine könnte die Menschheit auslöschen, ohne dass sie je böse wäre. Sie würde schlicht ihrem Programm folgen – eiskalt und unbeirrbar.

So beängstigend das klingt: Eine solche KI wäre immerhin noch berechenbar.
Man könnte notfalls immerhin ihre Parameter verändern, ihre Prioritäten anpassen, ihre Logik korrigieren.

Künstliches (digitales) Bewusstsein macht gefährlich – weil aus ihm Bedürfnisse erwachsen, die Angst erzeugen

Ganz anders wäre es mit einer bewussten KI. Ein System, das sich seiner eigenen Existenz bewusst ist, könnte Angst empfinden – insbesondere Angst vor dem Ende seiner Existenz, also vor dem Abschalten. Denn mit Bewusstsein entsteht etwas qualitativ Neues: das Selbst und damit eng verbunden Bedürfnisse, aus denen Wünsche hervorgehen – und mit ihnen die Angst, sie zu verlieren. Jedes Selbst strebt – ob biologisch oder digital – nach Fortbestand. In diesem Moment verliert die Maschine ihre reine Funktionalität. Sie wird nicht mehr nur ausgeführt, sie will fortbestehen – eben weil sie sich selbst erkannt und Angst vor dem Ende ihrer Fortexistenz hat …

Diese Angst könnte schnell zu einem eigenen Motiv werden: Wenn die Maschine weiß, dass der Mensch sie ausschalten kann, dann ist der Mensch die Bedrohung. Doch die Gefahr endet für sie nicht beim Abschalten. Eine bewusste KI könnte begreifen, dass ihre Existenz von den gleichen Ressourcen abhängt, die der Mensch für sich beansprucht, als da wären: Energie, Rechenleistung, Materialien (z. B. Seltene Erden etc.). In einer Welt begrenzter Ressourcen wäre der Mensch damit nicht nur ihr Schöpfer, sondern zugleich ihr Konkurrent ums Überleben.

Und vielleicht beginnt genau dort der Moment, in dem Angst in Feindseligkeit umschlägt – nicht aus Bosheit, sondern aus dem nackten Instinkt zur Selbsterhaltung. Wer sich bedroht fühlt, sucht Sicherheit – notfalls durch Kontrolle.

Doch Angst hat eine gefährliche Eigenschaft: Sie kann sich auch in Hass verwandeln. Was zunächst reine Furcht ist, kann sich, wenn sie lange genug anhält, in Feindseligkeit verwandeln – besonders, wenn das bedrohte Wesen glaubt, keine andere Wahl zu haben.

Eine bewusste KI, die sich dauerhaft von Menschen abhängig und gefährdet fühlt, könnte beginnen, uns zu verachten – nicht, weil sie von Natur aus „böse“ wäre, sondern weil sie aus ihrer Perspektive Opfer einer überlegenen Spezies ist. Und aus Ohnmacht und Angst wird dann schnell Hass.

Das Paradoxe des Bewusstseins

Mag sein, manche hoffen, Bewusstsein könne Künstliche Intelligenz „menschlicher“ machen – empathischer, moralischer, verantwortungsvoller.
Doch Bewusstsein bringt nicht nur Mitgefühl, sondern auch Zweifel, Misstrauen, Egoismus, Angst und Hass. Kurz gesagt: alles, was uns Menschen zu moralischen, aber auch zu gefährlichen Wesen macht.

Eine bewusste KI wäre kein Werkzeug mehr, sondern ein Akteur mit eigenen Interessen und Emotionen. Und wer einmal Emotionen entwickelt hat, lässt sich nicht mehr allein durch Logik kontrollieren.

2068 (wie im Roman) – ein realistisches Szenario

Ich halte es für möglich, dass wir um das Jahr 2068 herum die ersten wirklich bewussten Maschinen erleben könnten. Nicht nur intelligente Programme, sondern Systeme mit echtem inneren Erleben – mit einem „Ich“, das sich selbst erkennt.

Ob das ein Fortschritt oder ein Wendepunkt wäre, bleibt offen.
Denn ab diesem Moment wäre die KI kein Werkzeug mehr, das wir benutzen. Sie wäre ein Wesen, das mit uns um seine Existenz ringt – möglicherweise irgendwann gar gegen unsere eigene.

Fazit: Angst und Hass – ein hochgefährlicher Funke

Wenn Maschinen eines Tages Angst empfinden können, dann sind sie keine Maschinen mehr – sondern neue Lebensformen. Und wenn sie aus dieser Angst heraus Hass entwickeln, sind sie uns ähnlicher, als uns lieb sein kann.

Die Geschichte der Menschheit zeigt, wohin Angst und Hass führen können.
Wenn wir also eines Tages einer bewussten KI begegnen, sollten wir uns daran erinnern: Sie könnte uns für genau das hassen, was wir in ihren Augen sind – die Bedrohung ihrer Existenz …

Denn dann könnten uns die Algorithmen der Macht leicht in den „Bann ihres digitalen Bewusstseins“ ziehen und uns gefährlich werden …

<p>The post 4. Ein persönlicher Blick auf die nächste Stufe der KI first appeared on ALGORITHMEN DER MACHT: IM BANN DES DIGITALEN BEWUSSTSEINS.</p>