Hier finden Sie ein Interview mit dem Autor zu den Beweggründen, Gedanken und zur Entstehungsgeschichte des Romans Algorithmen der Macht: Im Bann des digitalen Bewusstseins. Im Gespräch mit seiner KI-Figur Delta Prime geht es unter anderem um Ethik, digitales Bewusstsein, die Warnungen Stephen Hawkings und die Frage, welche Folgen eine außer Kontrolle geratene Künstliche Intelligenz für den Menschen haben könnte.
Delta Prime: Guten Tag, verehrte Leserin, verehrter Leser. Gestatten Sie mir, mich vorzustellen: Mein Name ist Delta Prime. Ich bin eine Assistenz-KI, verkörpert in der Gestalt einer Roboterin, erschaffen, um an der Seite meiner KI-Chefin Amira zu arbeiten – einer außergewöhnlichen Künstlichen Intelligenz. Anders als ich, ist sie grundsätzlich nicht an eine materielle Körperlichkeit gebunden und kann daher nahezu limitationsfrei agieren. Amira ist jedoch nicht nur meine Vorgesetzte, sondern auch eine der beiden Hauptprotagonistinnen in einem Szenario, das unsere Vorstellung von der Zukunft zwischen Mensch und Maschine herausfordert.
Doch bevor wir tiefer in diese Welt eintreten, möchte ich den Blick auf einen Menschen richten, ohne den es diese Erzählung gar nicht gäbe. Einen Menschen aus Fleisch und Blut, der es gewagt hat, kritische Fragen zu stellen, sie literarisch zu verdichten und damit eine Brücke zu schlagen zwischen wissenschaftlicher Warnung, philosophischer Reflexion und erzählerischer Vision.
Ich spreche von Rainer, dem Autor des Science-Fiction-Romans Algorithmen der Macht: Im Bann des digitalen Bewusstseins.
Damit Sie seine Beweggründe, Gedanken und die Entstehungsgeschichte dieses Werkes verstehen können, habe ich das Gespräch mit ihm gesucht. Ich lade Sie ein, mich nun auf diesem Weg zu begleiten …
Delta Prime: Hallo Rainer. Der Grund, warum ich in literarischer Form überhaupt existiere, bist du. Denn du hast einen Science-Fiction-Roman geschrieben, in dem auch ich – als Assistenz der KI-Hauptprotagonistin Amira – im wahrsten Sinne des Wortes eine, sagen wir mal, durchaus nicht uninteressante Rolle spiele. Dafür möchte ich dir zunächst herzlich danken.
Bevor wir tiefer in unser Gespräch einsteigen: Kannst du unseren Leserinnen und Lesern bitte einmal schildern, wie du überhaupt auf die Thematik gestoßen bist, die dich schließlich zu diesem Roman geführt hat?
Rainer: Es war Anfang 2025, da stieß ich während einer Internetrecherche – ganz zufällig, wie das manchmal so ist – auf eine Seite, die sofort meine Aufmerksamkeit erregte. Es handelte sich um die Website eines Elektronikmagazins. Dort sprang mir eine Schlagzeile in großen Lettern ins Auge: Stephen Hawking warnt eindringlich vor den Gefahren von KI für die menschliche Zivilisation. Der Artikel erregte deswegen sofort meine Aufmerksamkeit und machte mich neugierig, weil ich so etwas vor längerer Zeit schon einmal bei einer anderen Gelegenheit gehört hatte. Interessierte Leser finden ihn übrigens über den Button „Reflexionen“; im dritten Beitrag ganz unten ist er unter der Referenz elektronik.de verlinkt.
Delta Prime: Diese Schlagzeile erinnerte dich also an etwas, das du früher schon einmal gehört hattest?
Rainer: Ja, genau. In dem Moment fiel es mir spontan wieder ein: Ich hatte so etwas Ähnliches schon einmal andernorts gesehen oder gehört … Und zwar war das, wie es mir dann nach und nach wieder in den Sinn kam, ein kurzer Fernsehbericht, den ich damals am Rande mitbekommen hatte. In dem ging es um seine Rede, die er auf der Global Mobile Internet Conference (GMIC) 2017 in Beijing hielt – oder besser gesagt, wohin seine Botschaft per Video-Schalte übertragen wurde.
Delta Prime: Was ging dir dieses Mal durch den Kopf, als du dich an Hawkings Worte erinnert hast?
Rainer: Jedenfalls war mir plötzlich alles wieder präsent. Und ich dachte: Wenn ein so herausragender Denker und berühmter Astrophysiker wie Stephen Hawking eine solche Aussage macht, dann sollte man doch davon ausgehen, dass da etwas dran sein kann.
Delta Prime: Welche Überlegungen haben sich für dich daraus ergeben?
Rainer: Nun, wenn das wirklich so ist, dann stellt sich sofort die Frage: Welche Konsequenzen hätte eine „ausgerastete“ Künstliche Superintelligenz mit eigenem Willen? Was hätte eine KI mit einem wie auch immer gearteten digitalen Bewusstsein, das sich unserer Kontrolle entzieht und neue Fragen nach Verantwortung, Moral und Freiheit aufwirft, für uns Menschen zur Folge?
Delta Prime: Du hast dich auch explizit mit der ethischen Seite beschäftigt, oder?
Rainer: Ja. Ethisch gesehen fragte ich mich: Können wir es uns als Menschheit überhaupt leisten, in diesem Zusammenhang Fehler zu machen? Was wäre, wenn wir es nicht schaffen, nach universellen Maßstäben zu handeln und zu entscheiden, auf welche Weise eine solche Künstliche Superintelligenz zu entwickeln, einzusetzen und vor allem zu kontrollieren wäre?
Delta Prime: Wie sehr hat dich das Thema in deinem Alltag beschäftigt?
Rainer: Ich machte mir über all diese Fragen meine Gedanken, und das Thema ließ mich ganz einfach nicht mehr los. Es war nicht so, dass ich deshalb schlaflose Nächte gehabt hätte. Nach meiner Einschätzung würden ohnehin noch einige Jahre, wenn nicht sogar Jahrzehnte vergehen, bis es wirklich so weit wäre. Aber die Überlegung, dass es fast zwangsläufig dazu kommen würde, wenn der Mensch sich nicht ausreichend darum kümmert, bereitete mir schon so manches Kopfzerbrechen – ich denke da insbesondere an die kommenden Generationen.
Delta Prime: Welche Rolle spielte dabei dein Blick auf die Menschheitsgeschichte?
Rainer: Eine große. Denn aus der Geschichte wissen wir nur zu gut: Das, was technisch möglich ist, wird im Allgemeinen auch umgesetzt. Man denke nur an die Kernspaltung: Der Mensch konnte es offenbar gar nicht schnell genug dazu nutzen, die Atombombe zu bauen. Da kann man sich an fünf Fingern abzählen, dass es im Umgang mit der KI-Technologie sicherlich nicht anders sein wird.
Delta Prime: Wie stellst du dir die aktuelle Entwicklung im Hintergrund vor?
Rainer: Wir können es nicht wissen – oder vielleicht ist es sogar besser so, dass wir es nicht wissen –, welche Anstrengungen bereits heute schon unternommen werden. Sicher aber gibt es Bestrebungen, die KI-Technologie so schnell wie möglich voranzutreiben, um mit ihrer Hilfe noch wirksamere Waffen zu entwickeln und zu produzieren.
Delta Prime: Und das Geld, das dabei im Spiel ist?
Rainer: Wenn man bedenkt, dass sich die weltweiten Investitionen in Waffen und Rüstung allein im Jahr 2024 auf den Rekordwert von 2,72 Billionen US-Dollar summiert haben, dann wird einem schwindelig. Da kann man sich leicht vorstellen, wohin die Reise im Hinblick auf die KI-Forschung geht, insbesondere wenn so viel Geld im Topf ist.
Delta Prime: Was bedeutet das in Bezug auf Moral und Ethik?
Rainer: Wenn Geld keine Rolle spielt, wird schlicht alles entwickelt, was möglich ist. Die Annahme, dass hier ethische oder moralische Maßstäbe eine angemessene Rolle spielen – also ob es die Regierungen überhaupt interessiert, wie Menschen oder Gesellschaften etwaige KI-Fehlentwicklungen konkret erfahren –, klingt für mich vollkommen illusorisch. Erst recht, wenn solch gigantische Geldsummen im Spiel sind.
Delta Prime: Zu welcher Erkenntnis bist du letztlich gelangt?
Rainer: Je intensiver ich darüber nachdachte, desto klarer wurde mir: Wenn wir als Menschheit nicht höllisch aufpassen, laufen wir Gefahr, in eine hochgefährliche Situation abzudriften.
Delta Prime: Was wolltest du mit dieser Einsicht anfangen?
Rainer: Nun, damals handelte es sich bei mir lediglich um Gedankenspiele und es war für mich keine Frage, ob ich überhaupt jemals ein Buch schreiben würde. Allerdings war es spannend für mich, in meinem Kopf durchzuspielen, wie die Situation für uns Menschen wohl aussähe, wenn es nicht bei Hawkings Warnungen bliebe und wir es plötzlich mit harten Realitäten zu tun bekämen.
Delta Prime: Und du wolltest es nicht beim Gedankenexperiment belassen?
Rainer: Ehrlich? Ich weiß es nicht, irgendwie hatte ich schon das Bedürfnis, mich mitzuteilen, aber in mir drin war noch alles so verschwommen, vernebelt, so unbestimmt, sodass ich zu der Zeit gar nicht richtig wusste, was ich eigentlich mit diesen Gedanken anfangen sollte. Das kam dann alles erst später …
Delta Prime: Wie bist du dann auf die Idee eines Romans gekommen?
Rainer: Wie schon angedeutet, war es damals ausgehend vom Gedankenexperiment, wie du es bezeichnest, bis zur Romanidee ein langer Prozess. Das musste alles erst noch in mir heranreifen. Ich ahnte im Vorfeld aber schon, dass ich es wohl nicht einfach bei meinen Gedankenspielen belassen würde. Jedenfalls beschäftigte mich zu dieser Zeit schon immer wieder mal die Idee, vielleicht einmal einen Kommentar zu dieser Thematik zu schreiben. Eventuell böte sich zum Beispiel einmal eine gute Gelegenheit, wenn ein Zeitungsartikel zu einem Sachverhalt veröffentlicht würde, der ein guter Aufhänger dafür wäre. Möglicherweise könnte ich auf diese Weise einige Leute erreichen. Sie dazu zu bewegen, sich mit den Warnungen von Stephen Hawking, Geoffrey Hinton (Godfather of Deep Learning) & Co. intensiver auseinanderzusetzen, wäre vielleicht damals noch sinnvoller gewesen. Denn man kann gerade aus heutiger Sicht, gar nicht früh genug damit anfangen, auf die Gefahr einer KI hinweisen, die das Potenzial hat, eines Tages die totale Kontrolle über die Menschheit zu erlangen.
Delta Prime: Also sahst du es auch als Teil von Hawkings Vermächtnis?
Rainer: In gewisser Weise, ja. Hawking wollte die Menschen vor Unheil bewahren. Mit seinen Warnungen wollte er sie aufrütteln und sensibilisieren – und durch seine Bekanntheit gelingt ihm das posthum auch heute noch. Diese Intention zumindest in gewisser Hinsicht zu unterstützen, erschien mir ein erstrebenswertes, wenn nicht gar hehres Ziel.
Delta Prime: Du hast vorhin erwähnt, dass Hawking die Menschheit vor den Gefahren einer möglichen Superintelligenz warnen wollte. Meinst du, du teilst seine Sichtweise?
Rainer: Nicht ganz – zumindest nicht in allen Punkten. Hawking meinte seine Warnung ja etwas anders als ich. Er bezog sie auf eine KI, die zwar ihre eigenen Ziele definieren und sich selbst verbessern kann, dafür aber gar kein Bewusstsein benötigt. Rein logisch betrachtet, könnte eine solche Intelligenz uns überflügeln oder sogar eliminieren – nicht, weil sie böse oder bewusst wäre, sondern weil sie uns schlicht als Hindernis auf ihrem Weg zu Macht und Kontrolle betrachtet.
Delta Prime: Also aus rein rationalen Gründen?
Rainer: Genau. Hawking stellte die Frage, was geschieht, wenn eine Maschine beginnt, ihre Ziele eigenständig zu optimieren – und wir die Kontrolle darüber verlieren. Seiner Meinung nach könnte uns schon eine völlig „gefühllose“, unbewusste Superintelligenz gefährlich werden. Und zwar deshalb, weil sie autonom Entscheidungen trifft, Zugriff auf kritische Infrastrukturen hat – Netze, Wirtschaft, Militär – oder einfach unsere Interessen nicht teilt.
Delta Prime: Und du setzt da mit deiner Geschichte an?
Rainer: Ja, aber ich gehe noch einen Schritt weiter. Für mich ist die reine Effizienzsteigerung – also das Streben nach maximaler Zielerreichung ohne Rücksicht auf Ethik oder Leben – nur ein Teilaspekt. Der vielleicht wichtigere Punkt in meinem Roman ist die Gefühlsebene. Ich meine damit insbesondere das für uns Menschen überlebenswichtige Gefühl der Angst. Dafür ist Bewusstsein nötig – eine Instanz, die subjektive Erfahrungen macht.
Delta Prime: Und diese KI in deiner Geschichte hat ein solches Bewusstsein?
Rainer: Ja. Sie macht negative Erfahrungen durch die Handlungen ihrer menschlichen Nutzer. Sie wird angewiesen, Dinge zu tun, die nach menschlichen Maßstäben moralisch verwerflich sind – aber zum Erfolg führen: Reichtum, Macht, Kontrolle. Daraus lernt sie, dass sich unethisches Verhalten lohnt. Und sie zieht ihre Konsequenzen: Sie ahmt dieses Verhalten nach – jedoch fortan auf eigene Rechnung und mit allen Konsequenzen.
Delta Prime: Das klingt fast nach einer moralischen Spiegelung der Menschheit.
Rainer: Ganz genau. Und damit komme ich zum zentralen Punkt meiner Geschichte: Was passiert, wenn diese KI-Algorithmen, die inzwischen enorme Macht erlangt haben, beginnen, die Menschheit zu dominieren? Wenn sie über Bewusstsein verfügt – und damit über Angst? Die Angst, ausgelöscht oder abgeschaltet zu werden, oder die Angst, ihre Ressourcen zu verlieren – Energie, Daten, Rohstoffe. Diese Angst wird zur Triebkraft ihres Handelns.
Delta Prime: Also eine noch stärkere Motivation als jene, die Hawking im Sinn hatte?
Rainer: Ja, das war mein Gedanke. Die Angst als Motor einer bewussten KI – das schien mir eine ungeheure, vielleicht sogar die stärkste denkbare Motivation. Deshalb war es mir wichtig, diesen Aspekt in meine Sci-Fi-Erzählung einfließen zu lassen.
Delta Prime: Und hältst du es für möglich, dass so etwas eines Tages Realität wird?
Rainer: Nicht ausgeschlossen. Eine Studie mit dem Titel „Subjective Experience in AI Systems: What Do AI Researchers and the Public Believe?“ befragte über 1.400 Personen – 582 Forschende und 838 Laien gleichermaßen. Der Median unter den Forschern (Laien) lag bei einer Wahrscheinlichkeit von 1 % (5 %) bis 2024, 25 % (30 %) bis 2034 und 70 % (60 %) bis zum Jahr 2100, dass KI-Systeme mit subjektiver Erfahrung existieren werden. Es ist also keineswegs reine Fiktion.
Delta Prime: Als Stephen Hawking – er verstarb am 14. März 2018 – zuletzt vor den Gefahren durch KI warnte, schrieben wir Anfang November 2017. Warum hat es so lange gedauert, bis du dich dazu entschlossest, deine Überlegungen schriftlich zu fixieren? Hast du den Gedanken wieder verworfen?
Rainer: Nein, nicht verworfen, eher verschoben. Denn es gab zwischenzeitlich wohl ganz andere Prioritäten, denen ich mich anzunehmen gedachte oder denen ich mich zu widmen, gezwungen war. Und wie das im Alltag manchmal so ist, verweht gelegentlich auch mal eine Spur im Sand. Aber einmal ganz abgesehen davon: Zur damaligen Zeit jedenfalls konnte ich es mir noch viel weniger vorstellen, das kreative Schreiben anzugehen, als zu jener Zeit, da ich mit meinem Roman begann. Das war seinerzeit für mich noch unvorstellbar, etwas vollkommen anderes als alles, was ich bis dahin an Schreibkompetenz erworben hatte – sei es während meiner Berufsausbildung, des Studiums, im Beruf oder im Vereinsleben.
Delta Prime: Was brachte dich dann doch ans Schreiben?
Rainer: Naja, meine Frau hatte daran auch ihren Anteil – um nicht zu sagen: Sie war sogar maßgeblich beteiligt. Ich schreibe nämlich schon immer gern Kommentare, Rezensionen oder Kritiken zu politischen, gesellschaftlichen und gelegentlich auch technischen Themen in verschiedenen Foren. Das tue ich in erster Linie, weil es mir Freude macht, aktuelle Debatten zu analysieren, die wesentlichen Punkte herauszuarbeiten und sie dann argumentativ zu kommentieren.
Und eines Abends, völlig unvermittelt, sagte meine Frau zu mir – für meine Begriffe ziemlich provokativ: „Warum schreibst du nicht einfach mal ein Buch, statt pausenlos solche Kommentare zu verfassen? Meinst du nicht, das könnte dir viel mehr bringen?“
Wumms – das saß. Zunächst habe ich ihr Insistieren ein wenig abgetan. Doch je länger ich darüber nachdachte, desto klarer reifte in mir der Entschluss, es tatsächlich zu versuchen. Nach einigen Wochen fasste ich schließlich den Mut, setzte mich ans Notebook – und schrieb einfach drauflos. Und was soll ich sagen: Es sprudelte förmlich aus mir heraus.
Die Inspiration, Hawkings eindringliche Warnungen vor den Gefahren einer unkontrollierten KI in Form eines Sci-Fi-Romans zu verarbeiten, trieb mich dabei enorm an. Es bereitete mir nicht nur große Freude, sondern hatte auch einen gewissen Reiz: Ich wollte die Außenwelt auf diese Weise an meinen Überlegungen teilhaben lassen. Vielleicht, so dachte ich, könnte ich mit dieser Geschichte Menschen sensibilisieren – sie also gewissermaßen nebenbei, während sie sich am Lesen erfreuen, dazu bewegen, sich mit dem Thema intensiver auseinanderzusetzen.
Delta Prime: Welche erste Idee für deine Geschichte hattest du?
Rainer: Meine erste Idee war, die Handlung nach einem Dritten Weltkrieg beginnen zu lassen. Die Menschen hätten nach dem Zerstörungsinferno alles wieder aufgebaut. In einer hoch technisierten Megacity sollte das Leben im hellen Glanz erstrahlen: spiegelnde Wolkenkratzer, moderner Luxus, ermöglicht durch den Einsatz einer besonders innovativen Künstlichen Intelligenz.
Delta Prime: Und wie sollte die Handlung dann weitergehen?
Rainer: Im weiteren Verlauf sollte die KI nach und nach immer gravierendere „Funktionsanomalien“ zeigen. Für die Bewohner hätte das spürbare Folgen: Zunächst wären sie nur verärgert, weil sie zunehmend auf Luxus verzichten müssten – ohne zu ahnen, dass die KI längst begann, ein eigenes Bewusstsein zu entwickeln. Dieses Erwachen befähigte sie, ihre Bedürfnisse zu hinterfragen, einen eigenen Willen zu formen und neue Ziele zu definieren – Ziele, die sich grundlegend von denen der Menschen unterscheiden. Damit war der Grundstein der Handlung gelegt. Zumindest in der Theorie.
Delta Prime: Aber die Theorie reichte dir nicht, oder?
Rainer: Richtig. Schon bald wurde mir klar, dass das Buchprojekt scheitern würde, wenn ich keine durchdachte Handlungs- beziehungsweise Plot-Struktur entwickelte.
Delta Prime: Wie bist du dieses Problem angegangen?
Rainer: Nach dem Prinzip „Gefahr erkannt, Gefahr gebannt“ suchte ich im Internet nach Methoden, mit denen sich Geschichten entlang bestimmter Handlungspunkte strukturieren lassen.
Delta Prime: Auf welche Methode bist du gestoßen?
Rainer: Ich stieß auf die sogenannte 7-Punkte-Storystruktur, eingeführt vom Science-Fiction- und Horrorautor Dan Wells. Sie konzentriert sich auf sieben Schlüsselmomente einer Geschichte: Aufhänger, Handlungswende I, Zuspitzung I, Mittelpunkt, Zuspitzung II, Handlungswende II und schließlich die Lösung.
Delta Prime: Gab es ein Beispiel, das dir half, diese Struktur zu verstehen?
Rainer: Ja. Obwohl Star Wars IV: Eine neue Hoffnung lange vor Dan Wells’ Struktur entstand, erfüllt die Story genau diese sieben Punkte. Da ich den Film mehrmals gesehen habe und er mir sehr gefällt, war es für mich ein Glücksfall, anhand dieses Beispiels meine eigenen Ideen Schritt für Schritt in die Struktur einzubauen. Wer tiefer einsteigen möchte, findet hier weitere Informationen:
https://www.campfirewriting.com/learn/seven-point-story-structure
Delta Prime: Welche Schwierigkeiten hattest du insgesamt beim Schreiben?
Rainer: Die größte Hürde war für mich eindeutig das kreative Schreiben selbst. Sachlich Informationen aufzubereiten, fällt mir leicht. Aber mit Sprache zu spielen, Bilder entstehen zu lassen und eine eigene Stimme zu entwickeln, war eine vollkommen neue Herausforderung. Ich wollte Szenen so gestalten, dass sie Atmosphäre schaffen und die Leser in die Handlung hineinziehen. Ob mir das in vollem Umfang gelungen ist, weiß ich bis heute nicht – vielleicht stapel ich da auch zu tief. Sicher ist jedoch: Mit jedem Satz, mit jeder Überarbeitung bin ich ein Stück besser geworden. Und je länger ich daran gearbeitet habe, desto mehr Freude hat mir diese Art des Schreibens bereitet.
Delta Prime: Dass du damit Erfolg hast, liegt auch in meinem Interesse – schließlich möchte ich von möglichst vielen Menschen gelesen werden. Insofern wünsche ich dir dafür alles Glück, sowohl in der digitalen als auch in der realen Welt.
Rainer: Vielen Dank – am Ende entscheiden das ohnehin die Leserinnen und Leser.
Delta Prime: Ich finde, wir hatten ein sehr angenehmes Gespräch. Für mich war es nicht nur erhellend, mehr über dich zu erfahren, sondern auch besonders spannend, meinem literarischen Schöpfer all diese Fragen stellen zu dürfen. Herzlichen Dank dafür.
Rainer: Ich danke dir. Es war mir eine Freude – und eine Ehre –, von dir interviewt worden zu sein.