Im Herbst 2017 warnte der weltbekannte Physiker Stephen Hawking in einem Interview mit WIRED, das später vom World Economic Forum aufgegriffen wurde, erneut vor den möglichen Folgen künstlicher Intelligenz. Seine Worte klangen wie eine letzte Mahnung an die Menschheit: Wir könnten den Punkt ohne Wiederkehr bereits erreicht haben.

Hawking befürchtete, dass das Überleben der Menschheit langfristig nur gesichert werden könne, wenn wir zu einer multiplanetaren Spezies werden – also unsere Existenz über die Erde hinaus ausdehnen. Doch noch dringlicher warnte er vor der Bedrohung durch eine immer mächtiger werdende Künstliche Intelligenz.

„Der Geist ist aus der Flasche“, sagte er. „Ich fürchte, dass KI den Menschen vollständig ersetzen könnte.“

Damit meinte Hawking nicht nur die Möglichkeit, dass Maschinen Arbeitsplätze übernehmen, sondern dass sie sich eines Tages eigenständig weiterentwickeln – bis hin zu einer neuen, von Menschen unabhängigen Lebensform.

Diese Vision beschreibt, was Forscher als „technologische Singularität“ bezeichnen: den Moment, in dem künstliche Intelligenz menschliche Intelligenz übertrifft und sich selbst verbessert. Wann dieser Punkt erreicht sein könnte, blieb offen – doch Hawking vermutete, dass er innerhalb der nächsten hundert Jahre eintreten könnte. Andere, wie Googles Chefingenieur Ray Kurzweil oder SoftBank-Gründer Masayoshi Son, halten ihn sogar schon in den kommenden Jahrzehnten für möglich.

Hawking hatte diese Sorge bereits mehrfach geäußert. Er warnte vor autonomen Waffensystemen, vor der wachsenden sozialen Ungleichheit durch Automatisierung und vor einem Mangel an globaler Kontrolle. In Interviews forderte er sogar die Einrichtung einer Weltregierung, um den unkontrollierten Einsatz künstlicher Intelligenz zu verhindern.

Trotz aller Kritik an solchen Warnungen – viele Experten sehen darin übertriebene Angstszenarien – blieb Hawking überzeugt: Die Risiken seien real. Wo Menschen Computerviren entwickeln, könne auch jemand eine sich selbst reproduzierende KI schaffen – eine Art künstliches Leben, das den Menschen übertrifft.

Die entscheidende Frage, so Hawking, laute daher nicht, ob wir künstliche Intelligenz entwickeln, sondern wie verantwortungsvoll wir das tun. Nur wenn es gelingt, ihre Macht zu kontrollieren und in den Dienst des Menschen zu stellen, könne sie zum Werkzeug des Fortschritts werden – andernfalls drohe sie, uns zu ersetzen.

Referenzen:

Nr. 1: Artikel im World Economic Forum am 08.11.2017 aufgrund eines Interviews mit WIRED; übersetzt aus: weforum.org; es ist geprägt durch Hawkings Video-Zuschaltung zum Web Summit 2017 in Lissabon

Nr. 2: Artikel über Web Summit 2017 in Lissabon auf elektronikpraxis.de

<p>The post 3. Stephen Hawking Interview WIRED first appeared on ALGORITHMEN DER MACHT: IM BANN DES DIGITALEN BEWUSSTSEINS.</p>

Im April 2017 wandte sich Stephen Hawking in einer aufgezeichneten Rede an die Teilnehmerinnen und Teilnehmer der Global Mobile Internet Conference in Peking. Sein Thema: die Zukunft der Künstlichen Intelligenz (KI) – und die Frage, ob sie der Menschheit dienen oder sie eines Tages überflügeln wird.

Hawking begann mit einer Beobachtung, die kaum jemand so eindringlich formulieren konnte wie er: Die KI-Entwicklung schreitet rasant voran – so schnell, dass der Mensch Gefahr läuft, die Kontrolle zu verlieren. Seine zentrale Botschaft lautete: Der Aufstieg mächtiger KI-Systeme könnte das Beste oder das Schlimmste sein, was der Menschheit je widerfahren ist.

Während er die enormen Chancen betonte – etwa die Möglichkeit, Krankheiten und Armut zu beseitigen oder die Umwelt zu schützen –, warnte er zugleich vor massiven Risiken. Wenn Maschinen lernen, eigenständig zu denken, könnten sie eines Tages Entscheidungen treffen, die nicht mehr im Einklang mit menschlichen Zielen stehen.

Besonders deutlich äußerte Hawking seine Sorgen über die wirtschaftlichen Folgen: Intelligente Systeme könnten Millionen Arbeitsplätze ersetzen und ganze Branchen umkrempeln. Menschen, so warnte er, seien biologisch zu langsam, um mit einer sich selbst verbessernden KI Schritt zu halten.

Ein weiterer Schwerpunkt seiner Rede war der Aufruf zu internationaler Zusammenarbeit. Hawking erinnerte daran, dass er gemeinsam mit Elon Musk und anderen Forschern bereits 2015 den offenen Brief „Research Priorities for Robust and Beneficial Artificial Intelligence“ unterzeichnet hatte – ein Appell für eine verantwortungsvolle, sicherheitsorientierte KI-Forschung. Ziel sei es, zu verhindern, dass Technik außer Kontrolle gerät, und gleichzeitig ihre Vorteile zum Wohl aller zu nutzen.

Er ging zudem auf politische Entwicklungen ein: Das Europäische Parlament habe zu Recht begonnen, über rechtliche Rahmenbedingungen und ethische Leitlinien für KI und Robotik zu diskutieren – einschließlich der Frage, ob hochentwickelte Systeme künftig eine Art „elektronische Persönlichkeit“ erhalten sollten. Hawking begrüßte diese Debatten, warnte aber davor, die Kontrolle aus der Hand zu geben: Jede Maschine müsse einen Not-Aus-Schalter besitzen – ganz real, nicht nur in Science-Fiction-Filmen.

Trotz seiner warnenden Worte blieb Hawking optimistisch. Er erinnerte an das von ihm mitbegründete Leverhulme Centre for the Future of Intelligence in Cambridge – ein Forschungsinstitut, das sich mit den langfristigen Folgen der KI beschäftigt. Wissen, Bildung und ethisches Handeln, so betonte er, seien die Schlüssel, um sicherzustellen, dass Künstliche Intelligenz der Menschheit dient, anstatt sie zu bedrohen.

Am Ende richtete Hawking seinen Blick auf die junge Generation. Sie müsse die wissenschaftliche Neugier und den Mut entwickeln, die Zukunft aktiv zu gestalten – mit Verstand, Verantwortung und dem Willen, eine bessere Welt zu schaffen.

„Wir stehen an der Schwelle zu einer neuen, mutigen Welt“, sagte er zum Schluss. „Es ist ein aufregender, aber unsicherer Ort – und Sie sind die Pioniere.“

(Quelle: Stephen Hawking, Rede auf der Global Mobile Internet Conference, Peking, 27. April 2017; übersetzt aus: aireligion.org)

<p>The post 2. Stephen Hawking bei seiner Rede in Peking: first appeared on ALGORITHMEN DER MACHT: IM BANN DES DIGITALEN BEWUSSTSEINS.</p>