Künstliche Intelligenz – zwischen Fortschritt und Selbstvernichtung
Im April 2017 wandte sich Stephen Hawking in einer aufgezeichneten Rede an die Teilnehmerinnen und Teilnehmer der Global Mobile Internet Conference in Peking. Sein Thema: die Zukunft der Künstlichen Intelligenz (KI) – und die Frage, ob sie der Menschheit dienen oder sie eines Tages überflügeln wird.
Hawking begann mit einer Beobachtung, die kaum jemand so eindringlich formulieren konnte wie er: Die KI-Entwicklung schreitet rasant voran – so schnell, dass der Mensch Gefahr läuft, die Kontrolle zu verlieren. Seine zentrale Botschaft lautete: Der Aufstieg mächtiger KI-Systeme könnte das Beste oder das Schlimmste sein, was der Menschheit je widerfahren ist.
Während er die enormen Chancen betonte – etwa die Möglichkeit, Krankheiten und Armut zu beseitigen oder die Umwelt zu schützen –, warnte er zugleich vor massiven Risiken. Wenn Maschinen lernen, eigenständig zu denken, könnten sie eines Tages Entscheidungen treffen, die nicht mehr im Einklang mit menschlichen Zielen stehen.
Besonders deutlich äußerte Hawking seine Sorgen über die wirtschaftlichen Folgen: Intelligente Systeme könnten Millionen Arbeitsplätze ersetzen und ganze Branchen umkrempeln. Menschen, so warnte er, seien biologisch zu langsam, um mit einer sich selbst verbessernden KI Schritt zu halten.
Dieses Video wird im erweiterten Datenschutzmodus von YouTube eingebettet. Beim Starten werden Daten an YouTube übertragen. Datenschutzerklärung.
Ein weiterer Schwerpunkt seiner Rede war der Aufruf zu internationaler Zusammenarbeit. Hawking erinnerte daran, dass er gemeinsam mit Elon Musk und anderen Forschern bereits 2015 den offenen Brief „Research Priorities for Robust and Beneficial Artificial Intelligence“ unterzeichnet hatte – ein Appell für eine verantwortungsvolle, sicherheitsorientierte KI-Forschung. Ziel sei es, zu verhindern, dass Technik außer Kontrolle gerät, und gleichzeitig ihre Vorteile zum Wohl aller zu nutzen.
Er ging zudem auf politische Entwicklungen ein: Das Europäische Parlament habe zu Recht begonnen, über rechtliche Rahmenbedingungen und ethische Leitlinien für KI und Robotik zu diskutieren – einschließlich der Frage, ob hochentwickelte Systeme künftig eine Art „elektronische Persönlichkeit“ erhalten sollten. Hawking begrüßte diese Debatten, warnte aber davor, die Kontrolle aus der Hand zu geben: Jede Maschine müsse einen Not-Aus-Schalter besitzen – ganz real, nicht nur in Science-Fiction-Filmen.
Trotz seiner warnenden Worte blieb Hawking optimistisch. Er erinnerte an das von ihm mitbegründete Leverhulme Centre for the Future of Intelligence in Cambridge – ein Forschungsinstitut, das sich mit den langfristigen Folgen der KI beschäftigt. Wissen, Bildung und ethisches Handeln, so betonte er, seien die Schlüssel, um sicherzustellen, dass Künstliche Intelligenz der Menschheit dient, anstatt sie zu bedrohen.
Am Ende richtete Hawking seinen Blick auf die junge Generation. Sie müsse die wissenschaftliche Neugier und den Mut entwickeln, die Zukunft aktiv zu gestalten – mit Verstand, Verantwortung und dem Willen, eine bessere Welt zu schaffen.
„Wir stehen an der Schwelle zu einer neuen, mutigen Welt“, sagte er zum Schluss. „Es ist ein aufregender, aber unsicherer Ort – und Sie sind die Pioniere.“
(Quelle: Stephen Hawking, Rede auf der Global Mobile Internet Conference, Peking, 27. April 2017; übersetzt aus: aireligion.org)