Menü
Peiner Allgemeine | Ihre Zeitung aus Peine
Anmelden
Panorama Warum wir uns vor künstlicher Intelligenz fürchten
Nachrichten Panorama Warum wir uns vor künstlicher Intelligenz fürchten
Partner im Redaktionsnetzwerk Deutschland
22:39 25.05.2018
Ein Roboter tanzt auf der CEBIT in Hannover zur Discomusik Quelle: imago/Reiner Zensen
Hannover

Bob und Alice hatten eigentlich alles richtig gemacht. Sie sollten lernen, miteinander zu verhandeln. Sie sollten sich darüber unterhalten, wie sie fünf Gegenstände so untereinander aufteilen, dass beide Seiten zufrieden sind. Das taten sie. Bob erklärte: “Ich möchte den Hut haben.“ Alice sagte, sie wolle die Bälle haben, die für sie mehr wert seien. So ging es hin und her. Doch irgendwann veränderten Bob und Alice ihre Sprache. Aus Sätzen wie “I’d like the hat“ („Ich hätte gern den Hut“) wurde plötzlich “balls have zero to me to me to me to me to me to me to me to me to“.

Bob und Alice sind intelligente Sprachroboter, die aus den Fugen geratene Verhandlung ein Experiment aus dem Labor für künstliche Intelligenz bei Facebook. Den kreativen Sprachgebrauch der Maschinen hatten die Forscher nicht vorhergesehen. Statt sich ans gelernte Englisch zu halten, entwickelten sie die Sprache – in gegenseitigem Einvernehmen – weiter, um sie für sie effizienter und präziser zu machen. Die Forscher allerdings konnten die Gedankengänge der Maschinen plötzlich nicht mehr nachvollziehen. Sie schalteten Bob und Alice vorsichtshalber ab. Sie hatten gewissermaßen die Kontrolle über ihre Schöpfungen verloren.

Zwar erklärten die Facebook-Forscher im Nachhinein, es sei nichts Ungewöhnliches, dass mit künstlicher Intelligenz ausgestattete Computer die Sprache verändern. Man habe schlicht vergessen, ein Belohnungssystem einzubauen, mit dem die Computerhirne Punkte bekommen, wenn sie grammatikalisch richtige Sätze benutzen. Dennoch hat das Experiment für viel Aufregung gesorgt. “Künstliche Intelligenz außer Kontrolle?“, fragte etwa bang das “Handelsblatt“. Und die BBC berichtete von der “gruseligen KI-Geschichte aus den Facebook-Laboren“.

Die Furcht vor der Macht der Maschinen

Künstliche Intelligenz, kurz KI, ist für die meisten Menschen keine Verheißung, sondern eine Bedrohung. Das weiß sogar die Maschine selbst: Wer bei Google, jenem KI-Algorithmus, der die Menschen und ihre Befindlichkeiten kennt wie kein anderer, nach den Wörtern “künstliche Intelligenz“ sucht, bekommt als erstes zusätzlich das Wort “aggressiv“ vorgeschlagen.

Woher kommt diese Furcht vor der Macht der Maschinen? Es ist wohl vor allem die Angst vor dem Kontrollverlust. Ob beim automatisierten Fahren oder selbstständig operierenden Robotern in der Klinik: Die Technikdesigner verlangen von den Menschen der Zukunft, ihr Leben in die Hand von Computersystemen zu legen. Weil sie schneller entscheiden, besser reagieren, mehr Informationen verarbeiten oder präziser handeln können.

Einer aktuellen Bertelsmann-Studie zufolge fühlen sich 79 Prozent der Deutschen unwohl bei dem Gedanken, dass Computer Entscheidungen für sie treffen, selbst wenn sie sachlich richtig sind. “In Deutschland herrscht gewissermaßen ein Konsens darüber, dass persönliche Entscheidungen über Menschen, mögen sie auch noch so fehlerhaft und subjektiv sein, automatisierten vorzuziehen sind“, heißt es in der Studie.

Der Kontrollverlust liegt in der Programmierung

Dabei liegt der Kontrollverlust nicht nur in den Entscheidungen der Maschinen, sondern vor allem im Programmiervorgang selbst. Der russisch-amerikanische Science-Fiction-Autor Isaac Asimov formulierte 1942 noch die sogenannten Robotergesetze, nach denen Programmierer die Maschinen für Menschen ungefährlich machen sollten. Das erste Gesetz lautete: “Ein Roboter darf kein menschliches Wesen (wissentlich) verletzen oder durch Untätigkeit (wissentlich) zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.“ Außerdem müsse ein Roboter den Menschen gehorchen und seine eigene Existenz beschützen. In dieser Reihenfolge. Aus den Gesetzen spricht die Angst. Aber eben auch die alte Gewissheit, dass ein Programmcode unveränderlich ist.

Bei selbstlernenden Maschinen ist das anders. Sie werden durch Erfahrungen geprägt, sie lernen, ähnlich wie Kinder. Forscher zeigen ihren Maschinen tausendfach Tische oder Stühle und lassen den Computer raten, was es ist. Mit der Zeit erkennt die Maschine eigenständig Muster und wird besser.

Testfahrer etwa lassen sich in computergesteuerten Autos umherfahren und greifen nur zum Steuer, wenn das Auto eine falsche Entscheidung trifft. Nach einigen Tagen kann die Maschine das Auto auf der Straße halten. Weil es sich gemerkt hat, wann der Fahrer eingreift, und daraus seine Schlüsse zieht.

Die Deutschen und der Algorithmus: eine schwierige Beziehung. Quelle: RND

Das hat enorme Vorteile. Mit künstlicher Intelligenz ausgestattete Systeme können auf Situationen reagieren, die ihr Programmierer gar nicht vorhergesehen hat. Aber das stellt eben auch ganz andere Anforderungen an den Umgang mit Computern. Wer lernen kann, muss auch erzogen werden.

Und wer sagt, dass nicht auch Maschinen auf die falsche Bahn geraten können? Versuche haben gezeigt, dass autonom lernende Systeme ihr Aggressionspotenzial erhöhen, wenn man ihnen einige Tage lang Youtube-Videos vorspielt. Die künstliche Intelligenz birgt Gefahren vielfältiger Art. Für den Datenschutz, die Arbeitswelt, ja, auch die Freiheit. Die Technik ermöglicht aber eben auch unendlich viele Chancen.

Bereits heute vertrauen wir ganz selbstverständlich in vielen Alltagssituationen auf die Entscheidungen der KI. Beispielsweise bei der Suche nach der besten Verkehrsroute auf Google Maps oder bei der Auswahl einer neuen Serie auf Netflix. Beim Suchen mit Google oder eben beim Einkauf im Onlineshop. Computer am Handgelenk treiben ihre Träger zum Sport an, lernende Maschinen machen neuartige, besonders flexible Fabriken möglich. Künstliche Intelligenz erlaubt effizienteres und auch ökologischeres Wirtschaften in der Landwirtschaft und kann bei strategischen Entscheidungen im Management wertvolle Dienste tun.

Echtzeit-Übersetzung in Mandarin

Auch das Potenzial, Hilfestellungen etwa für alte oder behinderte Menschen durch intelligente Roboter zu geben, ist enorm. Es gibt schon heute Armbänder für Parkinson-Kranke, die durch die Krankheit ausgelöstem Zittern der Hand so entgegensteuern, dass die Träger wieder mit einem Stift zeichnen und schreiben können. Es werden Programme entwickelt, die Blinden erzählen, was um sie herum zu sehen ist. Übersetzungsalgorithmen werden bald in Echtzeit von Englisch in Mandarin übersetzen und damit Sprachbarrieren auf nie dagewesene Art überwindbar machen.

Google hat kürzlich demonstriert, wie eine digitale Assistentin eigenständig Frisörtermine vereinbaren kann. In der Diagnostik können Datenbanken helfen, Krankheiten zu erkennen und zu behandeln. Während der Arzt nur seine eigene Erfahrung zur Verfügung hat, können Computer ähnliche Krankheitsverläufe auf der ganzen Welt vergleichen und analysieren.

Künstliche Intelligenz kann Menschenleben retten. Auch durch automatisiertes Autofahren, wenn es denn irgendwann verlässlich funktioniert. Dort wird der Kontrollverlust der Menschen letztlich für mehr Sicherheit im Straßenverkehr sorgen. Maschinen werden nicht müde, sind nie abgelenkt, sie lenken präziser und reagieren schneller. An dieser Tatsache ändern auch einzelne Unfälle nichts, wie sie mit dem Tesla passiert sind.

Im Silicon Valley werden die Spielregeln gemacht

Die alles entscheidende Frage ist: Lassen sich die Chancen nutzen, die die selbstlernenden Systeme bieten, ohne vor den Risiken einer entstehenden Superintelligenz die Augen zu verschließen?

Bisher liegt das KI-Knowhow zu einem Gutteil bei den “Big Five“ der US-Digitalwirtschaft. Facebook, Google, Amazon, Apple und Microsoft investieren seit Jahren Milliarden Dollar in die Zukunftstechnik – und füttern die Algorithmen mit den endlos sich vermehrenden Daten über menschliches Verhalten, die durch die Benutzung ihrer Dienste produziert werden. Deshalb werden im Silicon Valley die Spielregeln gemacht.

Die wichtigste lautet: Alles, was “disruptive“ ist – also alles, was bisherige Technologien und Traditionen durch etwas vollkommen Neues verdrängt und damit ganze Geschäftsfelder auf den Kopf stellt – ist erstrebenswert.

KI-Wettrüsten begrenzen

Das verursacht sogar in der eigenen Branche Unbehagen. Tesla-Gründer Elon Musk warnte kürzlich bei der Digitalkonferenz South by Southwest in Texas die anwesende Tech-Gemeinde vor einer neuen “Superintelligenz“, die eine “sehr ernste Bedrohung“ darstelle, gar “gefährlicher als Atomwaffen“ sei. Der Investor plädierte für etwas, was in seiner Branche ungewöhnlich ist: Er forderte mehr Reglementierung und Aufsicht der KI-Forschung.

Auch wenn die gefährliche “Superintelligenz“ noch nicht wirklich in Sicht ist (wer schon einmal mit dem Apple-Sprachassistenten Siri seine Mutter anrufen wollte, wird das bestätigen): Die Einrichtung eines globalen Rats zur Kontrolle der KI-Forschung – ähnlich dem Atomwaffensperrvertrag – erscheint vielen Experten dringend notwendig. Das könnte das KI-Wettrüsten begrenzen. Und es könnte der Welt der denkenden Maschinen das geben, was viele Menschen dort vermissen: Kontrolle.

Von Dirk Schmaler

Panorama Werden in Zukunft nur noch Maschinen kochen? - Heute kocht der Roboter

Schon jetzt können Maschinen Zutaten selbstständig aus dem Regal angeln und eine Mahlzeit zaubern. Aber schmeckt das dann auch?

25.05.2018
Panorama Julian Nida-Rümelin - Wer kontrolliert die Maschinen?

Wird der Mensch im Zeitalter der Digitalisierung zum Handlanger ohne Gestaltungskraft degradiert? Oder entwickelt er sich zum entspanntesten Erdenbürger aller Zeiten? Jan Sternberg will vom Philosophen Julian Nida-Rümelin wissen: Dürfen wir uns auf die neuen Zeiten freuen, oder müssen wir uns fürchten?

25.05.2018
Panorama Brautkleid von Meghan Markle - Wer ist die Designerin Clare Waight?

Minimalistisch, modern – und unglaublich elegant: Das Brautkleid, das Meghan Markle bei ihrer Hochzeit mit Prinz Harry trug, sorgte für viel Begeisterung – und viel Aufmerksamkeit für Designerin Clare Waight Keller. Ein Porträt.

25.05.2018