Asimovs Alptraum: Wie berechtigt ist die Angst vor der Machtübernahme durch Roboter?

Bereits zur Mitte des 20. Jahrhunderts beschäftigte sich Isaac Asimov in seinem literarischen Schaffen intensiv mit Robotergeschichten auf der Erde in der nahen Zukunft. In seiner 1942 publizierten Erzählung Runaround postulierte Asimov erstmals seine berühmten Drei Gesetze der Robotik

1. Ein Roboter darf keinen Menschen verletzen.
2. Ein Roboter muss den Befehlen eines Menschen gehorchen.
3. Ein Roboter muss sich selbst schützen.

Regel 2 und Regel 3 gelten allerdings nur, wenn sie nicht in Konflikt mit dem ersten oder zweiten Gesetz geraten. Asimovs literarisches Erbe lebt nicht nur in diversen Sci-Fi-Romanen und Hollywoodfilmen fort, sondern erscheint aktuell brisanter denn je. Der Grund: Erstmals in der Geschichte scheinen wir angesichts der technischen Möglichkeiten an der Schwelle zu einer Epoche zu stehen, in der wir die Gesetze des Herrn Asimov tatsächlich brauchen könnten.

Gefährlicher als die Atombombe?

FANUC_Robot_Assembly_Demo
Elon Musk glaubt, dass Künstliche Intelligenz sich gefährlicher als die Atombombe erweisen könnte. Bildquelle: wikipedia.org

Noch vor kurzem twitterte der Gründer von PayPal, Elon Musk, dass die Künstliche Intelligenz potenziell gefährlicher als die Atombombe sei. Augenscheinlich hat er sich zu diesem Kommentar hinreißen lassen, nachdem er das Buch Superintelligenz (2013) des britischen Philosophen Nick Bostrom gelesen hatte. Darin wirft der Denker die Frage auf, welche Grenzen es noch geben würde, wenn Maschinen das Niveau menschlicher Intelligenz erreicht hätten?

Derartige Kassandrarufe ertönen jedoch auch von Autoritäten ganz anderer Couleur: Der Physiker Stephen Hawking warnte unlängst davor, dass lernfähige, intelligente Maschinen den Untergang der Menschheit bedeuten könnten. An einem offenen Brief, der Mitte Januar 2015 publiziert wurde, appellierten über 8000 angesehene Forscher, Professoren und Entrepreneure – darunter auch Hawking, Bostrom und Musk -, es mit der KI-Forschung nicht zu bunt zu treiben. „Unsere KI-Systeme müssen uns gehorchen“, poltern die Fachkundigen. Asimovs Zweites Gesetz lässt grüßen.
Doch die Koryphäen aus Forschung und Wirtschaft gehen weit über Asimov hinaus: „Dieses Forschungsfeld muss interdisziplinär angegangen werden, alleine schon deshalb, weil es sowohl die Gesellschaft als auch die KI tangiert. Es reicht von Wirtschaft, Recht, Philosophie über Computersicherheit und formalen Methoden bis hin zu verschiedenen Zweigen der KI selbst.“

Derartige Selbstkasteiungen aus den Elfenbeintürmen hochrangiger Forscher gibt es nicht oft. Die Warnrufe, die von Hawking, Bostrom und Musk ausgestoßen wurden, basieren auf den jüngsten Innovationen wissensbasierter KI-Systeme wie Cyc und Watson, sowie von KI-Robotern wie ASIMO und Atlas. Bei Cyc handelt es sich um die größte maschinenauswertbare Wissensdatenbank des gesamten Alltagswissens der Menschheit. Seit 1984 wird Cyc laufend dahingehend verbessert, logische Schlussfolgerungen mit einem gesunden Menschenverstand zu tätigen. ASIMO ist ein von Honda entwickelter humanoider Roboter, dessen Bewegungsabläufe den menschlichen Gang imitieren. Sein entfernter Cousin Atlas ist ein eigens für Katastrophen konzipierter Arbeitsroboter. Er soll bei Unfällen dort eingesetzt werden, wo Menschen nicht überleben können.

Noch dominiert der Mensch – nur wie lange noch ist die Frage? Werden sich Algorithmen der Zukunft selbstständig machen? Bildquelle: skeeze / Pixabay.com / CC

Mensch vs. Maschine: Ein ungleicher Wettkampf?

Der Roboter Watson wurde von IBM dafür entwickelt, gezielte Antworten auf komplexe Fragen zu entwickeln. Und tatsächlich: Der IBM-Roboter Watson und seine Brüder zwingen uns dadurch zu ganz neuen Fragen: Stehen die Super-Computer an der Schwelle, den Menschen selbst bei hochkomplexen und kreativen Arbeiten zu ersetzen?
Weil sie es einfach besser können? Weil sie schneller und besser lernen? Weil Sie letztendlich intelligenter werden? Weil sie am Ende sogar ein Bewusstsein entwickeln?

Auf das größte bisherige Medienecho stieß der IBM-Schützling vor 5 Jahren, als er in dem beliebten, amerikanischem Fernsehquiz Jeopardy all seine Herausforderer schlug. Zwischen dem 14. bis 16. Februar 2011 deklassierte die KI von Watson alle menschlichen Rekordhalter. Er erzielte im Grunde denselben Erfolg, wie einer seiner Verwandten Deep Blue, der 1996 den amtierenden Schachweltmeister Garri Kasparow rigoros an die Wand fuhr. Heute gelten Computer beim Schachspiel als unschlagbar. Das Fragependel, ob Menschen gegen Roboter und Algorithmen überhaupt noch bestehen, scheint immer mehr zu Gunsten der KI auszuschlagen.

Selbst der amtierender Weltmeister im Go, dem asiatischen Brettspiel, wurde jüngst von einer Software namens AlphaGo geschlagen. Wer das Umzingelungsspiel Go einmal selbst gespielt hat, der weiß: Der Sieg hängt nicht nur wie beim Schach ausschließlich von der besseren Analyse. Ebenso wichtig ist die Intuition des Spielers. Der Sieg von AlphaGo stellt daher einen bedeutenden Meilenstein in der Weiterentwicklung der KI-Technik dar.

Go_board
Das japanische Brettspiel “Go” basiert weitestgehend auf Intuition. Eine Eigenschaft, welche bislang allein dem Menschen vorbehalten war. Bildquelle: wikipedia.org

Lernfähige, kreative Maschinen?

AlphaGo ist eine lernfähige Maschine, ein sich fortlaufend selbst analysierender Spieler, der immerfort dazu lernt. AlphaGo arbeitet mit neuronalen Netzen. Das ist ein komplexes System, das sich aus Funktionsweisen speist, wie man sie auch in unseren Gehirnen vorfindet. Die Technik erkennt eigenständig Muster selbst in den größten Datenmengen. In diesem Fall kluge Spielstrategien. Das Suchen und Finden geschieht beinah intuitiv, auf jeden Fall spontan. Zugegeben, das klingt ein bisschen nach Science-Fiction: Ein Computer, der dazu lernt? Einer, der kreatives Spielen lernt und sich selbstständig weiterentwickelt?

Kreativität? Was ist das eigentlich? Nach Schiller ist der Mensch, „nur da ganz Mensch, wo er spielt“. Der renommierte Kulturhistoriker Johan Huizinga (1872-1945) stieß in dasselbe Horn, als er seine These aufstellte, dass der Mensch seine einzigartigen Fähigkeiten maßgeblich beim Spielen ausgeprägt habe. Muße als Schlüssel zur Innovation?
Huizinga prägte den Begriff des Homo ludens, des spielenden Menschen. Gibt es neuerdings auch den Robo ludens, der womöglich besser spielt?

Die KI-Systeme wie AlphaGo, Cyc und Watson sowie die von KI-Robotern (z.B. ASIMO oder Atlas) sind jedenfalls nur einige ausgewählte Beispiele für intelligente Rechner, die mittlerweile in aller Welt zu finden sind. All diese Systeme sind sehr vielseitig einsetztbar, je nachdem auf welches Spezialgebiet sie getrimmt werden. Der Supercomputer Watson bzw. seine Brüder werden für alle möglichen Spezialgebiete programmiert und trainiert. Stellt sich also die Frage: Leiten diese kognitiven Systeme den Beginn eines neuen Zeitalters, einer sog. Computing-Ära ein?

Die Computing-Ära hat bereits begonnen

Der systemische Aufbau von Watson liefert plausible Gründe, die zu einer berechtigten Annahme führen.
Erstens: Der Supercomputer kann ohne große Mühen die Komplexitäten unstrukturierter Datenmengen durchdringen, was ungefähr 90 Prozent der heute weltweit verfügbaren Daten entspricht.
Zweitens: Durch die Anwendung fortgeschrittener Analysemethoden kann Watson nicht nur Hypothesen aufstellen, sondern sie auch auf ihren Aussagegehalt hin überprüfen und Urteile fällen.
Drittens: Der IBM-Roboter kann auf Basis seiner gelieferten Ergebnisse ständig dazulernen. Für letzteres benötigt doch selbst dieser Supercomputer immer noch das Feedback eines Menschen, doch immerhin!

IBM_Watson_Schema.svg (1)
Die Komplexität der Funktionsweise von IBM Watson. Man stelle sich den zeitlichen Aufwand vor, den ein Mensch aufbringen müsste, um vergleichbare kognitive Prozesse zu durchlaufen. Bildquelle: wikimedia.org

Weltweit arbeiten Forscher an einer technischen Kopie des Menschen: Roboter sollen nicht nur gezielt mit Informationen gefüttert werden, sondern selbstständig ihre Umwelt erfassen und alle relevanten Daten sinnvoll verarbeiten: Im Grunde sollen sie lernfähig werden.
Das beginnt schon bei ihrer eigentümlichen Körperlichkeit. Laufende Roboter werden sooft umgestoßen, bis sie Stöße, Stolperstellen und Unregelmäßigkeiten des Bodens bewusst abfangen und ihre Umwelt deuten können. Für einen Roboter stellen alltägliche Dinge wie Greifen und Gehen große Hürden da.

Und doch sind Serviceroboter, die in Altenheimen eingesetzt werden, längst keine gedankliche Spielerei mehr. Wer das japanische Altenheim Fuyo-En besucht, kann sich selbst davon überzeugen, wie intelligente Roboter sprechen und singen, um ihren Senioren den Alltag zu versüßen – wenn gewünscht, verteilen sie sogar Streicheleinheiten. Die Frauenhofer (IPA) entwickelt schon heute Serviceroboter-Technologien, die die Pflegekräfte bei ihrer Arbeit entlasten. Die Idee, die dahinter steckt: Robotor könnten in Zukunft Essen und Trinken verteilen, damit den Pflegekräften mehr Zeit für eigentliche Pflegetätigkeiten zur Verfügung stünde.

Doch Roboter sind nicht nur Service-Lakaien. Die Fähigkeiten von Hochleistungsmaschinen wie Watson und co. gehen weit darüber hinaus: Im Memorial Sloan Kettering Cancer Center, einer weltweit führenden Krebsklinik in New York, arbeiten Ärzte mit einem Supercomputer zusammen. Ein auf Krebs spezialisierter Watson unterstützt die Onkologen dabei, die wirksamste Therapie für Patienten zu finden. Die Rechnung ist einfach: Watson kann alle Papers und Veröffentlichungen in einem Fachgebiet ohne große Mühe durchforsten. Ein einzelner Experte kann dies angesichts der Publikationswut unserer Tage einfach nicht mehr stemmen. Auch die berühmteste Koryphäe kann niemals alle Veröffentlichungen innerhalb seines Fachbereichs kennen und schon gar nicht die Quintessenzen in Echtzeit herausfiltern. Für Watson kein Problem. Dafür wurde er programmiert, darauf ist er spezialisiert.

Wer fällt in Zukunft relevante Entscheidungen? Sind die Supercomputer einfach überlegen?

In Australien nutzt die Bankengruppe ANZ ihren eigenen Watson, um die möglichst beste Anlage- und Rentenberatung zu erzielen. Die Asymmetrie von dem, was einzelne Menschen wissen können und dem der Menschheit zugänglichem Wissen, wird auch jenseits des großen Teichs von Watsons Fähigkeiten ad absurdum geführt. Selbst in den juristischen Bereich hat der IBM-Schützling seine ersten Fühler ausgestreckt. In den USA lassen sich Richter von ihm beraten, denn nur Watson kann alle vergleichbaren, relevanten Fälle gelesen haben.

Es ist jedoch keineswegs so, dass der Supercomputer Entscheidungen fällt. Das Gegenteil ist der Fall: Richter, Ärzte oder Finanzdienstleister ziehen lediglich seine Analysen und Urteile zu Rate. Nur weil Watson eine Therapieform vorschlägt, heißt das noch lange nicht, dass der behandelnde Arzt sich danach richtet. Auch der zuständige Richter wird den Vorschlag mit Argusaugen begegnen und nachprüfen. Mit dem Erfahrungsschatz eines abbprobierten Arztes und amtierendes Richters kann selbst Watson (noch) nicht mithalten. Dennoch: der unterstützende Mehrwert, den ein Watson generiert, ist nicht einfach wegzudiskutieren.

Die intelligente Software von Watson weiß genau so viel, wie in den Texten steht, mit denen man sie füttert. Sein KI-Denkorgan analysiert sämtliche unstrukturierte Dokumente, E-Mails, Lexikonartikeln, Essays, Rezepte, Chat-Dialoge, Fachartikel, Fachbücher – im Grunde alles, was man ihm zum Lesen vorsetzt.

Er erkennt ganze Satzglieder und fahndet nach statistischen Zusammenhängen. Wenn man so will, dann konstruiert die Maschine ein eigenes Weltbild – zusammengestellt aus Ontologien.
Der Jeopardy-Watson kristallisierte seine Fähigkeit, auf die Fragen zu antworten, aus ca. 200 Millionen Seiten Text, bestehend aus Lexika-, Wikipedia- und Sachbuch-Einträgen. Fragen vergangener Shows durften natürlich auch nicht fehlen. Sein Bruder in der New Yorker Krebsklinik studierte zwei Millionen Textseiten aus Dutzenden Fachzeitschriften und klinischen Studien rund um die Themen Brust- und Lungenkrebs.

Doch die Textanalyse stellt gar nicht die verblüffendste Eigenschaft dieser KI dar. Wie gesagt, Watson kann durch menschliches Feedback lernen: Frage-Antwort-Paare stellen Watsons Hantelbank dar, daran trainiert er sein generisches Wissen. Er bekommt Fragen zur Übung vorgesetzt. Er entscheidet aufgrund der von ihm erzeugten Hypothesen und kalkulierten Wahrscheinlichkeiten. Danach können zum Beispiel die Ärzte anklicken, ob seine Diagnose richtig war. Die Onkologen des Memorial Sloan Kettering Cancer Center, trainierten den ungewöhnlichen Assistenzarzt mehrere Monate. Nach Abschluss seines Trainings erzielte der KI-Spezialist in 90 Prozent aller Fälle die richtige Antwort. Die Fragen kreisten um komplexe medizinische Entscheidungen: Laboruntersuchungen, operative Eingriffe, chemotherapeutische Maßnahmen, Dosierungen von Medikamenten, etc. – in all diesen Bereichen gab Watson sachlich fundierte Empfehlungen ab.

Robot_vs
Den Status einer mechanischen Puppe haben die Roboter der neuesten Generation längst verlassen, die Emotionalität und Intelligenz eines R2D2 bislang aber noch nicht erreicht. Bildquelle: kaboompics.com / Pixabay – stux

Roboter-Kinder der neuesten Generation: Mechanische Puppen oder lernfähige Wesen?

Was sind denn die Roboter der neuen Generation? Mechanische Puppen? Intelligente, lernfähige Wesen? Eine reflektorische Metaebene (Was bin ich?) wäre ja das erste Indiz für ein menschliches Bewusstsein. Davon sind Watson und seine Kollegen noch sehr weit entfernt. Doch das, was sich jüngst auf einer Berliner Kunstbühne zutrug, gibt immerhin Grund zu der Annahme, dass die vorhanden geglaubten Grenzen immer mehr verwischen.

Das KI-Kind eines Berliner Professors – Myon – sollte selbst erlernen und begreifen, was Emotionen sind. Durch Proben an der komische Oper in Berlin. Ein Dirigent sollte ihm beibringen, was Musik ist, wie sie ihre Wirkung entfaltet und wie das Dirigieren an sich funktioniert. So wurde Myon erklärt, dass manche Arien die Menschen zum Weinen bringen. Alle beteiligten Künstler und Darsteller sollten während den Proben zu My Fair Lady immer wieder mit Myon sprechen und ihm erklären, was sie tun, ihn auffordern mitzumachen, ihm ihre Gefühle mitteilen und überhaupt so tun, als gehörte er fest zum Ensemble.

MyonRobot
Das Roboter-Kind Myon lernte gehen, sprechen und sogar singen von der Pike auf. Bildquelle: wikipedia.org

Natürlich war allen Beteiligten klar, dass Myon ein unbeschriebenes Blatt ist und von alldem überhaupt keine Ahnung hat. Dennoch sollte er bei der Uraufführung seinen großen Auftritt bekommen, eine Rolle, die er sich selbst ausgesucht und beigebracht hat: Myon der Roboter sollte in der Oper mitspielen. Bis zum Tag der Aufführung sollte Myon lernen, zu gehen und zu sprechen – im besten Fall auch zu singen. Er sollte das Stadium eines Teil-Spezialisten endlich verlassen!

Sein Entwickler Manfred Hild ist gerade dabei, mit Myon einen Roboter zu erschaffen, der wie ein Mensch funktioniert. Das Kameraobjektiv und die vielen Sensoren sind seine Augen, Ohren und Finger, mit denen er die Welt erfährt. Riechen muss er nicht. Er speichert alle Eidrücke auf einer SD Karte, die in seinem Hinterkopf steckt. Kann er sie auch verarbeiten?
Lange Zeit tat sich nicht viel auf der Probebühne. Myon schaute sich um und studierte seine Umgebung. Einzelne Mitglieder des Ensemble setzten sich ab und an zu Myon und führten persönliche Gespräche mit ihm. Über die Arbeit. Über das Privatleben.

Ähnlich wie bei Watson fußt die Technik von Myon auf neuronalen Netzen und Lernalgorithmen. Solche Algorithmen schreiben von den Programmierern festgelegte Regeln vor, nach welchen Kriterien Wissen zu erwerben ist. Im einfachsten Fall definieren Maßgaben, was als unwichtig und was als wichtig eingeschätzt werden soll. Maßgebend ist: Die KI Myon entscheidet selbst, wohin sie schaut und somit auch was sie lernt.

Schlussendlich hat diese KI gelernt zu hören und zu sehen. Auch das Laufen klappte mehr schlecht als recht. Der Roboter Myon verblüffte nicht nur seinen Schöpfer: Während die Sopranistin und der Tenor ihre Akkorde trällerten, stand Myon auf der Bühne und schwang mit den Hüften. Plötzlich ertönte auch seine Stimme: Sie klang blechern und lärmend. Myon sang zwar schief, aber immerhin: Er sang aus eigenem Antrieb. Für die Dissonanz kann er nichts, daran ist seine bescheidene Soundkarte schuld!
Gegenüber der ZEIT sagte Hild: „Intelligenz ist die Fähigkeit, angemessen zu handeln. Geschafft haben wir das bei Myon, wenn er bei anderen Intentionen erkennen und selbstständig reagieren kann.“

Wann kommt denn nun die Apokalypse?

Intuition, Selbstständigkeit, Lernfähigkeit – das scheinen die wesentlichen Begriffe sein, mit denen die KI-Technik im Verdacht steht, ein neues, vielleicht düsteres Zeitalter einzuleiten. Es wird aber wohl noch etwas dauern, ehe Watson und seine Brüder die (Welt-)Herrschaft an sich reißen. Dennoch: Die kometenhaften Entwicklungen der Robotik und IT werden auch in Zukunft Jobs dezimieren. Nicht nur jene von Ungelernten, Industriearbeitern und Servicekräften, sondern Watson und seine Brüder zeigen ganz klar: Auch die Arbeit von Journalisten, Ärzten und Managern wird in absehbarer Zeit womöglich nicht ohne Supercomputer erledigt werden können. In Zukunft mag es nur einen Redakteur brauchen, der die Artikel seiner Robolisten redigiert. Krankenhäuser werden zunehmend auf ihre Roborurgen setzen. Und warum sollten die Big Players der Finanzindustrie bei wichtigen Richtungsentscheidungen auf einen Manager hören, wenn ihr Roboger den globalen Markt und alle finanziellen Bewegungen in Echtzeit ins Auge fasst? Das, was Watson und co. vollführen, übersteigt nun mal den menschlichen Horizont, oder anders gesagt: die Rechenleistung des menschlichen Gehirns.

Der amerikanische Ökonom Warren Bennis, einer der führenden Autoritäten im Bereich Organisationsentwicklung, orakelte bereits vor einem Vierteljahrhundert: „Die Fabrik der Zukunft wird nur zwei Mitarbeiter haben – einen Mann und einen Hund. Der Mann füttert den Hund, und der passt auf, dass der Mann die Maschinen nicht anfasst.“ Heute würde Bennis wohl eher von Robotern anstatt von Maschinen sprechen!

Allen Warnrufen zum Trotz: Man darf nicht vergessen, dass die von Hawking, Bostrom und Musk aufgestellten Hypothesen auch auf heftigen Gegenwind stoßen. Der Informatikprofessor Andrew Ng aus Stanford, der selbst federführend die KI-Technik erforscht, hält wenig von apokalyptischen Szenarien, in der die Roboter den Menschen überlegen werden. Sinn für Humor hat er zumindest. Andrew Ng zufolge sei die Angst vor einer bösen KI genauso unbegründet wie die Angst, dass der Mars von Menschen überbevölkert werden würde. Die jährlich vergebene Schmähtrophäe des Washingtoner Technologie-Thinktank Itif ging dieses Jahr an „Alarmisten, die eine KI-Apokalypse ankündigen.“ Ironischerweise ist der Luddite Award nach den Maschinenstürmen des 19. Jahrhunderts benannt. Wir wollen hoffen, dass die Jury recht behalten wird.