ROBOTIC NATIVES

Leben mit Robotern im 21. Jahrnundert


Rafael Capurro



  
Vortrag im Deutschen Museum, München am 19. Oktober 2016 mitorganisiert von The Club of Rome. European Research Centre. Erscheint in: Rafael Capurro: Homo Digitalis. Beiträge zur Ontologie, Anthropologie und Ethik der digitalen Technik. Heidelberg: Springer (i.Dr.).







Einleitung

Wozu Roboter? In einem Übersichtsartikel in der Süddeutschen Zeitung mit dem Titel "Der kann das schon allein" berichtet Max Hägler über Pflegeroboter, die die Alten und Kranken in Japan heben, tragen und waschen oder über solche, die sich um Rezeption und Zimmerservice im "Hotel Seltsam" in der Nähe von Nagasaki kümmern. Unschlagbar seien sie bei den "Manieren", sagt der Hoteldirektor. Reinigungsroboter werden als Ersatz für Putzkolonnen eingesetzt. Roboter erledigen mehr und mehr die Jobs von Facharbeitern. Der Agrarroboter Bonirob, zum Beispiel, kann erkennen "welche Pflanze zwischen seinen Rädern wächst", er gibt "jeder Pflanze auf dem Feld eine Adresse" "und erkennt wie es ihr geht, ob es eine vielversprechende Pflanze ist, die sich zur Züchtung eignet." Bonirob kostet rund 250 000 Euro. Sein Erfinder, der Bosch-Forscher Amos Albert, betont, dass wenn die Roboter "heranwachsen", "das Leben der Menschen (sich) noch weiter vereinfachen" lässt. "Man habe doch mit der Spülmaschine und dem Navi im Auto bereits lästige Aufgaben an die Technik abgegeben." Am Schluss werden kritische Fragen gestellt wie, zum Beispiel, nach dem Verlust von Arbeitsplätzen. "Harmlos ist dieser Umbruch nicht", betont auch Enzo Weber, Volkswirt an der Universität Regensburg und weist auf die Bedeutung der Zusammenarbeit zwischen Mensch und Roboter hin, indem Technik "niedrig qualifizierten Menschen künftig assistieren" kann (Süddeutsche Zeitung 2016, Nr. 122). Die Frankfurter Allgemeine WOCHE setzte sich mit dem Thema "Digitalisierung. Nehmen uns Maschinen die Arbeit weg?" auseinander (Finsterbusch und Pennekamp 2016). Die Autoren, Finsterbusch und Pennekamp, zitieren eine Studie, die von Ulrich Zierahn, Wirtschaftsforscher am Mannheimer Zentrum für Europäische Wirtschaftsforschung (ZEW) im Auftrag der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) durchgeführt wurde. Demnach, könnte "fast jede zehnte berufliche Tätigkeit in der Welt automatisiert werden. In Deutschland sei das Potential sogar noch etwas größer." (a.a.O. S. 15; Dengler 2016) Andere Prognosen, wie die der Oxford-Ökonomen Carl Benedikt Frey und Michael Osborne gehen sogar davon aus, dass intelligente Maschinen fast die Hälfte aller Jobs besetzen werden (a.a.O.). Die OECD fordert mehr Investitionen in die berufliche Weiterbildung. Die Journalisten Finsterbusch und Pennekamp fragen sich: "Was kommt, falls die Arbeit verschwindet? Die große Leere oder die große Freiheit? Und wovon sollen wir leben, wenn die Arbeit uns nicht mehr ernährt?" Das bedingungslose Grundeinkommen – abgelehnt in einer Volksabstimmung in der Schweiz – oder Arbeit für alle? Manche Kritiker des bedingungslosen Grundeinkommens, wie der Publizist und Silicon-Valley-Kritiker Evgeny Morozov, meinen, dass der technische Fortschritt zu einer neuen Maschinenstürmerei führen könnte, was den Start-up-Unternehmen und -Investoren schaden würde (Krüger 2016). KUKA-Chef Till Reuter äußerte sich anlässlich der China-Offerte seitens der Midea Gruppe folgendermaßen:

"Wir haben früher vor allem erfolgreich Roboter für die Autoindustrie gebaut, im Jahr 2009 kamen 80 Prozent der Erlöse aus diesem Bereich. Heute haben wir 50 Prozent in der Autoindustrie und 50 Prozent bei allgemeinen Industrieanwendungen. Das wird sich weiter verschieben. Die Roboter werden kleiner und leichter, können mit dem Menschen zusammenarbeiten. Das bietet Potenzial für weiteres Wachstum in neuen Branchen. Zudem werden die Maschinen immer intelligenter und kommunizieren miteinander, der Anteil der Software steigt im Vergleich zur Hardware.
Was wird der nächste Schritt sein?
Wir sollen mit Midea auch Roboter für zu Hause bauen. Als Haushaltsgerätehersteller kennen die Chinesen das Konsumentengeschäft sehr gut.
Wann wird der erste Roboter für zu Hause auf den Markt kommen?
Das dauert noch circa drei bis fünf Jahre.
Was soll der können?
Was hätten Sie den gerne?
Waschen, Staubwischen, Staubsaugen...
Und wie soll er heißen?
Uschi - so wie die Frauenstimme aus der Navigations-App. Wie lange wird es dauern, bis ein Roboter alle lästigen Hausarbeiten erledigt?
Der erste PC war auch nur eine bessere Schreibmaschine. Der erste Roboter für zu Hause wird auch nur ein mobiler PC mit einem Arm, der Tätigkeiten übernehmen kann. So muss man denken." (Reuter 2016)

Muss man so denken? Hannah Arendt hat in ihrem Buch "Vita activa" die existentielle Problematik des Lebens in einer Arbeits- und Konsumgesellschaft so gedeutet:

"Je leichter das Leben in einer Arbeits- und Konsumentengesellschaft wird, desto schwerer ist es, den Druck und Zwang des Notwendigen, die das gesellschaftliche Leben treiben und antreiben, auch nur wahrzunehmen, weil die äußeren Kennzeichen der Notwendigkeit, die Mühe und die Plage, fast verschwunden sind. Die Gefahr einer solchen Gesellschaft ist, daß sie, geblendet von dem Überfluß ihrer wachsenden Fruchtbarkeit und gefangen in dem reibungslosen Funktionieren eines endlosen Prozesses, vergißt, was Vergeblichkeit ist – nämlich die Flüchtigkeit des Lebens, das, wie Adam Smith meinte, "keine feste Form mehr annehmen oder in keinem bleibenden Gegenstand mehr sich verdinglichen kann, der die Mühe der Arbeit überdauert." (Arendt 1983, 123).

Was "die Mühe der Arbeit überdauert" ist das Produkt derjenigen Tätigkeit, die Arendt, "das Herstellen" nennt. Die Beständigkeit des Hergestellten, auch die der heutigen flüchtigen digitalen Produkte, ist für Arendt nicht "das Maß für die Welt" (Arendt 1983, 163), sondern dieses Maß ist im Bereich des zwischenmenschlichen Handelns und Sprechens zu suchen, also dort, wo wir über Mittel und Ziele, Normen und Werte nachdenken.

Der Begriff des Roboters, so wie wir ihn heute, im digitalen Zeitalter, gebrauchen, umfasst alle Arten von für bestimmte Zwecke programmierten smarten Dingen, die, nach den Absichten ihrer Hersteller, das Leben erleichtern sollen. Das Besondere an heutigen Robotern im Vergleich zu herkömmlichen Maschinen besteht unter anderem darin, dass sie uns nicht nur das Leben bei physischer Anstrengung erleichtern, sondern dass sie dies auch im Bereich zwischenmenschlicher Kommunikation tun. Der Computer als Rechenmaschine hat sich seit der Erfindung des Internets in ein globales Kommunikationsmedium und Interaktionsmedium verwandelt. An diesem Medium nehmen nicht nur Menschen, sondern digital vernetzte Maschinen und Dinge des Alltags teil. So gesehen, haben wir es mit einer Inflation des Begriffs des Roboters zu tun, da potentiell jedes Ding sich in dem Augenblick in einen Roboter verwandelt, in dem es sich teilweise der Kontrolle durch den Menschen entzieht, und, wie man sagt, sich autonom aber zugleich im Kontext der digitalen Globalisierung bewegt und etwas bewirkt. Solche Wirkfähigkeit findet auf der Basis eines digitalen Algorithmus statt und unterscheidet sich von der Offenheit menschlichen Handelns. Begriffe wie Handeln, Autonomie, Person, Ziele, Werte, Entscheidung oder Verantwortung werden aus dem menschlichen Bereich oft metaphorisch auf Roboter angewandt (Janich 2006). Roboter im Sinne von durch Algorithmen geleiteten Maschinen handeln also im strengen Sinne des Wortes nicht, sondern, sie bewegen sich und bewirken etwas nach einer Regel und im Hinblick auf ihnen vorgegebene Ziele ohne davon zu wissen, ohne zu wissen, dass sie sie befolgen und ohne in der Lage zu sein, sich selbst Ziele zu setzen. Sie ermangeln eines Selbst und sind deshalb weder rechtlich noch moralisch verantwortlich. Wenn wir uns über ethische und rechtliche Fragen in Bezug auf den Umgang mit Robotern im 21. Jahrhundert Gedanken machen, sollten wir insbesondere auf jene Falle achten, die uns auf Schritt und Tritt ein anthropomorphes Vokabular nahe legt. Dies können wir aber nur tun, wenn wir uns im Klaren sind, wer wir sind, d.h. welche Wende in unserer Selbstdeutung aufgrund der Digitalisierung stattgefunden hat, worauf im Ausblick hingewiesen werden soll.

Mit den beiden Begriffen, Automaten und Roboter, deuten wir an, dass der heutige Roboterbegriff im Sinne von durch digitale Algorithmen geleitete Maschinen auf andere künstliche Bewegungsursachen ausgeweitet werden kann und auch wurde. Gleichwohl liegt den beiden Begriffen etwas gemeinsam zugrunde, nämlich dass es sich um von Menschen hergestellte Artefakte und nicht um Lebewesen handelt. Automaten, Roboter, Menschen, Lebewesen ... man ahnt, welche grundlegenden Fragen bei dem Versuch einer Grenzziehung zwischen der Skylla eines metaphysischen Wesensdenkens, das den Menschen oft an die Spitze einer Hierarchie stellt und der Charybdis eines heute herrschenden Naturalismus und Technizismus, die alle Unterschiede im Horizont des Digitalen einebnet, entstehen.

Dabei muss man klar erkennen, dass der Wille zur Grenzüberschreitung dem Menschen eigen ist. Dadurch lassen sich unterschiedliche Gegenstände, wie Roboter, heilige Bilder, Skulpturen oder Wachsfiguren in Zusammenhang mit der Frage nach dem Verhältnis des Menschen zum Nichtmenschlichen in Berührung bringen. Der französische Anthropologe Denis Vidal hat deshalb vorgeschlagen, den Begriff des Anthropomorphismus nicht nur im Sinne einer unzulässigen Grenzüberschreitung, als eine Falle also, aufzufassen, sondern ihn bewusst im Umgang mit Robotern einzusetzen, insbesondere wenn diese, wie bei humanoiden Robotern, uns äußerlich ähnlich sind (Capurro 2017). Mit diesem "pacte anthropomorphique", so Vidal, stehen wir nicht nur in kulturell sehr komplexen Traditionen grenzüberschreitenden Umgangs mit Artefakten und Lebewesen, sondern wir setzen uns gegen die Vorstellung zur Wehr, wir könnten von den Herstellern solcher Artefakte manipuliert werden, da die Unterschiede im Unbewussten nicht klar wären, während sie uns in Wahrheit im bewussten Leben klar sind (Vidal 2016, 284). Das bedeutet wiederum nicht, dass es heute aufgrund der digitalen Weltvernetzung keine subtilen Formen der Manipulation gäbe bei denen die vernetzten smarten Artefakte ein Medium werden können, hinter dem sich dann nicht das menschliche Unbewusste, sondern das Profitstreben der global players und/oder der politische Wille zur Unterwerfung verbirgt. Wir fangen mit einem kurzen Ausflug in die Automaten- und Robotergeschichte an und behandeln anschließend ethische Fragen beim Umgang mit Robotern.


Kurzer Ausflug in die Automaten- und Robotergeschichte


Im ersten Buch der "Politik" schreibt Aristoteles, dass es unterschiedliche Arten von Werkzeugen (organa) gibt, nämlich beseelte und unbeseelte, wie etwa der Steuergehilfe und das Steuer. In der Hausverwaltung (oikia) ist der Sklave (doulos) ein beseelter Besitz und jeder Diener (hyperetes) ein Werkzeug "der viele andere Werkzeuge vertritt". Und er fügt Folgendes hinzu:

"Wenn nämlich jedes einzelne Werkzeug auf einen Befehl hin, oder einen solchen schon voraus ahnend, seine Aufgabe erfüllen könnte, wie man das von den Standbildern des Daidalos oder den Dreifüßen des Hephaistos erzählt, von denen der Dichter sagt, sie seien von selbst zur Versammlung der Götter erschienen, wenn also das Weberschiffchen so webte und das Plektron die Kithara schlüge, dann bedürften weder die Baumeister der Gehilfen, noch die Herren der Sklaven." (Aristoteles 1978, 1253 b 35-39, S. 51)

Mit dem "Dichter" ist Homer gemeint. Im 18. Gesang der Ilias trauern Achill und sein Volkstamm um den Tod des Patroklos. Achills Mutter, die Meeresnymphe Thetis sucht Hephaistos auf, um ihn zu bitten, für ihren Sohn neue Waffen zu schmieden. Sie findet den Gott bei der Arbeit:

Zu dem Haus des Hephaistos aber kam die silberfüßige Thetis,
Dem unvergänglichen, bestirnten, hervorstrahlend unter den Unsterblichen,
Dem ehernen, das er selbst gemacht hatte, der Krummfüßige.
Und sie fand ihn, wie er sich schwitzend um die Blasebälge herumbewegte,
Geschäftig, dem Dreifüße, zwanzig im ganzen, fertigte er,
Rings an der Wand zu stehen der guterstellten Halle.
Und goldene Räder setzte er einem jeden von ihnen unter dem Fuß,
Daß sie ihm von selbst (oi automatoi) zum Versammlungsplatz der Götter liefen
Und wieder ins Haus zurückkehrten, ein Wunder zu schauen.
Ja, die waren soweit vollendet, nur die Ohren waren noch nicht
Angesetzt, die kunstreichen, die fügte er eben an und schlug die Bänder.
(Homer 1979, Ilias 18, 369-379)

Ich komme auf Aristoteles am Schluss dieses Beitrags noch einmal zurück.

In seinem Buch "Antike Technik", erschienen 1919 in Berlin, schreibt der Altphilologe Hermann Diels (1848-1922) über die Automaten des Heron von Alexandrien (ca. 62 n.Chr.), dass diese vor allem "theatralische oder populär-religiöse Vorführungen" zum Zweck hatten (Diels 1965, 62). Diels hebt neben den Theaterautomaten den "Hodometer" (Wegmesser) und die "Weihwasserautomaten" hervor, die, so Diels, als "Vorbild unserer Schokolade- und Billetautomaten" geworden sind (Diels, a.a.O.  68). Ungefähr dreihundert Jahre früher, hatte Philon von Byzanz (3. Jh. v.Chr.) bereits Automaten gebaut und grundlegende Werke darüber geschrieben. Die Ingenieure der Antike hatten aber vielfältige praktische Anwendungen im Blick, nicht nur bei Tempelanlagen und Theatervorführungen, sondern auch bei der Entwicklung von Uhren und Waffen. Das Karlsruhe Zentrum für Kunst und Medien (ZKM) zeigt in einer von Siegfried Zielinski kuratierten Ausstellung "Rekonstruktionen und Simulationen legendärer Artefakte: unter anderem das Meisterstück der audiovisuellen Automaten al-Jazarīs, die sog. Elefantenuhr – ein spektakuläres Objekt zum Hören und Schauen von Zeit; und den programmierbaren Musikautomaten der Banū Mūsā als Animation und mechatronisches Funktionsmodell." (Globale 2016). Der Einführungstext zu dieser Ausstellung lautet:

"Die erste Renaissance fand nicht in Europa, sondern in Mesopotamien statt: Die arabisch-islamische Kultur wirkte – medienarchäologisch betrachtet – als Vermittlerin zwischen der Antike und der Frühen Neuzeit in Europa. Als Teil der Ausstellung »Exo-Evolution« erkundet »Allahs Automaten« anhand herausragender Beispiele die reiche und faszinierende Welt der Automaten, die im»l’age d’or« der arabisch-islamischen Kulturen zwischen dem frühen 9. und dem 13. Jahrhundert entwickelt und gebaut wurden.

Die Maschinen zur Lobpreisung Gottes des Allmächtigen stehen vor allem in griechisch-alexandrinischer und byzantinischer Tradition. Sie haben spektakuläre Neuerungen hervorgebracht, die in Europa erst in der Moderne aufkamen: permanente Energiezufuhr, Universalismus und Programmierbarkeit. Zum ersten Mal werden vier der Meistermanuskripte des Automatenbaus aus Bagdad, dem nördlichen Mesopotamien und Andalusien zusammen ausgestellt: das »al-Jāmicbayn al-cilm wa-’l-camal an-nāfic fī ṣinācat al-ḥiyal« (Kompendium zur Theorie und Praxis der mechanischen Künste) von Ibn al-Razzāz al-Jazarī von 1206 n. Chr, das »Kitāb al-asrār fī natāʾij al-afkār« (Buch der Geheimnisse als Resultat von Ideen) des andalusischen Ingenieurs Aḥmad ibn Khalaf al-Murādī aus dem 12. Jh., das »Kitāb al-ḥiyal« (Buch der sinnreichen Einrichtungen, ca. 830 u. Zt.) von den Brüdern Banū Mūsā ibn Shākir sowie die Schrift »al-Āla allatī tuzammir bi-nafsihā« (Das Instrument, das von selbst spielt) von 850 u. Zt., ein Meisterstück unter den modernen programmierbaren Musikautomaten." (Globale 2016)

Siegfried Zielinsky und Peter Weibel weisen darauf hin, dass jenseits der religiösen und spielerischen Bedeutung, die Automaten durchaus praktische Funktionen hatten. Die Mehrheit der mechanischen Apparate diente der Einwirkung in die Umwelt zum Wohle der Einwohner etwa wenn Wasser zur Bewässerung der Felder aus tiefen Quellen hoch gepumpt werden musste. Sie dienten also der "Belebung" ("animation") im wörtlichen Sinne (Zielinsky und Weibel 2016, 18). Im Rahmen dieses kurzen Ausflugs in die Automaten- und Robotergeschichte darf die spätmittelalterliche Golem Legende des Juda Loew ben Bezalel (ca. 1512-1609) aus Prag nicht unerwähnt bleiben (Gelbin 2001). Genauso wenig dürfen die Automaten aus dem 17. und 18. Jahrhundert fehlen, wie die mechanische Ente von Jacques de Vaucanson (1709-1782), die Androiden des Schweizer Uhrmachers Pierre Jacquet-Droz (1721-1790), oder der Schachspieler des Wolfgang von Kempelen (1734-1804).

Die Geschichte der Roboter hängt mit der Erfindung und Entwicklung des Computers und seiner Vorgänger, die Rechenwerkzeuge wie der Abakus, die Rechenmaschine von Blaise Pascal und Leibniz' binäres Zahlensystem eng zusammen. Der englische Mathematiker Charles Babbage (1791-1871) begann 1822 mit der Konstruktion einer mechanischen Rechenmaschine (Difference Engine) an deren Weiterentwicklung (Analytical Engine) die Mathematikerin und Schriftstellerin Ada Lovelace, geb. Byron (1815-1852) beteiligt war. Zur Geschichte des Computers und seiner Programmierung gehören berühmte Namen wie der Mathematiker ungarisch-österreichischer Herkunft John von Neumann (1903-1957), der deutsche Bauingenieur Konrad Zuse (1910-1995) und der englische Mathematiker Alan Turing (1912-1953), um nur einige berühmte Namen zu nennen.

Wenn wir heute selbstfahrenden Fahrzeugen sprechen, dann sollte daran erinnert werden, dass die Geschichte solcher Fahrzeuge bis in die Mitte der zwanziger Jahre des vorigen Jahrhunderts zurückverfolgt werden kann. The Milwaukee Sentinel vom 8. Dezember 1926 meldete unter der Schlagzeile "'Phantom Auto' will tour city" Folgendes:

"A "phantom motor car" will haunt the streets of Milwaukee today. Driverless, it will start its own motor, throw in its clutch [Kupplung, RC], twist its steering wheel, toots its horn, and it may even "sass" [eine freche Antwort geben, RC] the policeman at the corner. The "master mind" that will guide the machine as it prowls [umherstreifen, RC] in and out of the busy traffic will be a radio set in a car behind. Commanding waves sent from the second machine will be caught by a receiving set in the "ghost car". The tour, conducted by the Achen Motor company, will start at 11.30 a.m. from the company's rooms at Oneida and Jackson streets [...]." (The Milwaukee Sentinel 1926)

Das geschah bereits fünfunddreißig Jahre nach der Patentanmeldung von Benz & Co. am 29. Januar 1886 "Fahrzeug mit Gasmotorenbetrieb". Die Central Power and Light Company in den USA sah bereits 1956 die Zukunft des fahrerlosen Autos folgendermaßen voraus:

"ELECTRICITY MAY BE THE DRIVER. One day your car may speed along an electric super-highway, its speed and steering automatically controlled by electronic devices embedded in the road. Highways will be made safe – by electricity! No traffic jams ... no collisions ... no driver fatigue." (The Victoria Advocate 1957)

Das tschechische Wort "robota", das so etwas wie Zwangsarbeit bedeutet, wurde 1920 vom tschechischen Maler, Zeichner, Graphiker, Fotograf und Schriftsteller Josef Čapek (1885-1945), der in Bergen-Belsen ermordet wurde, im Theaterstück R.U.R. (Rossum's Universal Robots) seines Bruders Karel (1890-1938) zum ersten Mal literarisch verwendet. Der polnische Science-Fiction-Autor Stanisław Lem (1921-2006) arbeitete Anfang der siebziger Jahre an einer Geschichte mit dem Titel "Golem XIV", die mit dem Titel "Also Sprach Golem" in deutscher Übersetzung erschienen ist (Lem 1984). Diese Geschichte, an die später noch einmal erinnert wird, inspirierte einen anderen Science-Fiction-Autor, nämlich Isaac Asimov (1920-1992), der in einer Sammlung "I, Robot" erschienen ist und in der erstmals seine berühmten "Drei Gesetze der Robotik" vorgelegt wurden. Diese lauten: 1) Ein Roboter darf keinen Menschen verletzen oder durch Untätigkeit zu Schaden kommen lassen. 2) Ein Roboter muss den Befehlen eines Menschen gehorchen, es sei denn, solche Befehle stehen im Widerspruch zum ersten Gesetz. 3) Ein Roboter muss seine eigene Existenz schützen, solange dieser Schutz nicht dem Ersten oder Zweiten Gesetz widerspricht. Der Film von Alex Proyas I, Robot aus dem Jahr 2004 hatte aber ursprünglich keine Beziehung zu Asimovs Geschichte. Der Film "Metropolis" von Fritz Lang stammt aus dem Jahre 1927. Der Erfinder Rotwang sagt zum Herrscher von Metropolis, Joh Fredersen: „Noch 24 Stunden Arbeit –, und kein Mensch, Joh Fredersen, wird den Maschinen-Menschen von einem Erdgeborenen unterscheiden können!“

Norbert Wiener fasst die Entwicklung der Robotik folgendermaßen zusamamen:

"At every stage of technique since Daedalus or Hero of Alexandria, the ability of the artificer to produce a working simulacrum of a living organism has always intrigued people. This desire to produce and to study automata has always been expressed in terms of the living technique of the age. In the days of magic, we have the  bizarre and sinister concept of the Golem, that figure of clay into which the Rabbi of Prague breathed life with the blasphemy of the Ineffable Name of God. In the time of Newton, the automaton becomes the clockwork music box, with the little effigies pirouetting stiffly on top. In the nineteenth century, the automaton is a glorified  heat engine, burning some combustible fuel instead of the glycogen of the human muscles. Finally, the present automaton opens doors by means of photocells, or points guns to the place at which a radar beam picks up an airplane, or computes the solution of a differential equation." (Wiener 1965, 39-40).

Aus diesem kurzen Ausflug in die Automaten- und Robotergeschichte können wir unter anderem lernen, dass wir in gewissem Sinne immer schon robotic natives waren, wenngleich Sinn und Zweck dieser Artefakte vom jeweiligen historischen und kulturellen Kontext abhängen. Der mythische und religiöse Kontext ist anders als der künstlerische Kontext und beide unterscheiden sich vom Kontext der Ökonomie und Politik. Mit anderen Worten, was Roboter sind, unterliegt einem geschichtlichen Wandel, der mit dem Wandel unseres Weltverhältnisses und unserer Selbstdeutung zusammenhängt. Mehr dazu im Ausblick. Die heutige auf das gesamte gesellschaftliche Leben bezogene Anwendung von Robotern gibt Anlass zu ethischen Fragen, die in der akademischen Welt unter dem Titel Roboethik behandelt werden und auf die jetzt eingegangen werden soll. In Bezug auf die rechtlichen Fragen, die hier nur indirekt angesprochen werden, verweise ich auf die Forschungsstelle RobotRecht hin, die 2010 am Lehrstuhl für Strafrecht, Strafprozessrecht, Rechtstheorie, Informationsrecht und Rechtsinformatik der Juristischen Fakultät der Universität Würzburg unter der Leitung von Eric Hilgendorf gegründet wurde.

 

Roboethik


Wir leben heute, im digitalen Zeitalter, in einer Welt der Roboter (genitivus obiectivus). Damit will ich nicht sagen, dass die Roboter etwa das Subjekt der Geschichte oder die Herrscher der Welt wären, sondern dass sie immer stärker unseren Lebensalltag prägen. Menschsein geschieht ursprünglich immer als Pluralität und mit Bezug auf eine gemeinsam erschlossene Welt von Bedeutungs- und Verweisungszusammenhängen. Diese scheinbar selbstverständlich klingende Aussage stellt in Wahrheit die moderne Selbstdeutung des Menschen als eines eingekapselten von den anderen und der gemeinsamen Welt getrennten Subjekts in Frage. Diese Deutung des Menschseins wurde vom Schweizer Daseinsanalytiker Medard Boss (1903-1990) in Zusammenarbeit mit Martin Heidegger theoretisch expliziert und in die Praxis umgesetzt (Boss 1975). Menschliches Zusammensein findet auf der Basis von geschichtlich sich wandelnden Normen und Werten statt, die eine Schutzfunktion haben oder ein symbolisches "Immunsystem" bilden (Sloterdijk 2009). Immunsysteme, ob biologische oder symbolische, werden ständig mit Herausforderungen aus der natürlichen oder sozialen Umwelt konfrontiert. Was alle Lebewesen sozusagen von sich aus tun, müssen wir Menschen in Bezug auf unsere symbolischen Immunsysteme reflexiv vollziehen. Wir nennen Ethik eine solche Reflexion über soziale Immunsysteme. Es ist daher auch von entscheidender Bedeutung zu unterscheiden zwischen der Ethik als einer kritischen Reflexion und ihrem  Gegenstand, nämlich die menschlichen Sitten und Gebräuche, wovon sich das Wort Moral (Lat. mos/mores) ableitet. Dieses Verständnis der Begriffe Ethik und Moral unterscheidet sich von der Vorstellung, Ethik wäre eine Reflexion, die sich mit dem Handeln eines einzelnen Menschen beschäftigt, während Moral auf allgemeine oder universale Regeln abziele. Ich folge der Auffassung des französischen Philosophen Michel Foucault, der Ethik als Problematisierung von Moral versteht (Foucault 1983).

Wenn also von Roboethik die Rede ist – der Begriff roboethics wurde vom italienischen Ingenieur und Robotik-Forscher Gianmarco Verrugio 2004 eingeführt (Verrugio und Operto 2006)  – handelt es sich um eine kritische Reflexion über jene implizite oder explizite Annahmen, die dem so genannten Handeln von Robotern zugrunde liegen. Roboter sind keine "moralischen Maschinen" (Wallach und Allen 2009; Capurro und Nagel 2009), die für ihr Handeln verantwortlich gemacht werden können. Eine Einbindung von Robotern in das Geflecht von menschlichen Handlungsregeln in Form von in Algorithmen einprogrammierten moralischen oder rechtlichen Normen, macht aus Robotern keine Mitglieder des Zusammenspiels kontingenter Freiheiten, das menschliches Leben mit anderen in einer gemeinsamen Welt auszeichnet. Das bedeutet wiederum nicht, dass moralische Regeln und Maxime nicht in Robotern programmiert werden könnten oder sollten, wonach sie ihre Bewegungen entsprechend vorgegebener Ziele und in Bezug auf wohl definierte Kontexte verrichten. Ganz im Gegenteil.

Aber es ist ein Fehlschluss zu glauben, dass algorithmische Regeln an die Stelle menschlicher Reflexion über Ziele und Werte in kontingenten Situationen treten könnten. Exemplarisch zeigt sich dies an dem von der britischen Philosophin Philippa Foot (1920-2010) diskutierten "Trolley Problem", ob das Töten einer Person durch eine Straßenbahn seitens eines Weichenstellers, vorzuziehen ist, wenn er dadurch das Leben mehrerer Personen retten kann (Foot 1978). Das Problem ist weder existenziell noch algorithmisch lösbar, weil die jeweilige Situation in ihrer potentiellen Bedeutungsdichte bei diesem Gedankenexperiment unvorhersehbare Möglichkeiten ausschließt, die kein Algorithmus im Vorhinein erfassen kann. Für die Fehler von Algorithmen sind Menschen verantwortlich auch wenn die konkrete Zuschreibung dieser Verantwortung aus rechtlicher Sicht eine offene Frage ist. Wir erliegen der Illusion, wir könnten den Zufall aus dem menschlichen Leben ausschalten indem man gleich den Menschen selbst ausschaltet. Dieses Problem zeigt auch, worauf es letztlich bei Robotern ankommt, nämlich auf die Frage nach Bewegung und Ruhe und nach den jeweiligen Zielen. Diese hängen, im Gegensatz zu verschiedenen Arten von weitgehend aber nicht ausschließlich deterministisch und nicht teleologisch bestimmten Bewegungen in der Natur, allein vom menschlichen Handeln ab. Die Begriffe Ruhe und Bewegung sind also mehrdeutig. Der kategoriale Fehlschluss besteht darin, Bewegung auf Handeln zurückzuführen, anstatt einen Unterschied zu machen, der auch im Menschen selbst zu treffen ist. Dieser Unterschied wurde in der Scholastik, zum Beispiel bei Thomas von Aquin, als actus hominis oder von der Natur bestimmte Bewegung des Menschen vs. actus humanus, oder von der ratio bestimmtes Handeln, aufgefasst (Thomas v. Aquin 1922, I-2, I,I, c., 3). Der Begriff actus muss adjektivisch spezifiziert werden, um den kategorialen Fehler zu vermeiden. Im Falle des Trolleys ist auch zu überlegen, ob er nicht per Programm anhalten oder langsamer fahren könnte oder ...? Im zweiten Buch der "Physik" schreibt Aristoteles, dass menschliches Handeln (praxis) einer besonderen Form von Kausalität ausgesetzt ist, nämlich "per Zufall" oder dia tyche, (Lateinisch: fortuna), deren Entsprechung im Bereich natürlicher Prozesse er to automaton (Lateinisch: sponte sua) nennt (Aristoteles 1950, II, 5). Von solchen zufälligen Ursachen wie Glück und Unglück, die wesensmäßig unbestimmt und zahllos sind, wissen Roboter nichts. Kein Algorithmus wird per definitionem je in der Lage sein, das Unberechenbare zu berechnen und Glück und Unglück im Leben eines Menschen zu bestimmen. Das sind Dimensionen, die sich dem Menschen öffnen, wenn er die zeitliche Dynamik des Geschehens in ihrer dreidimensionalen Qualität wahrnimmt, während Algorithmen auf einer eindimensionalen oder linearen Zeitvorstellung beruhen, auch wenn sie vorgeben lernfähig zu sein, ein Gedächtnis zu haben, data mining zu betreiben, und vor allem die Zukunft berechnen zu können. Das gilt auch ganz besonders für den kriegerischen Einsatz von Drohnen. Roboter haben keine Moral und erst Recht keine Ethik, sondern man kann lediglich moralische oder rechtliche Vorschriften einprogrammieren. Dabei muss man aber wissen, dass sie nicht in der Lage sind, ethisch darüber zu reflektieren, das Allgemeine auf den Einzelfall zu beziehen, die Sachverhalte als solche zu verstehen und das Ganze der jeweiligen Situation nicht aus den Augen zu verlieren. Wir müssen in diesen Fällen die anthropomorphe Diktion als eine Falle entlarven, ohne sie aber, in aufgeklärter Nutzung dieser Diktion, abzulehnen.

Wie wichtig und gewissermaßen natürlich die Unterscheidung zwischen Mensch und Roboter ist, zeigt die sogenannte 'Uncanny Valley' ('unheimliches Tal') Hypothese des japanischen Robotikers Masahiro Mori, wonach eine Akezptanzlücke in der Interaktion zwischen Mensch und Roboter dann entsteht, wenn der Anthropomorphismus nicht mehr als ein solcher wahrgenommen wird (Mori 1970). Es ist aber dann die Frage, für wen diese Akzeptanzproblematik entsteht, nicht nur in Bezug auf die vorauszusetzende Auffassung von Mensch und Roboter, die kulturell sehr unterschiedlich sein kann, sondern auch in Bezug auf die jeweilige Situation. Dieses Problem zeigt auch an, dass wir Roboethik-Forschung brauchen, die zugleich global und interkulturell geführt werden muss. Bei dieser Reflexion handelt es sich nicht nur um die Suche nach universellen Regeln für den Umgang mit Robotern und ihren von Algorithmen vorbestimmten Bewegungen, sondern auch um die Wahrnehmung unterschiedlicher Optionen von Lebensformen, in deren Kontext der Umgang mit Robotern stattfindet. Ferner ist zu bedenken, dass gleich ob Roboter ganz oder teilweise autonom handeln, um bei dieser anthropomorphen Diktion zu bleiben, oder sich aufgrund eines Algorithmus bewegen oder ruhen, sie dies im Horizont der digitalen Weltvernetzung tun. Damit ist zugleich gesagt, dass ihre Bewegungsfähigkeit und -ziele im Prinzip durch Dritte beeinflusst oder sogar ganz (fern-)bestimmt werden können. Es geht also um die Frage nach der security und nicht nur nach der safety oder nach dem Schutz der Integrität des Mensch-Roboter-Verhältnisses und ausgetauschter Daten. Damit berühren wir auch eine der Kernfragen der Informationsethik im Kontext der Robotertechnologie, nämlich die des Verhältnisses zwischen Privatheit und Öffentlichkeit (Capurro, Eldred, Nagel 2013). Die amerikanische Medienwissenschaftlerin und Ethikerin Helen Nissenbaum hat überzeugend dargestellt, dass Privatheit nicht etwas ist, was an Daten haftet, sondern dass es vom jeweiligen Kontext abhängt, in dem diese Daten freigegeben werden (Nissenbaum 2012). Es geht also darum die Integrität dieses Kontextes zu schützen. Das trifft ganz besonders für die Nutzung von Robotern zu. Denn Roboter sind in ihren vorgegebenen Zielen und algorithmisch bestimmten Bewegungsoptionen auf jeweilige Kontexte bezogen. Spyros Tzafestas, Professor an der School of Electrical and Computer Engineering der Athener National Technical University unterscheidet in seiner Monografie "Roboethics. A Navigating Overview" zwischen folgenden Anwendungsbereichen (Tzafestas 2016, 46):

  • Industrieroboter (Industrial robots)
  • Medizinische Roboter (Medical robots)
  • Haushaltsroboter (Domestic and houshold robots)
  • Assistenzroboter (Assistive robots)
  • Rettungsroboter (Rescue robots)
  • Weltraumroboter (Space robots)
  • Militärroboter (Military robots)
  • Spielroboter (Entertainment robots)

In allen diesen Bereichen übernehmen Roboter Tätigkeiten, die bisher ganz oder teilweise von Menschen ausgeführt wurden, was deren Entlastung aber auch Entlassung bedeuten kann. In bestimmten Bereichen, wie etwa in der Medizin, ist der Datenschutz im Sinne von Nissenbaums "contextual integrity" besonders wichtig. Aber auch bei der Art von Tätigkeiten, die "care robots" ausführen, muss auf ihre sinnvolle Anwendung innerhalb bestimmter Grenzen geachtet werden, was nicht zuletzt von kulturellen Traditionen abhängt. Diesem Thema widmet sich die Forschung von Aimee van Wynsberghe in ihrer Doktorarbeit: "Designing Robots with Care: Creating an ethical framework for the future design and implementation of robots" (Wynsberghe 2016). Ähnliche Vorsicht muss walten in Bezug auf Spielroboter für Kinder, insbesondere wenn diese online vernetzt sind.

In diesem Zusammenhang muss auf die Bedeutung dessen hingewiesen werden, was mein japanischer Kollege Makoto Nakada von der Universität Tsukuba und ich mit dem Ausdruck Interkulturelle Roboethik gekennzeichnet haben (Nakada und Capurro 2013; Tzafestas 2016, 155-167). Es geht darum, unterschiedliche kulturelle Traditionen und die in ihnen verankerten moralischen Werte und Normen in Bezug auf den Umgang mit Robotern zu berücksichtigen, die im Falle von Japan, zum Beispiel, sowohl mit dem Shintoismus und dem Buddhismus als auch mit dem Puppentheater zusammenhängen. Die beinah obsessive Beschäftigung in der westlichen Roboethik mit der Frage der moralischen Autonomie, die vor allem auf der Vorstellung von moderner Subjektivität zurückgeht, findet einen Kontrapunkt in fernöstlichen Traditionen, die dem westlichen Individuum, vor allem in seiner von der Welt und den anderen getrennten Einkapselung, eine geringere oder gar keine Bedeutung beimessen und somit von einem anderen Vorverständnis aus, sowohl die theoretische Debatte als auch die praktische Anwendung von Robotern führen (Capurro 2016a). Kulturen sind keine geschlossenen Entitäten, sondern stets im Wandel sowohl aufgrund gegenseitigen Austausches als auch durch die Arbeit von Wissenschaft, Kunst, Literatur und Philosophie, ohne die die technischen Erfindungen undenkbar sind. Denn auch wenn es so scheint, als wären diese Erfindungen allein  aus der Werkstatt der Wissenschaft geboren, sind sie in Wahrheit ohne die Träume der Menschen nicht denkbar. So spiegeln 'soziale Roboter' (social robots) in Japan, die Träume, Wünsche und Bedürfnisse der Ingenieure und Künstler in dieser Gesellschaft, die fast mehr als jede andere, als ein Roboterparadies gilt (Wagner 2013).

In Sachen Kriegsroboter können wir Folgendes von Stanisław Lem lernen. GOLEM XIV bekundete, so Lem in "Also Sprach GOLEM", "völliges Desinteresse an der Überlegenheit der Kriegsdoktrin des Pentagon im besonderen und an der Weltstellung der USA im allgemeinen (...) und in der Presse hieß GOLEM nur noch "Governments Lamentable Expense of Money" (Lem 1984, 19-20). Schon GOLEM XIII "wurde auf der Werft abgelehnt, weil er noch vor der Inbetriebnahme einen irreparablen schizophrenen Defekt aufwies." (Lem 1984, 19). Die Militärs setzten alle Hoffnung auf einen neuen Prototyp, genannt BRAVE ANIE (ANIE steht für ANNIHILATOR). "Neun Monate lang nahm er normalen ethisch-informationalen Unterricht, aber dann brach er mit der Außenwelt und reagierte überhaupt nicht mehr auf Reize und Fragen." (Lem 1984, 19) Ähnliches geschah mit einem Prototyp genannt SUPERMASTER. General S. Walker versuchte ihn zu beschädigen, als dieser erklärte "die geopolitische Problematik sei nichts gegenüber der ontologischen und die beste Garantie für den Frieden sei die allgemeine Abrüstung." (Lem 1984, 21)


Ausblick


Die Veränderungen, die die Digitalisierung in allen Bereichen des menschlichen Lebens mit sich bringt, haben Auswirkungen auf das menschliche Selbstverständnis. Diese betreffen vor allem jene moderne Deutung des Menschen als eines autonomen, sich die Gesetze seines Handelns gebenden Subjekts, dem gegenüber alle Dinge als mögliche Gegenstände seines Erkennens und Handelns in einer von seinem Bewusstsein getrennten Außenwelt stehen. Die Trennung zwischen dem Menschen als ein im moralischen Sinne autonomes Subjekt, das sich dadurch von den Gegenständen unterscheidet, wurde bekanntlich von neuzeitlichen Philosophen wie René Descartes und Immanuel Kant vertreten. Es ist paradox, dass in dem Augenblick, in dem wir vom autonomen zu einem digital vernetzten Subjekt mutieren, wir jene Eigenschaften und Fähigkeiten des modernen Subjekts auf die Roboter projizieren und diese als Quasi-Subjekte auffassen. Dies kommt deutlich zum Ausdruck wenn wir von Robotern als intelligente oder smarte Maschinen sprechen, die autonom handeln, lernfähig sind, Entscheidungen treffen, wofür sie angeblich Verantwortung tragen sollen usw. Diese anthropomorphe Redeweise zeigt in Wahrheit, dass wir den philosophischen Horizont der Neuzeit nicht verlassen haben, sondern ihn sogar auf alle Objekte ausweiten, indem diese als selbständige Agenten vorgestellt werden. Wir verschleiern uns dadurch die Sicht auf die Veränderungen, die durch die digitale Weltvernetzung sowohl in Bezug auf die Dinge als auch auf uns selbst stattfinden. Wir übersehen dabei welche Unterschiede Begriffe wie Autonomie, Handeln, Kommunikation, Intelligenz oder Verantwortung in Bezug auf die auf der Basis von Algorithmen handelnden Roboter im Gegensatz zum offenen, eine gemeinsame Welt teilenden menschlichen Existieren haben. Diese Unterschiede betreffen Dimensionen wie Geburt und Tod, Leiden und Glück, Frieden und Krieg, Gewalt und Gespräch.

Es wäre aber fatal, würden wir die heutigen Roboter und ihre Vorläufer als dem Menschen fremde oder gar als eine tödliche Bedrohung derselben auffassen. Diese Form von manichäischem Denken in Bezug auf die Roboter sowie auf die Technik allgemein ist Ausdruck eines Ressentiments gegenüber der conditio humana, welche diese von einer ihrer Auszeichnungen abkoppelt, nämlich von der Fähigkeit des Herstellens und der dadurch gegebenen Möglichkeit uns und die Welt, anhand unserer Produkte anders zu verstehen und zu verändern. Das Verhältnis zwischen Autonomie und digitaler Vernetzung prägt das Wesen des Roboters im 21. Jahrhundert. Es prägt aber auch, wenngleich in unterschiedlicher Art und Weise, das menschliche Existieren sowohl in seinem Handeln und Sprechen als auch in allen Formen des Arbeitens und Herstellens. Es hebt diese Differenz auf und lässt alle Formen digitaler Interaktion im Kontext des offenen und freien zwischenmenschlichen Zusammenspiels in einer gemeinsamen Welt. Voraussetzung ist freilich, dass wir uns nicht dem Diktat der Algorithmen unterwerfen, die angeblich nur der Lebenserleichterung dienen sollen. Das ist das Versprechen der Robotik, schon seit der Antike. Aber die Realität der Roboter auch im 21. Jahrhundert ist ambivalent. Um dieser Ambivalenz gewachsen zu sein, müssen wir den Anthropomorphismus als eine Falle entlarven, besonders dann, wenn er sich als harmlos und benutzerfreundlich ausgibt. Keine Maschinenstürmerei also, sondern selbstkritisches ethisches Denken über jene sozialen Vorurteile, die wir, Entwickler und Nutzer in die Roboter hineinprojizieren und hineinprogrammieren. Roboter sind keine neutrale Werkzeuge zur Lebenserleichterung, sondern sie sind in gesellschaftlichen auf Normen und Werten basierenden Lebenswirklichkeiten eingebettet, die nicht ein für allemal feststehen.

Aristoteles Bemerkung bezüglich der Ersetzbarkeit von Gehilfen und Sklaven durch Automaten, wie sie Homer beschreibt, ist nicht nur in Bezug auf den mythischen Kontext solcher seelenloser aber zugleich bewegender und bestimmte Tätigkeiten ausführenden Werkzeuge relevant. Die Möglichkeit Sklaven und Gehilfen durch Automaten ersetzen zu können, zeigt, dass die teilweise in der Natur (physis) begründete Unterscheidung zwischen Sklaven und Herren – es gab auch die Möglichkeit, der Sklaverei "aufgrund von Kriegen" (Pol. 1255 b 22) – für den Philosophen nicht unantastbar war (Capurro 2017). In seinem opus magnum "Das Kapital" zitiert Marx die zu Beginn erwähnte Stelle des Aristoteles, "der größte Denker des Altertums", und bemerkt dazu:

"Sie begriffen, wie der gescheite Bastiat [Frédéric Bastiat, französischer Ökonom, 1801-1850] entdeckt hat, und schon vor ihm der noch klügre Mac Culloch [John Ramsay McCulloch, schottischer Ökonom, 1789-1864], nichts von politischer Ökonomie und Christentum. Sie begriffen u.a. nicht, daß die Maschine das bewährteste Mittel zur Verlängerung des Arbeitstags ist. Sie entschuldigten etwa die Sklaverei des einen als Mittel zur vollen menschlichen Entwicklung des andren. Aber Sklaverei der Massen zu predigen, um einige rohe oder halbgebildete Emporkömmlinge zu "eminent spinners", "extensive sausage makers" und "influential shoe black dealers" zu machen, dazu fehlte ihnen das christliche Organ." (Marx 2009, 389).

Hundertfünfzig Jahre nach dem Erscheinen des "Kapital" ist die Frage, ob die Maschine in der Gestalt von digital vernetzten Robotern nicht das bewährteste Mittel zur Verlängerung des Arbeitstages ist, sondern vielmehr das sich rasch bewährende Mittel um arbeitende Menschen zu ersetzen, freilich mit dem Ergebnis, dass Menschen ohne Einkommen ihre Freiheit nicht genießen können. Es entsteht also eine neue Form von Ausbeutung und sozialer Ungleichheit, die zunächst durch Umschulung und Fortbildung abgemildert werden kann aber grundsätzlich nach einer neuen Politischen Ökonomie für das digitale Zeitalter verlangt. Norbert Wiener schrieb 1950:

"Let us remember that the automatic machine, whatever we think of any feelings it may have or may not have, is the precise economic equivalent of slave labor. Any labor which competes with slave labor must accept the economic conditions of slave labor. It is completely clear that this will produce an unemployment situation, in comparison with which the present recession and even the depression of the thirties will seem a pleasant joke." (Wiener 1989, 162)

Die Frage bleibt vorläufig, inwiefern Roboter kein Hindernis, sondern einen Beitrag zur Humanisierung der Arbeitswelt sowie zu einer gerechteren Gesellschaft leisten können. Sie werden sicherlich diese Frage nicht von sich aus, d.h., aufgrund ihrer Algorithmen, lösen können. Dazu müssen wir Menschen, ein Verständnis und ein Verhältnis zur Zeit in ihrer spezifisch menschlichen Dreidimensionalität im Gegensatz zur Linearität und Homogenität der durch Algorithmen bestimmten Zeit, entwickeln. Nur so können wir als robotic natives mit digital vernetzten Robotern leben und diese so humanisieren, dass wir sie in ihrer Eigenart als die algorithmisch geleiteten Maschinen erkennen und sein lassen, die sie sind und dabei zugleich die Träume und Albträume von höheren künstlichen Intelligenzen der Philosophie, Kunst und Literatur überlassen (Capurro 1995). So gesehen ist vielleicht das sich abzeichnende Robozän eine Korrektur des Anthropozäns, d.h. jener auf den Menschen, seine Bedürfnisse und Träume orientierten Sicht des In-der-Welt-seins, in Form einer Relativierung jener Eigenschaft, nämlich der ratio, die angeblich uns nicht nur gegenüber allen anderen Lebewesen auszeichnet, sondern auch uns über sie stellt. Eine mit fremden artifiziellen Wesen geteilte ratio lässt Wege offen, um über uns selbst anders zu denken, als was wir es seit der Moderne gewohnt waren, mit allen positiven und negativen Konsequenzen, die diese moderne Vision für uns selbst und die Welt bewirkt hat. Wenn wir, im "Fernen Westen" die Robotik und die Roboter anders verstehen als im "Fernen Osten" (Jullien 1995), dann könnte ein fruchtbarer interkultureller Roboethik-Dialog stattfinden (Capurro 2015; Nakada und Capurro 2013). Wann fangen wir an, über das Leben mit Robotern im 21. Jahrhundert miteinander nachzudenken?


Danksagung

Ich danke Francesca Vidal (Universität Koblenz-Landau) und Thomas Schauer (The Club of Rome, European Research Centre e.V.) für Korrekturen und kritisches Lesen dieses Textes.
 

Literatur

Arendt, Hannah (1983): Vita Activa oder Vom tätigen Leben. München: Piper.

Aristoteles (1978): Politik. München: dtv.

Aristoteles (1950): Physica. Oxford. (Engl. transl.)

Boss, Medard (1975): Grundriss der Medizin und der Psychologie. Bern: Huber.

Capurro, Rafael (2017): Ethical Issues of Humanoid-Human Interaction. In: Prahlad Vadakkepat, Amarish Goswami und Jong-Hwan Kim (eds.): Handbook of Humanoids. Springer (i.Dr.)

Capurro, Rafael (2016a): Informationsethik und kulturelle Vielfalt. In: Jessica Heesen (Hg.): Handbuch Informations- und Medienethik. Stuttgart: Metzler, 331-336.

Capurro, Rafael (2016): The Quest for Roboethics. A Survey

Capurro, Rafael (2015): Living with Online Robots

Capurro, Rafael, Eldred, Michael und Nagel, Daniel (2013): Whoness: Identity, Privacy and Freedom in the Cyberworld.  Berlin: de Gruyter. 

Capurro, Rafael (1995): Leben im Informationszeitalter. Berlin: Akademie Verlag.

Capurro, Rafael und Nagenborg, Michael (2009). Ethics and Robotics. Heidelberg: Akademische Verlagsanstalt.

Dengler, Katharina (2016): Folgen der Digitalisierung für die Arbeitswelt. Friedrich-Ebert-Stiftung, WISO direkt.
 
Diels, Hermann (1965): Antike Technik. Osnabrück: Otto Zeller.

Gelbin, Cathy S. (2001): The Golem Returns: From German Romantic Literature to Global Jewish Culture, 1808-2008. The University of Michigan Press.

Globale (2016): Allahs Automaten. ZKM

Foucault, Michel (1983): Discourse and Truth: the Problematization of ParrhesiaUniversity of California at Berkeley 

Hägler, Max (2016): Der kann das schon allein. Süddeutsche Zeitung, 122, 30. Mai, 17

Homer (1979): Ilias. Frankfurt am Main: Insel  (Übers. Wolfgang Schadewaldt)

Jullien, François (1995): Le détour et l’accès. Paris: Presses Univ. de France.

Krüger, Alfred (2016): Silicon Valley: Grundeinkommen fürs schlechte Gewissen. ZDF heute 

Lem, Stanisław (1984): Also sprach Golem. Frankfurt am Main: Suhrkamp.

Mori, Massahiro (1970): The Uncanny Valley. In: Eneregy, 7, 4, 33-35.

Marx, Karl (2009): Das Kapital. Kritik der politischen Ökonomie. Köln: Anaconda.

Nakada, Makoto und Rafael Capurro (2013): An Intercultural Dialogue on Roboethics

Nissenbaum, Helen (2010): Privacy in Context. Technology, Policy, and the Integrity of Social Life. Stanford University Press.

Finsterbusch, Stephan und Pennekamp, Johannes (2016): Nehmen uns Maschinen die Arbeit weg? In: Franfkurter Allgemeine WOCHE. Nr. 22, 27. Mai 2016, 14-17.

Foot, Philippa (1978): The Problem of Abortion and the Doctrine of the Double Effect, In ders.: Virtues and Vices, Basil Blackwell, Oxford 1978 (Orig. in Oxford Review, 5, 1967)

Reuter, Till (2016): "Es gibt kein Zurück". Interview: Elisabetz Dostert und Ulrich Schäfer. Süddeutsche Zeitung, 161, 14. Juli, 13.

Sloterdijk, Peter (2009): Du musst dein Leben ändern. Über Anthropotechnik. Frankfurt a.M. 2009.

Thomas von Aquin (1922): Summa Theologiae. Rom: Ed. Leonina.

Tzafestas, Spyros G. (2016): Roboethics. A Navigating Overview. Heidelberg: Springer.

Veruggio, Gianmarco und Operto, Fiorella (2006): Robooethics: a Bottom-up Interdisciplinary Discourse in the Field of Applied Ethics in Robotics. In: International Review of Information Ethics, Vol. 6, 12.

Vidal, Denis (2016): Aux frontières de l'humain. Dieux, figures de cire, robots et autres artefacts. Paris: Alma editeur.

Wagner, Cosima (2013): Robotica Niponica - Recherchen zur Akzeptanz von Robotern in Japan. Marburg: Tectum.

Wallach, Wendell und Allen, Colin (2009): Moral Machines: Teaching Robots Right from Wrong. Oxford University Press.

Wiener, Norbert (1965): Cybernetics: or Control and Communication in the Animal and the Machine. Cambridge, Mass.: The MIT Press.

Wiener, Norbert (1989): The Human Use of Human Beings. Cybernetics and Society. London: Free Ass. Books.

Wynsberghe, Aimee van (2016): Designing Robots with Care: Creating an ethical framework for the future design and implementation of care robots. London, New York: Routledge.

Zielinski, Siegfried und Weibel, Peter (Hg.): Allah's Automata. Artifacts of the Arab-Islamic Renaissance (800-1200). ZKM - Hatje Cantz.


letztes Update: 24. März  2017



 
    

Copyright © 2016 by Rafael Capurro, all rights reserved. This text may be used and shared in accordance with the fair-use provisions of U.S. and international copyright law, and it may be archived and redistributed in electronic form, provided that the author is notified and no fee is charged for access. Archiving, redistribution, or republication of this text on other terms, in any medium, requires the consent of the author.
 

 
Zurück zur digitalen Bibliothek 
 
Homepage Forschung Veranstaltungen
Veröffentlichungen Lehre Video/Audio