Che cos’è un robot?

 

La riflessione filosofica sui robot risale, nella tradizione occidentale, a più di duemila e cinquecento anni fa. Aristotele, infatti, scrive nella Politica (Aristotele, 1950, I, 1253 b 22-39) che, se tutti gli strumenti (organa) privi di vita (apsycha) necessari per una famiglia – a differenza degli strumenti viventi, come gli schiavi (doulos) o gli aiutanti del timoniere (kybernetes) – svolgessero il loro lavoro (ergon), i costruttori e gli amministratori delle proprietà non avrebbero più bisogno di schiavi. Il loro lavoro sarebbe svolto da strumenti capaci di muoversi da soli (automatos), obbedendo a un ordine o capaci di prevedere il da farsi. Anche se Aristotele viveva in una società basata sulla schiavitù, egli non pensava che essa fosse una condizione naturale, secondo il pregiudizio comune allora e per secoli a venire. La definizione aristotelica di automaton come macchina progettata per svolgere diversi compiti, in modo autonomo o eteronomo, ossia seguendo gli ordini del suo padrone, è valida ancora oggi, se la poniamo del contesto di Internet.

Naturalmente, la storia dalla concezione aristotelica di robot a quella di oggi è lunga. Vorrei richiamare la tradizione arabo-islamica ricordando la mostra “Gli automi di Allah” organizzata dal Zentrum für Kunst und Medientechnologie (ZM Karlsruhe, curatore Siegfried Zielinski con la collaborazione di Eckhard Fürlus e Daniel Irrgang). Cito:

The first Renaissance did not take place in Europe, but in Mesopotamia. Arabic-Islamic culture functioned – from a media-archaeological point of view – as a mediator between classical antiquity and the early Modern age in Europe. As part of the exhibiton “Exo-Evolution” and on the basis of outstanding examples, the exhibition explores the rich and fascinating world of the automata that were developed and built during the golden age of the Arabic-Islamic cultures, the period from the early 9th to the 13th century.

The machines to glorify God Almighty draw mainly on the traditions of Greek Alexandria and Byzantium. They introduced spectacular innovations, which did not emerge in Europe until the Modern era: permanent energy supply, universalism, and programmability. For the first time, four of the master manuscripts of automata construction from Baghdad, Kurdistan, and Andalusia are on show together: the “Kitab āit Hiyal” [Book of Ingenious Devices] (ca. 850 CE) by the Banū Mūsā Ibn-Šākir; the “Kitab al-urghanun” [Book of the Organ] from the same period, a masterpiece of all modern programmable music automata; the “Kitab fi ma’rifat al-hiyal al-handasiyya” [Compendium on the Theory and Practice of the Mechanical Arts] (1206 CE) by the Kurdish engineer Al-Jazarī; and the “Kitab al-Asrar fi Nataij al Afkar” [Book of Secrets] by the Andalusian engineer Alī Ibn Khalaf al-Murādī.
Furthermore, the exhibition shows three reconstructions of legendary artifacts: Al-Jazarī’s masterpiece among his audiovisual automata, the so-called Elephant Clock – a spectacular object for hearing and seeing time –, and the programmable music automaton by the Banū Mūsā as a functioning mechatronic model. (GLOBALE, 2015)

Vorrei ricordare anche la storia ebraica tardo-medievale del golem di Juda Loew ben Bezalel, un rabbino di Praga, nel sedicesimo secolo, che risale a storie più antiche e alla Bibbia (Salmo 139:16). Lo scrittore polacco di fantascienza Stanislaw Lem (1921-2006) ha scritto il romanzo “Golem XIV”, pubblicato nel 1981. La storia del golem ha ispirato lo scrittore di fantascienza russo-americano Isaac Asimov (1920-1992). La raccolta di racconti “Io, Robot” è stata pubblicata nel 1950, e il primo di questi racconti elenca le tre leggi della robotica di Asimov.

 

I robot nella vita quotidiana

Nel ventunesimo secolo i robot conosceranno una diffusione simile a quella di automobili, televisori e lavatrici nel secolo appena trascorso? Se sì, quanto velocemente potrà accadere? O è già così, non solo nell’industria ma anche nella vita quotidiana? I computer sono robot? E gli smartphone? L’utilizzo dei robot nell’assistenza sanitaria, oltre che per molte altre faccende domestiche, come le pulizie o il giardinaggio, fornisce alcuni esempi. Possono esserci persone che dicono “non mi piacciono i robot nella mia cucina” mentre altri sostengono “è ovvio che mi piacciono i robot in cucina, dato che vivo da solo e non ho tempo per sbrigare le faccende domestiche per conto mio”. Aimee van Wynberghe scrive:

In my thesis, entitled “Designing Robots with Care: Creating an ethical framework for the future design and implementation of care robots”, I addressed robots intended to be designed for nurses in their role as care giver. These robots are hoped to help with the increase in care demands of society on healthcare systems across the globe. Alongside the foreseen benefits there are a variety of ethical concerns related to this emerging technology. Such issues include; how the standard or quality of care might change when human nurses are no longer the sole care providers or how this technology might displace care workers from their role as the stewards of care? I do not claim that care robots (robots in healthcare) should be made and used for any care purpose but I also do not claim that care robots should never be made or used. Instead, my goal has been to explore the ethical limits within which these robots can be made and used. To do this I have created a novel framework for their design and implementation (Care Centered Value Sensitive Design) that relies on the care ethics tradition along with the Value-Sensitive Design approach. The hope is that by steering the design of this technology in a manner that incorporates care values into the technical content of the care robot, robot designers can avoid the majority of negative ethical concerns or risks. (Wynsberghe, 2015, 2016)
 

Il dibattito etico e legale sulle automobili a guida autonoma è ancora nella sua infanzia. I robot possono essere destinatari di sentimenti umani in modo simile a cani e gatti per la loro autoconsapevolezza, come è stato discusso in precedenza. I bambini proiettano l’idea della vita nei loro giocattoli, con una specie di animismo (Kaplan, 2005). I robot possono essere visti anche in una prospettiva religiosa: la tradizione shintoista in Giappone, per esempio, comprende l’animismo. I robot possono essere oggetto di considerazioni di giustizia sociale: i lavoratori possono perdere il lavoro per effetto dell’introduzione dei robot, come sappiamo che è accaduto con altre forme di tecnologia. Secondo l’etica buddhista, non dovremmo produrre robot che possano soffrire. Le questioni etiche della guerra cibernetica sono strettamente collegate ai robot (Altmann e Vidal, 2013; Capurro e Marsieke, 2012). Anche le questioni di genere sono importanti nell’etica robotica (Weber, 2007).

Ci sono molte ipotesi, in particolare nel cinema e nella letteratura di fantascienza, sulla possibilità che i robot divengano un giorno enti morali autonomi nei cui confronti avere una relazione di rispetto reciproco, invece di limitarsi a impartire loro ordini perché facciano qualcosa di utile per noi; se questo fosse il caso, il concetto di robot non sarebbe più appropriato, dal momento che esso implica una relazione di dipendenza verso il proprietario come padrone, i cui ordini vanno seguiti in accordo con le “leggi della robotica” di Isaac Asimov, e verso i costumi sociali (Capurro, 1995).

L’accettazione dei robot nella cultura giapponese è strettamente collegata all’influenza dei manga. Come nota lo storico tedesco della tecnologia Stefan Krebs:

The Japanese manga author, Osamu Tezuka, paints a quite technically euphoric, optimistic picture of the 21st century ―"robot society." For him, the actual conflicts are between the developers and users of robot technology, and not between robots and humans. Robots appear as neutral tools or as humans’ partners. In the Japanese reception of the Tetsuwan Atomu mangas, the ethical conflicts are the burden of human agents alone (Leis, 2006, 2). [...] Tezuka offers no real attempts at a solution for the ethical conflicts between humans and robots in his stories. To expect this would hardly do justice to the manga’s humble pretences. Still, at the end there remains an uncritical attitude toward technology. Here a widespread ideology of a value neutrality of science and technology shines through which can also easily be found in the West (Hornyak, 2006, 47- 51).[...] pop culture often perpetuates and pronounces stereotypes and simplified ideas of science and technology. The Tesuwan Atomu mangas were intended to buttress the techno-euphoria of the years of recuperation from the lost Second World War, thus contributing to the country‘s recovery (Schodt, 1988: 75-79). For this, their current effect ought to be examined all the more critically. (Krebs, 2006, 67)

Nel suo libro sull’accettazione dei robot in Giappone Cosima Wagner scrive che:

[...] on the one hand, as a Japanese Studies research topic "social robots" illustrate the "negotiation character of the creation and use of technological artefacts" (Hörning), which for example includes the rejection of military applications of robot technology in Japan. On the other hand, as a cultural topos, they mirror dreams, desires and needs of human beings at a certain time and therefore have to be interpreted as political objects as. As a source for a Japanese history of objects ‘social’ robots exemplify the cultural meaning of robots, the expectations of the Japanese state and economy, the mentality of Japanese engineers and scientists, and last but not least the socio-cultural change, which the ageing Japanese society is about to face. (Wagner, 2013)

Che tipo di regole comportamentali dovrebbero essere incorporate nei robot?

Un robot dovrebbe svolgere un compito, secondo regole programmate. Non è solo una questione tecnica, ma anche un problema etico. L’etica (dal greco ethiké), o filosofia morale, è una disciplina filosofica che tratta della morale (dal latino mores), vale a dire dei costumi impliciti o espliciti e delle regole di comportamento che formano il nucleo della cultura di una società. I curatori della International Review on Information Ethics, nel numero speciale dedicato all’etica dei robot, hanno scritto:

Our main values are embedded into all our technological devices. Therefore, the question is: which values are we trying to realize through them? Artificial creatures are a mirror of shared cultural values. Humans redefine themselves in comparison with robots. This redefinition of living organisms in technological terms has far-reaching implications. Long-term reflections need to be developed and plausible scenarios need to be anticipated. (Capurro, Hausmanninger, Weber, Weil, 2006).

Di conseguenza, è importante analizzare la tecnologia in generale, e la robotica in particolare, in diversi contesti culturali. Chiamo questo tipo di analisi “roboetica interculturale”, prendendo in considerazione il fatto che il concetto stesso di etica è compreso in modo diverso non soltanto, per esempio, nella tradizione occidentale ma anche in altre tradizioni. Per quanto riguarda il Giappone, Naho Kitano dell’università di Watseda scrive:

'Rinri', the Japanese Ethics.
When discussing the ethics of using a robot, I have been using the term ―"Roboethic" generally in my research, but it is used in very particular ways especially at international conferences. The word for ―"Ethics" in Japanese is Rinri. However, the Japanese concept of ethics differs from the Western concept of ethics, and this can lead to misunderstandings. In Japan, ethics is the study of the community, or of the way of achieving harmony in human relationships, while in the West, ethics has a more subjective and individualistic basis. The contrast can be observed, for example, in the concept of social responsibility. In Japan, responsibility in the sense of moral accountability for one’s action already existed in the classical period, but the individual was inseparable from status (or social role) in the community. Each individual had a responsibility toward the universe and the community. Thus in Japan, social virtue lay in carrying out this responsibility. (Kitano, 2006, 80)

Nella tradizione aristotelica, il concetto di etica (philosophia ethiké) è, in effetti, collegato alla plasmazione o “in-formazione” del carattere individuale, ma l’etica appartiene, insieme alle riflessioni che riguardano la famiglia (philosophia oikonomiké, dal greco oikos) e la città-stato (philosophia politiké, dal greco polis) a quella che Aristotele chiama la “filosofia pratica” (philosophia praktiké). Nella modernità si trovano, per esempio, la tradizione dell’utilitarismo, che è orientato in senso individuale e sociale, e la tradizione kantiana che è orientata in primo luogo verso l’individuo, ma nella prospettiva che le sue massime pratiche siano universalizzabili. L’etica o filosofia morale, compresa come “problematizzazione” della moralità, come la intendo seguendo le linee di pensiero di Michel Foucault (Foucault 1999), tratta dei costumi e dei valori di una società. Non esiste un soggetto che sia isolato e privo di mondo (Heidegger, 1976; Capurro, Eldred, Nagel, 2013).

La differenza tra l’etica o filosofia morale e il suo oggetto di studio, vale a dire la moralità o le regole sociali, è cruciale per quanto riguarda la questione delle regole comportamentali incorporate per i robot. Queste regole sono regole morali, vale a dire che i robot sarebbero tenuti a seguirle e non a problematizzarle, anche se fossero in grado di “scegliere” tra diverse regole. Queste regole sono regole umane, non riguardano il robot nel suo essere. Esiste una morale dei robot (genitivus obiectivus), vale a dire programmi morali per i robot: soltanto in questo senso possiamo parlare dei robot come “macchine morali” (Wallach e Allen, 2009). Ed esiste un’etica dei robot (o roboetica), che compendia le nostre riflessioni su come comportarci con i robot. Esiste una differenza tra programma e agente (Capurro, 2012, 2012a). Michael Nagenborg scrive:

One major difference between a “program” and an “agent” is, that programs are designed as tools to be used by human beings, while “agents” are designed to interact as partners with human beings. […] An AMA [artificial moral agent, RC] is an AA [artificial agent, RC] guided by norms which we as human beings consider to have a moral content. […] Agents may be guided by a set of moral norms, which the agent itself may not change, or they are capable of creating and modifying rules by themselves. […] Thus, there must be questioning about what kind of “morality” will be fostered by AMAs, especially since now norms and values are to be embedded consciously into the “ethical subroutines”. Will they be guided by “universal values”, or will they be guided by specific Western or African concepts. (Nagenborg, 2007, 2-3)

Naho Kitano fa un’importante considerazione riguardo la ricerca interculturale in generale, e in particolare per quanto concerne la roboetica in occidente e in Giappone:

I believe that the positive acceptance of robots in the contemporary Japan is possible to explain from the indigenous idea of how human relations work, as well as the customs and psychology of the Japanese. Such factors are intangible from inside, for it is taken for granted. In this paper, I attempt to identify these factors and provide a theoretical explanation by means of, first, the Japanese culture of Anima and, secondly, the idea of Japanese Ethics, ―"Rinri", which are, I believe, urging the Japanese robotization.[...] Before starting my argument, I should note my awareness that Japan cannot be considered a uniform and single traditional entity. At the same way, although I use the terms ―the "West" without giving firm definitions, I do not characterize the West as a uni-cultural entity. To the international readers of this paper, I would like to clarify that I use the term ―the "West" in order to set it as ―a "mirror" to reflect ―"Japan". (Kitano, 2006, 79-80)

In altre parole, le culture non sono entità chiuse e fisse, ma si trovano in un processo permanente di trasformazione e interrelazione; inoltre, esse non sono incommensurabili, vale a dire che possono essere paragonate. Il peggior errore che possiamo commettere è “discutere” attraverso luoghi comuni, invece di scavare nel passato culturale che, nel caso del Giappone, è intimamente legato al buddismo, al confucianesimo e allo shintoismo, ma anche alle tradizioni occidentali, soprattutto a partire dall’epoca Meiji. Edward Said ha affermato che esiste il problema dell’orientalismo, che produce distorsioni nella percezione occidentale delle culture mediorientali (Said, 1978); questa difficoltà può essere estesa anche alle culture dell’Estremo oriente. Se rovesciamo il punto di vista e guardiamo all’“Estremo occidente” dalla prospettiva estremo orientale, dobbiamo avere cura di sviluppare un dialogo interculturale come nel caso, per esempio, del sinologo francese François Jullien (Jullien, 2003), altrimenti ci ritroviamo con un cliché rovesciato, vale a dire l’“occidentalismo”.

 

Quali sono i rischi e le opportunità per la società?

La roboetica, e la roboetica interculturale in particolare, sono campi di ricerca recenti (Wallach e Asaro 2017; Capurro 2009; Decker e Gutmann, 2012; Beavers, 2010; Veruggio, 2007. Si vedano anche i progetti europei ETICA e ETHICBOTS). Il dialogo tra l’“Occidente” e il Giappone sulla roboetica è iniziato una decina di anni fa. Naho Kitano, Makoto Nakada e Toru Nishigaki hanno fornito importanti contributi in questo settore (Capurro e Nakada, 2013; Nishigaki, 2012). Per quanto concerne la relazione tra robot e shintoismo rispetto alle nozioni occidentali di corpo e anima, Jared Belby scrive:

A significant difference exists between traditional western and Japanese presumptions regarding the possibility of humans co-existing with robots. Traditional western culture prejudices such a scenario through engrained suspicion, their fears situated in their religious and cultural biases of life and death as grounded in ancient Greek and biblical notions of dualism of body and soul, and thus good and evil. The Japanese likewise look to a co-existence with robots through engrained religious and cultural lenses as well, but in the case of the Japanese, they do so in terms of harmony, a presumption that arises from Shinto notions of animistic life energies. These energies, known as kami in Shintoism, not only infuse all objects that exist, whether tree, rock, water, animal, human, and even human created inanimate objects such as robots and puppets, but also possess and give incarnation to ideas, such as love, passion, or fear. While the nature of the kami can be understood in terms similar to western notions of spirits or gods, kami do not constitute the same moral metaphysical qualities that allow for a dualism of good and evil. Instead, while certain kami may exhibit what in western notions could be deemed either beneficent or maleficent qualities, they are not separated by terms of good and evil, but only by ideas of purity and pollution. No matter the qualities exhibited by various kami, all kami constitute vital life energies, and death in Shintoism is not understood in terms of endings or evil in the way that it is in the west. (Bielby, 2012)

Nishigaki assume un punto di vista critico su questa tradizione giapponese quando scrive:

Technology may have been for the Japanese people of old, as Kaplan indicates, a method of protecting their spiritual essence. However, it is undeniable that the spiritual essence has long been undermined through Japanese ignorance of philosophical inquiry into technology. The insensibility of Japanese people to modernity can also be very dangerous. If everything has its own spirit, and if all things are of equal value, why are we not allowed to reconstruct our bodies as freely as we like? In response to the problem of robots or cyborgs, the simplistic division using the words "the Japanese spirit" and "Western learning" is no longer sufficient. (Nishigaki, 2012, 19-20)

La visione critica di Nishigaki sull’affermazione per cui “tutte le cose hanno lo stesso valore”, vista dalla prospettiva per cui tutto “ha il proprio spirito” può essere applicata anche al punto di vista per cui se tutto non è altro che un pugno di dati digitali, il problema etico rimane lo stesso.

Riguardo la questione del soggetto autonomo, Nishigaki scrive:

It was Kant, as is well known, who scrutinized this problem profoundly and discussed human free will, which led to the moral argument in his book "Kritik der praktischen Vernunft (The Critique of Practical Reason)".
The argument is often referred to in Western countries when talking about the autonomy of a robot. In Japan, on the other hand, the consideration of human free will and autonomy tends to be neglected. Instead, cooperation with one's surrounding people is most valued. Therefore, autonomy is easily ignored in community life. The ordinary life of the average Japanese is mostly carried out with a clock-like, mechanical rhythm. [...] This tendency ― to harmonize with one's surroundings and to behave in a manner similar to that of others around oneself ― can be dangerous in a highly developed information society dependent on the WWW. Measures should be taken against the suppression of minority opinions in popular social movements. Japanese people must deliberate more deeply about autonomous subjects. (Nishigaki, 2012, 22)

La tradizione giapponese dei robot non si fonda su riflessioni riguardanti l’autonomia, la dignità e la soggettività umane, ma sull’armonia delle relazioni reciproche degli umani con gli altri esseri, viventi e non, come si manifesta nell’arte delle marionette. Potremmo apprendere gli uni dagli altri se noi, in “Occidente” recuperassimo la nostra tradizione marionettistica senza lasciar cadere il tema dell’autonomia e dell’eteronomia, e viceversa per il caso del Giappone. In altre parole, se con l’internet delle cose i robot dovessero connettersi, avremmo problemi di segno inverso in Giappone e nei Paesi occidentali. La questione etica dell’autonomia dei robot non è più la stessa; allo stesso modo, la visione moderna, e in particolare kantiana, di noi stessi come soggetti autonomi cambia quando iniziamo a vivere le nostre vite in modo connesso. Se i giapponesi devono decidere come essere soggetti autonomi nella società dell’informazione, gli occidentali devono imparare che cosa significa essere eteronomi non solo nel web ma anche nella vita fisica, per effetto dell’internet delle cose. In altre parole, la dipendenza dei robot connessi dal loro creatore può essere rovesciata, aumentando la nostra dipendenza da loro. Dobbiamo esplorare l’interrelazione di autonomia ed eteronomia, considerando che entrambi i termini non hanno lo stesso significato per robot e umani, per esempio per quanto riguarda il fatto che gli umani sono esseri contingenti liberi. Vi è un’interazione tra i robot come tra gli umani, con e senza la mediazione dei robot. Nell’internet delle cose, i robot autonomi non collegati appartengono al passato (Haarkötter e Weil, 2015; Balkam, 2015). Un robot connesso non è un ossimoro, è un’ovvietà: i robot connessi sono la prossima generazione. “Robotics and Internet of Things Playing Together” è il titolo di una sessione plenaria della conferenza RoboBusiness Europe, che si è tenuta a Milano il 29 e 30 aprile 2015 (Robobusiness Europe, 2015).

Le società democratiche, governate e controllate dai parlamenti e dai mass media, potrebbero essere plasmate da regole robotiche e burocratiche, che incrementino la dipendenza eteronomica degli umani dai robot al di là degli attuali sistemi di sorveglianza e al di là di questa dipendenza nel cyberspazio (Capurro, 1993; Lessig, 1999). Chi siamo noi, che viviamo in questo capitalismo burocratico digitale? (Weber, 1973, 379 sgg.).

I robot si sono già assunti molti compiti nell’ambito della produzione di cose materiali (la poiesis greca) ma anche nel campo delle azioni umane (la praxis greca) (Arendt, 1958). Uno scenario distopico potrebbe essere quello di un divario robotico, tra le persone che possono permettersi di comprare i robot e quelle che non possono. I robot potrebbero ben presto distruggere posti di lavoro, portando a una disoccupazione di massa simile a quella avvenuta con la rivoluzione industriale nel diciannovesimo secolo, ma che non si limiti al lavoro manuale, colpendo anche quello intellettuale (Bernau, 2015; Capurro, 1988). Da una prospettiva di economia politica critica, ci si deve chiedere se i robot porteranno a una trasformazione del “lavoro digitale” all’interno di un’economia basata sullo sfruttamento, verso una dimensione di “lavoro digitale giocoso” (Fuchs e Sevignani, 2013).

Uno scenario meno distopico potrebbe essere quello in cui in breve tempo i robot possano divenire così economici che chiunque li voglia se li possa comprare, come i computer e gli smartphone, che sono i prototipi dell’interazione tra umani e robot. La “seconda era delle macchine” (Brynjolfsson e McAfee, 2014) potrebbe portare alla prosperità, se saremo pronti a investire in un’istruzione che dia agli esseri umani la capacità di svolgere i compiti creativi che possono fare meglio dei robot. Dobbiamo sviluppare anche regole morali, sociali e legali, per l’età dei robot, regole che dovrebbero essere internazionalmente accettate. Cambiare uno strumento significa cambiare una forma di vita, il che è un problema etico (Spinosa, Flores, Dreyfus, 1997). Come le altre macchine, i robot possono rompersi: con quali conseguenze (Flores Morador, 2009)? Per una prospettiva epistemologica critica sui robot si vedano Negrotti, 2012, Capurro, 1995 e 2009. L’hotel Henn na a Nagasaki è il primo albergo in cui lo staff principale consiste interamente in robot (Henn na hoel “Evolve Hotel”, 2015). Le aziende globali di produzione di software potrebbero produrre un software standardizzato per i robot; gli hacker potrebbero entrare in questi software, utilizzandoli per scopi diversi da quelli del proprietario, e ciò potrebbe produrre effetti svantaggiosi, e non soltanto per il proprietario: le questioni si sicurezza sono al centro della roboetica. È in corso un dibattito etico e legale sulle automobili autonome, che potrebbero essere infiltrate e controllate, per esempio, da hacker (Lin, 2013). Circa cinquant’anni fa, abbiamo iniziato a progettare città adatte alle automobili; oggi abbiamo, nelle città, aree interdette alle auto; in un prossimo futuro, dovremmo pensare a zone interdette ai robot.

 

Conclusione

È fondamentale avere un atteggiamento proattivo riguardo gli aspetti della vita umana che non dovrebbero essere orientati ai robot. I produttori e gli utilizzatori di robot dovrebbero assicurarsi del loro appropriato riciclaggio, come avviene (o dovrebbe) per altre tecnologie elettroniche (e-waste): si tratta di un problema centrale per una futura etica ecologica nell’era dei robot connessi (Capurro, 2010). La consapevolezza e l’analisi etica delle tradizioni culturali riguardo i robot è una questione rilevante, non solo per gli utilizzatori ma anche per gli inventori di robot, che sarà discussa nella terza sezione di questo libro, Un punto nel quale la politica, il mondo accademico e l’industria, le tre parti coinvolte in questo libro, possono incontrarsi è la regolamentazione (Nagenborg e altri, 2008). Nella storia dell’industria, un buon esempio può venire dai regolamenti nel contesto delle automobili: cent’anni fa, nessuno pensava a regole del genere.

Chi siamo noi nell’era dei robot? Secondo il filosofo tedesco Peter Sloterdijk, la moralità e la legge sono “sistemi immunitari simbolici” necessari per la sopravvivenza dell’individuo e della società (Sloterdijk, 2009). Come nel caso dei sistemi immunitari, è necessario pensare criticamente ad essi quando hanno luogo cambiamenti nell'ambiente vitale e culturale. È per questo che abbiamo bisogno di una roboetica interculturale. Essa dovrebbe porre in questione l’attuale “sistema immunitario simbolico” rispetto ai cambiamenti che hanno luogo nella società in seguito allo sviluppo e all’utilizzo dei robot. I robot sono al centro delle attuali “antropotecnologie” (Sloterdijk), ossia delle tecnologie che utilizziamo non solo per svolgere compiti ma anche per cambiare noi stessi. Le interazioni tra umani e robot sono presenti nella tradizione artistica e letteraria: i robot sono maschere del desiderio umano (Brun, 1981, 1992). Ingegneri, scienziati, uomini politici, utenti e scrittori proiettano i loro desideri, incubi e sogni, a seconda della società in cui vivono, della sua storia e della sua cultura. Per questo motivo, la ricerca sull’etica interculturale dei robot è un compito importante, non soltanto in Giappone.

 

Ringraziamenti

L’autore ringrazia il professor Makoto Nakada (università di Tsukuba, Giappone), il professor Martin Pohl (università di Tsukuba, Giappone), Jared Bielby (università di Alberta, Canada), il dottor Felix Weil (CEO, Quibiq, Stoccarda, Germania), Joseph E. Brenner (International Society for Information Studies, Vienna, Austria), la professoressa Juliet Lodge (università di Leeds, Regno Unito), e la professoressa Francesca Vidal (università di Koblenz-Landau, Germania) per le loro annotazioni critiche. Un ringraziamento anche al dottor Nane Cantatore (Università La Sapienza di Roma) per la traduzione.

 

Bibliografia

Altmann, J., Vidal, F. (2013): Cyber Warfare, International Review of Information Ethics (IRIE), 20. 

Arendt, H. (1998), The Human Condition, Chicago: The University of Chicago Press.

Aristotle (1950), The Politics. Ed. W.L. Newman, Oxford: Oxford University Press 1950.

Balkam, S. (2015): What will happen when the internet of things become artificially intelligent? The Guardian, February 20, 2015.

Beavers, A.  (2010): Special Issue: Robot Ethics and Human Ethics, Ethics and Information Technology, 12, 3.

Bernau, V. (2015): Die Roboter kommen. Maschinen übernehmen mehr Jobs. Aber steigern sie damit auch den Wohlstand aller? Süddeutsche Zeitung, 43, 21-23, 25.

Bielby, J. (2012). Kami: Shinto Influences on Japanese Video Game Culture.

Brun, J. (1981). Les Masques du désir. Paris: Buchet-Chastel.

Brun, J. (1992). Le rêve et la machine. Technique et Existence. Paris: La Table Ronde.

Brynjolfsson, E., McAfee, A. (2014). The Second Machine Age, New York: W.W. Norton.

Capurro, R. (2009). The Quest for Roboethics. A Survey. Cybernics Technical Reports. Special Issue on Roboethics. University of Tsukuba 2011a, 39-59 (CYB-2011-001 -CYB-2011-008 March 2011). Updated version 2018.

Capurro, R. (2012). Toward a Comparative Theory of Agents, AI & Society, 27, 4, 479-488.

Capurro, R. (2012a). Wer ist der Mensch? Überlegungen zu einer vergleichenden Theorie der Agenten. H.-A. Marsiske (ed.): Kriegsmaschinen - Roboter im Militäreinsatz, Hannover: Heise, 231-238.

Capurro, R. (2011). Ethical Aspects of Biometrics. Tabula Rasa (FP 7): Trusted Biometrics under Spoofing Attacks, Deliverable D 7.2.

Capurro, R. (2010). Netz.Ökologien. Zur Ethik des Abfalls im Zeitalter digitaler Medialisierung. Saarbrücken.

Capurro, R. (2009). Ethics and Robotics. In: R. Capurro, M. Nagenborg: Ethics and Robotics. Heidelberg: Akademische Verlagsanst., 117-123.

Capurro, R. (1995). On Artificiality. IMES (Istituto Metodologico Economico Statistico) Laboratory for the Culture of the Artificial, Università di Urbino, IMES-LCA WP-15, Urbino.

Capurro, R. (1993). Zur Frage der professionellen Ethik. In: Peter Schefe, Heiner Hastedt, Yvonne Dittrich and Geert Keil (eds.): Informatik und Philosophie, Mannheim: Wissenschaftsverl., 121-140. 

Capurro, R., Eldred, M., Nagel, D. (2013), Digital Whoness: Identity, Privacy and Freedom in the Cyberworld. Berlin: de Gruyter.

Capurro, R., Marsiske, H.-A.: Der Moment des Triumphs. E-Mail-Dialog über ein Bild (2012). In: Hans-Arthur Marsiske (Ed.): Kriegsmaschinen - Roboter im Militäreinsatz. Hannover: Heise, 11-30.

Capurro, R., Nagenborg, M. (Eds.) (2009), Ethics and Robotics. Heidelberg: Akademische Verlagsanst. 2009.

Capurro, R., Nakada, M. (2013). An Intercultural Dialogue on Roboethics. In: ibid. (Eds.): The Quest for Information Ethics and Roboethics in East and West. Research Report on trends in information ethics and roboethics in Japan and the West. ReGIS and ICIE, March 31, 2013, 13-22.

Capurro, R.,  Hausmanninger, T., Weber, K., Weil, F. (2006). Ethics in Robotics, International Review of Information Ethics, 6.

Cerqui, D., Weber, J., Weber, K. (2006). Ethics in Robotics. International Review of Information Ethics, 6.

Decker, M., Gutmann, M. (eds.) (2012), Robo- and Information Ethics. Zürich, Lit.

ETHICBOTS (2007), Emerging Technoethics of Human Interaction with Communication, Bionics and Robotic Systems, FP 6, 2005-2007.

ETICA (2011), Ethical Issues of Emerging ICT Applications. FP 7, 2009-2011

Flores Morador, F. (2009), Broken Technologies. The Humanist as Engineer. Lund: Lund University Press.

Foucault, M. (1999). Discourse and Truth: The Problematization of Parrhesia, 1999.

Fuchs, C., Sevignani, S. (2013). What is Digital Labour? What is Digital Work? What’s their Difference? And why do these Questions Matter for Understanding Social Media? tripleC 11/2: 237-293. 

Gelbin, Cathy S. (2001).The Golem Returns: From German Romantic Literature to Global Jewish Culture, 1808-2008. Michigan: The University of Michigan Press.

GLOBALE (2015). Allah's Automata. Zentrum für Kunst und Medientechnologie, Karlsruhe: ZKM.

Haarkötter, H., Weil, F. (2015). Ethics for the Internet of Things. International Review of Information Ethics, 22.

Heidegger, M. (1976), Sein und Zeit. Tübingen: Niemeyer.

Henn na Hotel ("Evolve Hotel") (2015)

Jullien, F. (2003), La valeur allusive, Paris: PUF.

Kaplan, F. (2005), Les machines apprivoisées. Comprendre les robots de loisir. Paris: Vuibert.

Kitano, N. (2006). 'Rinri'. An Incitement towards the existence of robots in the Japanese Society. International Review of Information Ethics, 6: 78-83.

Krebs, S. (2006). On the Anticipation of Ethical Conflicts Between Humans and Robots in Japanese Mangas. International Review of Information Ethics, 6: 63-68. 

Lessig, Lawrence (1999). Code and other laws of cyberspace. New York: Basic Books.

Lin, P. (2013). The Ethics of Autonomous Cars. The Atlantic, Oct. 8. 

Nagenborg, M. (2007) Artificial moral agents: an intercultural perspective. International Review of Information Ethics, 7.

Nagenborg, M., Capurro, R., Weber, J., Pingel, C. (2008): Ethical regulations on robotics in Europe. AI & Society, 22: 349-366.

Negrotti, M. (2012), The Reality of the Artificial. Nature, Technology and Naturoids. Heidelberg: Springer.

Nishigaki, T. (2012): Is a Society of Cohabitation with Robots Possible? In: Toru Nishigaki and Tadashi Takenouchi (Eds.): Information Ethics. The Future of Humanities. Nagoya City: V2 Solution Publ., 1-25. 

RoboBusiness Europe Conference (2015). Plenary Session: Robotics and Internet of Things Playing Together. Milan, 29-30 April.

Said, E. W. (1978). Orientalism. New York: Routledge & Kegan Paul.

Sloterdijk, P. (2009), Du musst dein Leben ändern. Über Anthropotechnik. Frankfurt a.M: Suhrkamp.

Veruggio, G. (2007), EURON. Roboethics Roadmap. 

Wallach, W., Asaro, P. M. (eds.) (2017), Machine Ethics and Robot Ethics. London and New York: Routledge.

Wallach, W., Allen, C. (2009): Moral Machines. Teaching Robots Right from Wrong. Oxford: Oxford University Press.

Wagner, C. (2013), Robotopia Nipponica – Recherchen zur Akzeptanz von Robotern in Japan. Marburg: Tectum.

Weber, J. (2007): "Social" Robots & "Emotional" Software Agents: Gendeering Processes and De-Gendering Strategies for "Technologies in the Making". In: I. Zorn, S. Maass,  C. Schirmer, E. Rommes, H. Schelhowe (eds.): Gender Designs IT. Construction and Deconstruction of Information Society Technology. Wiesbaden: Springer, 53-63.

Weber, M. (1973), Soziologie, Universalgeschichtliche Analysen, Politik. Stuttgart: Kröner.

Wynsberghe, A.v. (2015), Homepage, University of Twente, The Netherlands.

Wynsberghe. A.v. (2016), Healthcare Robots. Ethics, Design and Implementation.  London and New York: Routledge.

 

Last update: May 26, 2018

    

Copyright © 2018 by Rafael Capurro, all rights reserved. This text may be used and shared in accordance with the fair-use provisions of U.S. and international copyright law, and it may be archived and redistributed in electronic form, provided that the author is notified and no fee is charged for access. Archiving, redistribution, or republication of this text on other terms, in any medium, requires the consent of the author.