ETICA Y ROBOTICA

Los robots, máscaras del deseo humano

Rafael Capurro
 




Traducción del italiano Etica e robotica. I robot, maschere del desiderio umano (I quaderni di Athenet. La rivista dell' Università di Pisa. No. 20, julio 2007, 9-13) por Célida Godina Herrera. Publicada en Revista interdisciplinaria de bioética, Puebla (México) Enero-Junio, 1 (1), 2010. El original inglés Ethics and Robotics fue publicado en: Rafael Capurro and Michael Nagenborg (Eds.). Ethics and Robotics. Heidelberg: Akademische Verlagsgesellschaft 2009, 117-123.




     

¿Desde qué punto de vista hablamos de ética? ¿Y para quién? ¿Cuáles son las consecuencias y cuál es el (potencial) campo de aplicación de una ética de la interacción humana con los sistemas robóticos, biónicos y de comunicación? (¿a qué llamaremos tecno-ética?). Una parte importante puede ser considerada una ética de la proyección y de la producción tecnológica.

La tecno-ética debe estar en la base de una fuerte práctica democrática y de acción cívica que participa en la creación de artefactos tecno-científicos. La cuestión crucial es cómo concebir un proceso interdisciplinario en que participen en el debate en acto ingenieros y técnicos.

Una segunda cuestión es si o como sea posible (y deseable) desarrollar un ética general para cualquier tipo de robot y de actores. ¿En qué caso (casos) nos sirve una diversificación del campo de aplicación y del tipo de robot/actores respecto a los problemas éticos? A nivel socio-técnico los robots se describen como “máquinas sensomotoras que aumentan la habilidad humana del movimiento. Ellos consisten en componentes mecatrónicos, sensores y funciones de conducción controladas por el ordenador. La complejidad de un robot es mayor que la de otras máquinas por su más alto grado de libertad y de su multiplicidad y cantidad de comportamientos”. (Christaller et al. 2001, traducido por Jutta Weber). Otra cuestión relevante a discutir es si existe una diferencia cualitativa entre máquinas clásicas, transclásicas y sistemas autónomos.

Una tercera cuestión debería ser: ¿cui bono? ¿Para quien y por quién se desarrollarán los robots? ¿Quién establece los estándares de robots y dispositivos robóticos como AIBO, PINO, PARO, KISMET y otros? ¿Pueden contribuir a una más profunda igualdad, a una más intensa apreciación de una multiplicidad heterogénea y a una más fuerte  responsabilidad hacia mundos vivibles?

Además de esto es necesaria una reflexión sobre el contexto socio-cultural del debate  sobre los robots y sobre los actores. ¿Qué tipo de conflictos sociales y de relaciones de poder están interconectados en la producción y en el uso de actores y robots? Por último, pero no menos importante, tarea central para la tecno-ética es aprender la lección de la discusión sobre bioética. Por ejemplo: deberíamos evitar discusiones abstractas sobre actuar o sobre intencionalidad de actuar y de los robots, deberíamos reflexionar si son útiles para resolver el contexto sobre el desarrollo y sobre su uso futuro de actores y robots. ¿En qué forma entrará en juego la relación entre ciencia, tecnología, industria y política? ¿Qué decir de los intereses militares para la robótica y para los actores?

El uso masivo de robots cambiará la sociedad probablemente de manera similar a como lo hicieron los automóviles y los aviones, en efecto ha cambiado la sociedad - baste pensar en los robots industriales, en los puestos de trabajo, que son un factor importante respecto a la  creciente desocupación en Europa. Esta amplia visión de los cambios sociales y en consecuencia de nuestras opiniones, incluidos nuestros valores morales, es fundamental. Podría ser necesaria una redefinición de lo que significa ser humano. Por ejemplo, la Carta Europea de los derechos humanos está centrada sobre el hombre. El uso masivo de robots podría representar un reto para esta perspectiva antropocéntrica.

¿Por qué queremos vivir con los robots? ¿Por qué vivimos con los robots? Hay varios niveles de reflexión cuando se responde a estas preguntas, iniciando con lo trivial, según el cual, los robots pueden ser muy útiles y por lo tanto indispensables, por ejemplo, en la producción industrial moderna, o cuando se tiene que ver con situaciones en que los peligros para los seres humanos son grandes. Pero antes de hacer una reflexión en esta dirección vemos la perspectiva de lo que René Girard llama “deseo mimético” (Girard 1972).

La relación entre seres humanos y robots puede ser concebida como una relación de envidia en la cual los humanos envidian a los robots por lo que son o envidian a otros humanos porque poseen robots que ellos no tienen. En el primer caso, la envidia puede ser positiva si el robot es considerado como un modelo a imitar o negativa si la relación degenera en se rivalidad.

Esta última posibilidad se ejemplifica en muchas películas y novelas de ciencia ficción en las cuales los robots y los seres humanos se supone que compiten. Los robots son representados como androides sin emociones, carentes de sentido moral y por lo tanto menos “válidos” que los humanos. Por ejemplo, 2001 Odisea del espacio (Stanley Kubrick 1968) o la novela de Stanislaw Lem, Golem XIV (Lem 1981).

El conflicto mimético surge no sólo por el hecho de imitar lo que un robot puede hacer, más en general, por el hecho de imitar lo que se supone “será” deseado. Pero los deseos de un robot paradójicamente son nuestros porque nosotros somos los creadores. Las opiniones positivas y negativas sobre los robots arrojan luz sobre la auto-comprensión  humana que conduce a la idea de mejorar las capacidades humanas, por ejemplo, implementando dispositivos artificiales en el cuerpo humano.

Cuando los robots son utilizados por los humanos para diversos fines, esto crea una situación en la que el “deseo mimético” es articulado como una cuestión de justicia (un futuro “robot divide”) o como una nueva especie de envidia. Esta vez el objeto de la envidia no es el robot mismo, es otro ser humano que lo usa/lo posee.

El dilema ético fundamental respecto a los robots es por tanto no sólo la cuestión de su buen o mal uso, sino la cuestión de nuestra relación con nuestro propio deseo, con todo su dinamismo mimético creativo y destructivo que comprende no sólo estrategias como la envidia, la rivalidad y el modelo a seguir, también su utilización banal como instrumento que puede incluso convertirse en una cuestión de justicia social.

Los robots pueden ser vistos como máscaras del deseo humano. Nuestro “deseo mimético” podría influenciar (pero ¿cuánto?) su valor de intercambio en el mercado. Nuestra historia de amor con ellos abre un informe de doble vínculo que incluye toda la gama de pasiones humanas, de la indiferencia a la rivalidad y a la violencia, pasando de la idealización, aunque esto podría no ser el caso respecto al estado del arte contemporáneo en robótica, porque los robots aún están exentos de inteligencia y de un comportamiento de la robótica no previsible. Es tarea de la reflexión ética ir más allá de la dimensión económica a fin de descubrir el mecanismo que hace posible la invención, la producción y el uso de robots de todo tipo. Estos mecanismos se basan en las pasiones miméticas humanas relativas tanto a un individuo como a una escala social. En sentido mítico los robots son vividos por nuestra sociedad tecnológica y secularizada como chivo expiatorio por el cual se concibe “la humanidad” del género humano cuya expresión más alta y global es la Declaración Universal de los derechos del hombre. Desde esta perspectiva mítica los robots son la buena y la mala conciencia de nosotros mismos. Nos ofrecen la posibilidad de un discurso moral sobre nosotros mismos pero, al mismo tiempo apartan la atención de la intolerable situación de violación de estos derechos frente a los verdaderos seres humanos. En otras palabras, una reflexión ética sobre los robots debe tener en cuenta estas trampas, en particular cuando se consideran los peligros del deseo mimético respeto a la dignidad humana, a la autonomía o a la protección de los datos. Ésta debe reflejar la relación de doble vínculo entre humanos y robots. Si los robots reflejan nuestro deseo mimético debemos desarrollar estrategias individuales y sociales, a fin de desenmascarar el objeto inalcanzable por el que luchamos y que se transforma en peligro cuando aparece como la realización en vista de la cual todo, incluidos nosotros mismos, debería ser visto como un medio para un fin. El concepto de dignidad humana es nuestra marca distintiva, además nuestro propio deseo. Es una marca de auto trascendencia independientemente de las promesas tecnológicas y/o religiosas. Nos permite evitar barreras ideológicas o fundamentalistas regulando al mismo tiempo la dinámica del deseo mimético.

El concepto de robot es ambiguo. Según Karel Čapek, quien ha acuñado, en primer término, que un robot es un dispositivo artificial similar al hombre, un androide, capaz de ejecutar autónomamente, es decir, sin la permanente conducción humana, distintos tipos de tareas en particular en el ámbito de producción industrial. Los robots no sólo son antropomórficos, sino también los dispositivos artificiales que imitan distintos tipos de seres humanos, tienen una larga tradición. Los actuales robots industriales a menudo no son similares al hombre. Es una tensión entre productos artificiales tecnoides y naturoides (Negrotti 1995, 1999, 2002)[1]. El concepto mismo de artificial está vinculado a algo que es producido por la naturaleza y que  imita al hombre. Crear algo similar pero no idéntico a un producto natural significa que cualquier cosa puede clasificarse como artificial, esto marca  la diferencia respecto a lo natural y a lo original (Negrotti). Los robots son diseñados como agentes físicos. Con el surgimiento de la tecnología informática se han desarrollado softbots (fusión de software y robots, son robots virtuales que navegan en la red, por ejemplo, seleccionan informaciones específicas sobre un tema requerido) o agentes software que tienen un impacto también en el mundo físico tanto que es difícil trazar un frontera clara. Es el caso de hibridación entre humanos y robots (cyborgs). En efecto, no sólo los individuos, sino la sociedad entera son afectadas por un proceso de cyborgización.

¿Qué son los robots? Son productos de los sueños humanos (Brun 1992, Capurro 1995). Cualquier idea de robots implica el objeto oculto de nuestro deseo. Los robots son por lo tanto las imágenes (del griego: agalma) dentro de la máscara de un sátiro. Según la interpretación psicoanalítica de Jacques Lacan (Lacan 1991), siguiendo el relato platónico del encuentro amoroso entre Sócrates y Alcibiades en el Symposio (222), estos “pequeños objetos” son el objetivo inalcanzable e imposible del deseo humano. Platón en el Timeo: describe la obra del demiurgo que plasma el mundo a imagen (agalma) del divino como una obra de alegría y por lo tanto un estímulo para hacer la copia más similar al original (parádeigma) (37c).

En definitiva, nuestros valores o el objetivo de nuestro deseo están inmersos en todos nuestros dispositivos tecnológicos y en particular en el tipo de productos en los que se mimetiza nuestra identidad humana. Por ello, la cuestión no es sólo ¿cuáles valores estamos tratando de alcanzar sino por qué lo estamos haciendo? Los robots son un espejo de valores culturales compartidos que nos mostramos a nosotros mismos y a los demás, mostramos  quién queremos ser. Nosotros nos redefinimos  en comparación con los robots, del mismo modo en que nos redefinimos con respecto a los animales y a los dioses. Estas redefiniciones tienen implicaciones de carácter económico y cultural de gran alcance.

Pero, ¿quién de “nosotros” se dicta esta especie de discurso psicoanalítico? ¿Qué decir de una cultura de ingeniería que es principalmente la implicada en el desarrollo y en el diseño de robots? En los enfoques de género “nosotros” reivindicamos una cultura masculina de la producción tecnológica. Así todas las personas tienen el mismo tipo de relación de doble vínculo con los robots. ¿Y qué decir de las diferencias culturales? ¿Cómo se vive en un entorno tecnológico? ¿Cuál es el impacto de los robots sobre la sociedad? ¿En qué forma, nosotros, en calidad de usuarios, tratamos con  los robots? ¿Qué métodos y medios son hoy utilizados para asentar la interfaz hombre-máquina? ¿Qué pensar de las emociones y los estereotipos de las normas sociales?

¿Que tipo de lenguaje/retórica se utiliza en describir la problemática de actor y máquina -cuál es la que queremos utilizar? En el campo de la inteligencia artificial y la robótica nos encontramos  a menudo con uso bastante aproximado del lenguaje, que refuerza la tesis de agentes antropomorfizados. Este lenguaje implica a menudo la intencionalidad y la autonomía de los actores -por ejemplo como en todos aquellos casos en que los investigadores hablan del aprendizaje, las experiencias, las emociones, la capacidad de saber tomar decisiones (y así sucesivamente) de los actores. ¿En qué forma vamos entonces a tratar esta problemática en el ámbito científico y en nuestras prácticas sociales? Los robots no son productos hermosos y dispuestos a uso, de ingenieros e informáticos, sino dispositivos y tecnologías emergentes que toman forma en el curso de su realización. ¿Cuáles son las consecuencias del hecho de que hoy los dispositivos TI (Tecnología de información) son exclusivamente puestas a punto de ingenieros y de informáticos? ¿Cuál es el significado de este informe del siervo respecto al robot? ¿Y cómo los robots  pueden verse como socios de contextos y escenarios diferentes?

La actual investigación sobre los robots sociales está concentrando toda su atención sobre la creación de sistemas interactivos que sean capaces de reconocer a los otros, interpretar los gestos y las manifestaciones verbales, que reconozcan y expresen emociones y que estén dotados de capacidad de aprendizaje social. Una pregunta central concerniente a la robótica social es en qué forma la creación de determinada tecnología podrá forjar la comprensión de nosotros mismos y cómo esta tecnología tendrá  impacto en la sociedad. Para comprender las implicaciones de ciertos acontecimientos es importante analizar los conceptos principales de la robótica social, tales como lo social, la sociabilidad, las interacciones de la naturaleza y la humana manera de ser. Las preguntas principales son, entonces: ¿Qué conceptos de sociabilidad se traducen en acción de la robótica social? ¿En qué forma el comportamiento social se ha conceptualizado, plasmando y convertido en instantáneo en los procesos de implantación del software? ¿Y cuáles son los tipos de comportamientos sociales que queremos dar forma para implementarlos en artefactos?

Existe la tendencia a tener robots programados, estos últimos sobre la base de algunos aspectos del comportamiento humano más que a la realización de ellos sobre un verdadero androide (Arnall 2003). El logro de una relativa autonomía es una meta pensada tanto para los physical robots, tanto para los softbots. ¿Cuál es el significado de autonomía en robótica? ¿Cuáles son las afinidades y cuáles las diferencias si abordamos el discurso desde el punto de vista de la robótica y desde el punto de vista filosófico?

Evidentemente experimentaremos un fuerte desplazamiento bidireccional del concepto de autonomía (como sociabilidad, emoción e inteligencia) entre los discursos y las distintas disciplinas. ¿En qué forma la transferencia de conceptos entre disciplinas - y sobre todo el fuerte impacto de la robótica - modifica los significados tradicionales de conceptos, tales como autonomía, socialización, emoción e inteligencia? Haciendo referencia a la Carta de los derechos fundamentales de la Unión Europea (arts. 1, 3, 6, 8, 25, 26) pueden surgir las siguientes preguntas: ¿Quién es considerado responsable por los resultados no deseados de las acciones realizadas por grupos híbridos de hombre-máquina? ¿En qué forma las autoridades de inteligencia artificial deben regular el monitoreo y la elaboración de los datos? ¿Las instalaciones biónicas pueden ser usadas para aumentar las capacidades físicas y mentales, más que para reestructurarlas?

Las tres preguntas afrontan la posibilidad que tienen un efecto inmediato sobre los distintos seres humanos porque la responsabilidad es tradicionalmente atribuida a los distintos actores (incluidos los individuos); el derecho del hombre a la intimidad protección la capacidad de vivir de manera autónoma; las mejoras son en beneficio exclusivo de cada persona. Sin embargo, la importancia de la integración hombre-robot va más allá del nivel del individuo y aborda la cuestión sobre cómo la sociedad o la comunidad podría y debería parecerse más a las modalidades en que el robot vendrá a integrarse.

Probablemente sólo algunos miembros de una colectividad o comunidad podrán interactuar con ciertos tipos de robot; se piensa, por ejemplo los robots programados para el entretenimiento de los ricos, o para la asistencia a las personas mayores y a los enfermos y así sucesivamente. Este tipo de interacción con las máquinas también podría construir nuevas formas de comunidad.

Una atención particular debería ser prestada a la detección de qué grupos de personas podrían probablemente ser capaces de interactuar con algunos tipos de robots, en un cierto contexto, manteniendo, al mismo tiempo, la perspectiva del impacto de las especificaciones interacciones con las comunidades y sociedad en la que estas formas específicas de interacción tienen lugar.

Las tres formas de integración del hombre- robot pueden incluir tanto aspectos que violan, como a otros que apoyan los derechos y la dignidad humana. Por otra parte, se sabe que la misma tecnología tiene efectos positivos y negativos.

La infraestructura de vigilancia podrá ser considerada dañina en tanto atenta contra la intimidad, pero también pueden permitirnos crear nuevos tipos de comunidad. Los beneficios potenciales o daños pueden ser causados por determinadas formas de integración hombre-robots. ¿En qué forma podemos hacer desaparecer los conflictos derivados, sobre todo en el caso en que exista un conflicto entre la perspectiva individual y el de una sociedad o comunidad? Ciertas mejoras podrían ser consideradas como un beneficio para el individuo pero también plantear nuevas soluciones, por ejemplo: ¿sólo una élite de personas podrían ser capaces de transformarse en organismos biónicos? O - en la peor hipótesis - ¿los desocupados deberían por fuerza poseer dispositivos especiales que les permitan realizar determinadas actividades laborales?

En este momento no es necesario abordar el discurso de si los robots deben ser vistos como personas. Las actuales cuestiones éticas hacen de la responsabilidad humana el problema fundamental, que debe ser abordado sobre la base de una investigación moral sobre tecno-ética. Todo esto puede implicar preguntas del tipo: ¿quién y cómo - conforme a qué principios - deberían imputarse responsabilidades y a quiénes en los casos que impliquen la integración hombre-robot? Y ¿cuáles deberían ser las consecuencias de semejante imputación? ¿Quién es responsable del diseño, del progreso y del mantenimiento de una infraestructura en que las informaciones de las personas son reunidas y elaboradas? ¿De qué modo la posibilidad de una integración invasiva hombre-robot influye en el concepto de responsabilidad? Esto último incluye dos interrogantes: el hecho de que el ser humano sea “mejorado”, ¿conduce a un tipo de responsabilidad especial? ¿Cuáles son las consecuencias para los responsables de ofrecer el soporte tecnológico utilizado para conseguir este desarrollo?  

Al afrontar el problema de la responsabilidad deberíamos considerar la existencia de diversos niveles de responsabilidad, incluso cuando se atribuye la responsabilidad a un individuo, que podría ser considerado responsable de algo inherente a su bienestar personal, el propio ambiente social (amigos, familia, comunidad), su propio rol específico (en la esfera profesional o privada) de ciudadanos que tienen responsabilidades frente a la sociedad o el estado en que cada uno vive, o, simplemente, en cuanto ser humano. Esto implica, además, la pregunta sobre si y cómo la responsabilidad pueda ser delegada. Y si las instituciones pueden ser éticamente responsables respecto a los robots.

Los robots son en medida inferiores a nuestro servicio - y esta es una proyección del deseo mimético de las sociedades en que la esclavitud era consentida  y/o sostenida - de lo que sea cualquier instrumento utilizado en la interacción humana. Esto plantea cuestiones en términos de derecho a la confidencialidad y a la confianza (Arnall 2003, 59) aunque también sobre la forma en que nosotros nos definimos como personas que trabajan en la industria, en los servicios y en el ámbito del entretenimiento. Todo esto se refiere a las diversas aproximaciones culturales presentes en Europa y en otras culturas respecto a los robots, que pueden tener efectos diversos en el mundo global. Culturas diversas tienen puntos de vista diversos sobre conceptos como autonomía y dignidad humana.

 

Bibliografia

Arnall Alexander Huw, Future Technologies, Today’s Choices. Nanotechnology, Artificial Intelligence and Robotics: A technical, political and institutional map of emerging technologies. A report for the Greenpeace Environmental Trust, 2003.

Brun Jean, Le rêve et la machine. Technique et Existence, Paris, 2003.

Capurro Rafael, On Artificiality, IMES (Istituto Metodologico Economico Statistico, Università di Urbino), IMESLCA WP-15 November, 1995.

Girard René, La Violence et le sacré, Grasset, Paris, 1972.

Lacan Jacques, Le séminaire. Livre VIII. Le transfert, Seuil, Paris, 1991

Lem Stanislaw, Golem XIV, Krakow, 1981

Negrotti Massimo, Artificialia. La dimensione artificiale della natura umana, Clueb, Bologna, 1995

Negrotti Massimo, The Theory of the Artificial, Intellect, Exeter,1999

Negrotti Massimo, Naturoids. On the Nature of the Artificial, World Scientific, New Jersey, 2002
 



[1] Naturoide: “objeto generado por el hombre e inspirado en algún ejemplar perceptible en un nivel determinado de observación” (Massimo Negrotti, La terza realtà. Introduzione alla teoria dell’artificiale, E. Dedalo, Bari 1997, p. 89). Tecnoide: “objeto que muestra características y propiedades similares a las del ejemplar, numéricamente más modestas, relativas al conjunto de las prestaciones integrales que emergen de lo artificial” (ibid. p.89).


Ultimos cambios: 4 de julio de 2017



   

Copyright © 2017 by Rafael Capurro, all rights reserved. This text may be used and shared in accordance with the fair-use provisions of U.S. and international copyright law, and it may be archived and redistributed in electronic form, provided that the author is notified and no fee is charged for access. Archiving, redistribution, or republication of this text on other terms, in any medium, requires the consent of the author.


 
Regreso a la ciberoteca 
 
Página en español Investigación Actividades
Publicaciones Enseñanza Entrevistas