LA RESPONSABILIDAD MORAL

NO PUEDE SER DELEGADA A ALGORITMOS

Rafael Capurro

  
 
 
 

[El martes 29 de noviembre de 2016 el Director General de Continental, el Dr. Elmar Degenhart, discute en Berlín sobre el tema de automóviles autónomos con Rafael Capurro a invitación de la Asociación de la indusrtria automotriz]


Los automóviles, al igual que otras herramientas, son parte de una red simbólica y pragmática, es decir, del mundo que los seres humanos compartimos. Las categorías de autonomía y subjetividad eran fundamentales para la forma como nos concebimos como seres supuestamente libres en la Edad Moderna. Es paradójico que en el momento mismo en que nos hemos dado cuenta que ya no estamos  aislados,  que no somos sujetos individuales, sin mundo, con una especie de autonomía 'noumenal' (I. Kant), proyectamos estas categorías en los llamados 'automóviles autónomos'. La programación algorítmica de reglas morales y/o legales no involucra el mismo tipo de reflexión social tradicionalmente llamada ética o filosofía práctica. Es engañoso pensar en la ética 'occidental' como 'individualista'  y sugerir que necesitamos ampliar esta ética individualista con alguna forma de 'moralidad distribuida'.

La moral (del latín: mos/mores = costumbres), entendida como reglas (implícitas o explícitas) de conducta humana, es esencialmente distribuida, es decir, social, y la reflexión ética sobre tales reglas tiene lugar también de una manera distribuida. Esto no quiere decir que no tiene sentido programar reglas en máquinas que no saben nada respecto a  lo que es una regla, o lo que significa seguir una regla (L. Wittgenstein).

La presente discusión – por no decir: obsesión sobre problemas éticos y legales de los automóviles autónomos puede ser interesante para filósofos, pero nos desvía de los problemas más amplios y urgentes de la movilidad en la era digital. La discusión está presionada por los global players de la industria digital y no apunta, por supuesto, a lo mejor para la humanidad, sino a la recolección de la mayor cantidad posible de datos personales para su uso comercial y con diversos fines politicos. El desafío no son los automóviles autónomos sino diversas formas de conectar automóviles a redes digitales, o sea de 'des-auto-movilizarlos' y no de autonomizarlos.

Esto no significa que la tecnología digital no pueda y deba ser utilizada para crear nuevos sistemas de tráfico menos mortales y más eficientes que los que tenemos actualmente, sobre todo con miras a reducir el número de accidentes, los atollamientos de tráfico, la emisiones que envenenan el medio ambiente o el ruido producido por los automotores en nuestras ciudades y carreteras. Necesitamos una reflexión ética interdisciplinar sobre sobre la movilidad siendo esto algo que concierne no sólo a la vida social sino también al futuro del planeta. Los automóviles con diversos grados de 'autonomía' pueden ser, en determinados contextos, una posible contribución a la seguridad del tráfico, pero también pueden transformarse en parte del problema sobre todo si se cree que se puede delegar la responsabilidad moral a algoritmos.

Es necesario crear además una estructura digital apropiada que sostenga, por así decirlo, esta forma de movilidad y que haga una diferencia con las carreteras y calles creadas en la era industrial. Finalmente es importante tomar en cuenta diferentes entornos geográficos, culturales y legales que subyacen a los sistemas actuales de (in-)movilidad y que han de tenerse en cuenta cuando se trata de crear algoritmos para automóviles autónomos. El pronóstico de que dichos automóviles van a reducir el número de accidentes mortales es algo que no puede probarse a priori.

Finalmente, lo que es más necesario, es crear grupos de reflexión sobre el tema de la movilidad en la era digital, en diversos niveles y con diversos objetivos. La discusión iniciada por la Asociación de la industria automotriz es un buen paso en esa dirección.

Más sobre este tema:

Digitization as an ethical challenge
Living with online robots
The quest for roboethics: a survey


Agradecimiento

Agradezco a Miguel Angel Pérez Álvarez (UNAM, México) por la traducción de este texto del inglés al castellano.

Ultima modificación: 22 de noviembre  de 2016

 

     

Copyright © 2016 by Rafael Capurro, all rights reserved. This text may be used and shared in accordance with the fair-use provisions of U.S. and international copyright law, and it may be archived and redistributed in electronic form, provided that the author is notified and no fee is charged for access. Archiving, redistribution, or republication of this text on other terms, in any medium, requires the consent of the author.

 

 
Regreso a la ciberoteca 
 
Página en español Investigación Actividades
Publicaciones Enseñanza Entrevista