Prólogo publicado en
la obra Digitale Ethik editada por Petra Grimm, Kai
Erik Trost y Oliver Zöllner. Editorial Nomos,
Baden-Baden 2024, pp. 17-24.
Serie: NomosHandbuch.
ISBN: 978-3-7560-1120-9
Traductor: Maximiliano Rodríguez Fleitas
Norbert
Wiener (1894-1964) y Joseph Weizenbaum (1923-2008)
son considerados pioneros de lo que hoy se denomina
ética digital
(Wiener, 1950; Weizenbaum,1976). El término ética digital
lo escuché por primera vez en 2009, cuando la
Academia de Estudios Coreanos me pidió que
escribiese una ponencia con este título para el Foro
Global sobre Civilización y Paz (Capurro, 2010a).
Otros términos con significados parcialmente
coincidentes son: ética de la información, ética
informática, ciber
ética, ética de las redes o ética de los
medios. Recientemente, a partir del trabajo
preliminar de Stalter sobre la cultura de la
digitalidad (2016), también se ha impuesto el
término ética
de la digitalidad (Noller, 2022). Entiendo digitalidad
como un horizonte epocal de comprensión y acción
digital al que llamo ontología
digital (Capurro 2010b, 2017). La bibliografía
del International
Center for Information Ethics (ICIE), fundado
por mí en 1999 y alojado en el ZKM Karlsruhe (Centro
de Arte y Medios), registró aproximadamente 700
monografías en el ámbito de la ética de la
información y áreas afines publicadas entre 1976 y
2016 (ICIE, 2025). El ICIE
tuvo su sede en la Universidad de Alberta (Canadá)
desde 2018 hasta 2022, y a partir de ese año se
trasladó al IBICT (Instituto Brasileiro de
Informação em Ciência e Tecnologia), en Río de
Janeiro.
1. Ética y
moral
Las
normas y valores de una sociedad forman lo que
se llama, siguiendo el origen latino de la
palabra, moral
(lat. mos,
pl. mores).
La ética es la problematización de la moral. La
tarea de la ética digital es problematizar las
normas y valores que constituyen los fundamentos
y fenómenos asociados a la digitalidad. Analiza
lo que se ha vuelto problemático. La distinción
entre ética y moral es fundamental si queremos
evitar un quid
pro quo, es decir, un malentendido
fundamental que se produce con frecuencia en los
discursos actuales sobre los medios de
comunicación. Niklas Luhmann habla de la ética
como una teoría reflexiva de la moralidad
haciendo referencia a la distinción aristotélica
entre ethos
(carácter, costumbre) y philosophia
ethiké (ética como disciplina filosófica)
(Luhmann, 1996, pp. 319-320) y considera que
«quizá la tarea más urgente de la ética sea
advertir sobre la moralidad» (Luhmann, 1990, p.
41).
Una
problematización ética de la digitalidad se basa
en la diferencia entre ser-quién y ser-qué
(Capurro, Eldred, Nagel, 2013). Esta diferencia
amenaza con perderse si el ser-quién solo se
entiende desde la perspectiva del ser-qué como
resultado de la cosificación digital. Immanuel
Kant (1974) entendió la diferencia ética de tal
modo que el ser humano tiene «no solo un valor
relativo, es decir, un precio, sino un valor
intrínseco, es decir, dignidad». El hombre como
«ser racional» es:
un fin
en sí mismo y por ello mismo como legislador en
el reino de los fines, respecto a todas las
leyes naturales como libre, obedeciendo sólo a
aquellas que él mismo se da y según las cuales
sus máximas pueden pertenecer a una legislación
general (a la que al mismo tiempo se somete)
(Kant, 1974, pp. 77-78).
«La
autonomía», continúa, «es así el fundamento del
devenir de la naturaleza humana y de toda
naturaleza racional» (Kant, 1974, pp. 77-78).
Aunque la Fundamentación
de la metafísica de las costumbres de
Kant, que se basa en el dualismo entre el reino
sensible de la naturaleza y el reino de los
fines suprasensible, es problemática, hay que
señalar que el hombre como ser autónomo no está
más «meramente» sujeto a las leyes de la
naturaleza que a las leyes de la economía o de
la técnica. Para Kant, la fuerza del juicio,
cuyo centro es la fuerza de la imaginación,
representa el vínculo entre la razón pura o
reflexiva y la razón práctica. Mediante el poder
de la imaginación podemos trascender nuestros
horizontes de comprensión y acción para
formarnos una nueva comprensión del mundo. Esta
posibilidad de trascendernos a nosotros mismos,
de autotrascendernos, de relacionarnos con algo
distinto de nuestra propia persona, constituye
la libertad y el devenir del ser-en-el-mundo del
hombre. La orientación de la ética en relación
con la autonomía de la razón no implica que
debamos concebirnos como «psique-cápsulas»
(Boss, 1975, p. 237) separadas del llamado
mundo exterior, sino que podemos experimentar
las mismas cosas de un mundo común en
cooperación con otras personas y para ellas.
Hannah Arendt (1983) escribe:
La
inconfundible singularidad de quién-es-uno, que
se manifiesta de forma tan tangible en el habla
y la acción, elude cualquier intento de
expresarla claramente en palabras. En cuanto
intentamos decir quién es alguien, empezamos a
describir características que ese alguien
comparte con otros y que no le pertenecen en su
unicidad (p. 171).
2. Homo
digitalis
Una
tarea central de la ética digital es
problematizar la digitalidad a partir de aquello
que omite o excluye, en la medida en que, como
horizonte digital universal de comprensión y
acción, solo capta la relación entre los seres
humanos y el mundo desde la perspectiva de la
digitalización. La otra cara de la digitalidad,
la materialidad, corre siempre el riesgo de
desaparecer, aunque el soporte físico sea una
condición sine qua non de la digitalidad. La
ética digital, la bioética y, por último, la
ética ecológica, por citar solo estos tres
ámbitos de la ética, están estrechamente
vinculadas. El tratamiento de los residuos
electrónicos, por ejemplo, afecta a la
sostenibilidad de la sociedad digital, así como
a cuestiones de justicia, por ejemplo, cuando se
trata de exportaciones al llamado tercer mundo.
La naturaleza y todas las cosas naturales y
artificiales, digitales y no digitales, que son
remodeladas o creadas de nuevo por los seres
humanos, tienen cada una su propio estatus único
si se entienden desde la perspectiva de una
autotrascendencia que se lleva a cabo entre los
seres humanos y el mundo compartido, pero no
solo en relación con ellos, esto es,
antropocéntrica o humanísticamente. Esto hace
posible también que puedan entenderse la
naturaleza, las cosas y los seres humanos mismos
como algo más que meras mercancías con valor de
cambio. Por eso es importante problematizar
éticamente la autoimagen actualmente imperante
del hombre como homo
digitalis y su relación entre sí, con la
naturaleza y las cosas (Capurro, 2017).
3.
Enseñanza e investigación
La
enseñanza y la investigación en el ámbito de la
ética digital están a la orden del día. En un
mundo globalizado, la ética digital no solo
tiene una dimensión universal, sino también
intercultural (Capurro, 2008, 2016). El objetivo
principal no es una mera apelación moral ni la
elaboración de códigos y reglamentos éticos.
Estos últimos son códigos morales, fijaciones
preliminares al final de una reflexión ética
inconclusa (Ladd, 1985). La ética digital no
debe imaginar ni presumir que posee un
conocimiento especializado que, como tal,
confiera al experto una autoridad moral de
interpretación. Los conocimientos de los
autoproclamados expertos morales son
especialmente problemáticos porque ninguna
reflexión ética puede sustituir a la propia
conciencia moral. La investigación y la
enseñanza también son insustituibles en este
ámbito cuando se trata de desarrollar análisis
críticos bien fundados que acompañen y subyazcan
al respectivo proceso de toma de decisiones
individuales o sociales. Sin embargo, esto a su
vez no exime a los implicados de su
responsabilidad personal y del riesgo de
cualquier decisión. La reflexión ética metódica
pretende dotar a las acciones y a los actores de
una amplitud y profundidad que siempre sigue
siendo problemática y pretende contribuir a la
justificación de las decisiones. Las normas y
los valores no se encuentran en un paraíso
suprasensible, sino que deben reflejarse y
aplicarse contextualmente en cada caso, incluso
y sobre todo cuando están codificados
(Nissenbaum, 2010). La investigación y la
enseñanza deben ser llevadas a cabo por la
sociedad en su conjunto y no por cuenta de
empresas privadas, aunque estas puedan
contribuir a la problematización de la
digitalidad en el marco de sus objetivos y al
servicio de la sociedad —en el sentido de la
responsabilidad social corporativa—.
El
asesoramiento ético en el marco de las
instituciones políticas tiene un sentido
especial. Los miembros de los consejos de ética
de los organismos políticos no deben ser
nombrados como representantes de partidos
políticos o como grupos de presión de intereses
particulares, sino únicamente en función de sus
cualificaciones profesionales en el ámbito
respectivo de la ética (Capurro, 2010c). Las
instituciones públicas que tienen una
responsabilidad especial en materia digital
deben crear consejos de ética.
4.
Inteligencias digitales
La
problematización ética de la inteligencia
artificial (IA) o, como yo prefiero decir, de
las inteligencias
artificiales (en plural), en la actualidad
está en boca de todos, concretamente, en todos
los medios de comunicación. Esto da a veces la
impresión de que la ética y la IA son un tema
totalmente nuevo. Sin embargo, este debate se
lleva produciendo desde mediados del siglo
pasado (véase Capurro 2020). El término inteligencia
artificial se utilizó por primera vez en
un taller celebrado en el Dartmouth College en
1956, al que asistieron Allen Newell, Herbert
Simon, John McCarthy, Marvin Minsky y Arthur
Samuel (McCorduck, 1979). Una posible razón para
el uso del singular fue probablemente que en
aquella época solo existía el ordenador (Coy,
2020). Con la aparición de Internet y la
interconexión global de cosas de todo tipo
—Internet de las cosas—, ahora parece apropiado
utilizar este término en plural.
El
informático estadounidense Donald Knuth comenzó
a publicar en 1968 su obra de referencia The Art of
Computer Programming, cuyo eje central es
el concepto de algoritmo.
Un algoritmo es algo así como una receta para
resolver un problema específico con las
siguientes propiedades: finitud, definición,
entrada, salida, efectividad —«finiteness,
definiteness, input, output, effectiveness»
(Knuth, 1968, 1969, 1973, como se citó en
Ziegenbalg, 1996, p. 23)—. A principios de la
década de 1990, la Asociación de Ingenieros
Alemanes (VDI por sus siglas en alemán) formó un
grupo de reflexión interdisciplinar que se
centró en el tema de la «Inteligencia
Artificial: Principios rectores y
responsabilidad» (Capurro, Seetzen, 1992).
Treinta años después, los algoritmos se utilizan
en todos los ámbitos de la vida social. Desde el
principio se entrelazan con normas y valores
culturales, lo que hace necesaria una reflexión
ética, jurídica y política, así como una
aplicación práctica (Capurro, 2019a). Las
inteligencias artificiales han pasado a formar
parte del mundo físico en forma de robots. Esta
es una de las razones por las que el campo de la
ética robótica se ha convertido en un punto
focal de la ética digital (Tzafestas, 2016).
Es
importante prestar atención a la diferencia
ética entre ser-quién y ser-qué, tanto en el
desarrollo como en la aplicación y el uso de la
inteligencia artificial (Capurro, 2019b). Las
máquinas inteligentes no tienen moralidad y son
incapaces de problematizarse éticamente, a menos
que se transformen en filósofos socráticos (Lem,
1984). La moralidad de las máquinas debe
entenderse siempre en el sentido del genitivus
obiectivus. Somos nosotros,
desarrolladores y usuarios, quienes les
imprimimos nuestras normas y valores morales de
forma digitalmente reificada. Quién paga por los
daños que causan debe aclararse jurídicamente.
5. Res
publica digitalis
La
digitalidad es hoy la perspectiva dominante
sobre el mundo y sobre nosotros mismos.
Establecerla como un absoluto y entender la vida
solo como onlife
conduce a diversas formas de decadencia en la
vida cotidiana y en la organización de la
comunidad política (Capurro, 2015, 2018). El
debate ético, jurídico y político sobre la
brecha digital ha acompañado el desarrollo de
internet durante los últimos quince años
(Scheule et al., 2004). Nuevas formas de
desigualdad y nuevos conceptos para superarlas
han surgido desde la Cumbre
Mundial sobre la Sociedad de la Información
(CMSI), que tuvo lugar bajo los auspicios de las
Naciones Unidas en Ginebra en 2003 y en Túnez en
2005. Observo un reto político importante en no
dejar el campo de la comunicación digital
predominantemente o incluso únicamente en manos
del sector privado. Desde este punto de vista,
el Estado solo es responsable de la
infraestructura y la legislación, lo que ha dado
lugar a un poder sin precedentes de algunas
empresas tecnológicas. Estas han desarrollado
recientemente una llamativa preferencia por la
ética —o al menos por el término como etiqueta—,
probablemente con el objetivo de poder
establecer sus propias normas y valores para
depender menos de la normalización estatal
(Graff, 2020). Por el contrario, el sector
público debe crear servicios públicos de
comunicación digital en los que los usuarios
puedan estar razonablemente seguros de que sus
datos no se utilizan solo con fines lucrativos o
como conjuntos de datos de entrenamiento para la
inteligencia artificial. Sin embargo, esto
también significa prestar atención a las
posibilidades y límites legales de la acción
estatal en el sector de las comunicaciones en lo
que respecta a las posibilidades de vigilancia.
En este contexto, considero que la finalidad de
portales como Netzpolitik.org es la vigilancia
crítica.
6. ¿Qué se
deduce de ello?
La ética
digital se ve a sí misma como una ética política
cuando se trata de problematizar la digitalidad
de la res
publica y la res privata
y su relación. No es posible determinar de
antemano y de una vez por todas qué significa
esto para la configuración de la sociedad civil,
es decir, para pensar y reflexionar sobre los
futuros digitales en la vida de cada individuo y
en la vida social, qué formas de vida auténtica
y qué formas de decadencia de (no) ser uno mismo
están ya abiertas o siguen ocultas en la
interacción digital con los demás en un mundo
compartido. Es una tarea que no solo concierne a
una disciplina académica, sino que debe
problematizarse en el ethos
o modo de ser cotidiano de las personas en la
tensión entre digitalidad y materialidad
(Capurro, 1995). En este sentido, deseo a este
manual de ética digital el mayor de los éxitos y
una amplia difusión y recepción.
Referencias
bibliográficas
Arendt, H. (1983). Vita activa
oder Vom tätigen Leben. München: Piper.
Boss, M. (1975). Grundriss
der Medizin und der Psychologie. Bern:
Huber.
Capurro, R. (1995). Leben im
Informationszeitalter. Berlin: Akademie
Verlag.
Capurro, R. (2008).
Intercultural Information Ethics. En: Himma, K.
E. y Tavani, H. T. (eds.), The
Handbook of Information and Computer Ethics (pp.
639-665). New Jersey: Wiley, S.
Capurro, R. (2010a).
Digital Ethics. En: The Academy of Korean
Studies (ed.), 2009 Global
Forum Civilization and Peace (pp.
203-214). Seoul: Jimoondang, S.
Capurro, R. (2010b).
Einführung in die digitale Ontologie. En: Banse,
G. y Grunwald, A. (eds.), Technik und
Kultur – Bedingungs- und
Beeinflussungsverhältnisse (pp. 217-228).
Karlsruher Institut für Technologie (KIT),
Scientific Publishing, S.
Capurro, R. (2010c).
Ethics and Public Policy in Europe. En: Rodotà,
S. y Zatti, P. (eds.), Trattato di
Biodiritto. Vol.1, Rodotà,
Stefano/Talllacchini, Mariachiara (eds.):
Ambito e fonti del biodiritto (pp.
849-860). Milano: Giuffrè, S.
Capurro, R. (2015).
Leben in der message society. En: Hruschka, J. y
Joerden, J. C. (eds.), Jahrbuch
für Recht und Ethik, Bd. 23 (pp. 3-15).
Berlin: Duncker & Humblot, S.
Capurro, R. (2016).
Informationsethik und kulturelle Vielfalt. En:
Heesen, J. (ed.): Handbuch
Medien- und Informationsethik (pp.
331-336). Stuttgart: Metzler.
Capurro, R. (2017). Homo
Digitalis. Beiträge zur Ontologie,
Anthropologie und Ethik der digitalen Technik.
Heidelberg: Springer VS.
Capurro, R. (2018).
Digitale Zukünfte. Res Publica Digitalis. Agora, 42 (2), pp. 64−68.
Capurro, R. (2019a).
Ethical Issues of Humanoid-Human Interaction.
En: Goswami, A. y Vadakkepat, P. (eds.), Humanoid
Robotics: A Reference (pp. 2421-2425).
Dordrecht: Springer.
Capurro, R. (2019b).
Enculturating Algorithms. Nanoethics, 13, pp.
131−137.
https://doi.org/10.1007/s11569-019-00340-9
Capurro, R. (2020).
The Age of Artificial Intelligences: A Personal
Reflection. International
Review of Information Ethics,
28 (6), pp. 1−16.
https://informationethics.ca/index.php/irie/article/view/388/375
Capurro, R., Eldred,
M. y Nagel, D. (2013). Digital
Whoness: Identity, Privacy and Freedom in the
Cyberworld. Berlin: de Gruyter.
Capurro, R. y
Seetzen, J. (1992). Künstliche Intelligenz:
Menschenbilder; Ethischer Ausblick. En: Cremers,
A. B., Haberbeck, R., Seetzen, J. &
Wachsmuth, I. (eds.), Künstliche
Intelligenz. Leitvorstellungen und
Verantwortbarkeit (pp. 11-15, pp. 49-51).
VDI Report 17.
Coy, W. (2020). Diskussionsbeitrag
im Rahmen des Vortrags «The Age of Artificial
Intelligences» von Rafael Capurro, TU Berlin,
4. Februar.
Graff, B. (2020).
Hände reiben, Hände waschen, dann auf Investoren
warten. Corona und Silicon Valley: In der Krise
agieren Facebook, Google und Co. plötzlich
staatstragend. Eine gute Nachrichtist
das nicht. Süddeutsche
Zeitung, 70 (14), p. 11.
ICIE (International
Center for Information Ethics) (2025).
http://www.capurro.de/iciearchive_bibliography.html
Kant, I. (1974). Grundlegung
zur Metaphysik der Sitten. In: ders.: Kritik
der praktischen Vernunft (Werkausgabe, Bd. 7;
hrsg. v. Wilhelm Weischedel). Frankfurt am
Main: Suhrkamp.
Knuth, D. E. (1968).
The Art of
Computer Programming, 1: Fundamental
Algorithms. Reading. MA: Addison-Wesley.
Knuth, D. E. (1969).
The Art of
Computer Programming, 2: Seminumerical
Algorithms. Reading. MA: Addison-Wesley.
Knuth, D. E. (1973).
The Art of
Computer Programming, 3: Sorting and
Searching. Reading. MA: Addison-Wesley.
Ladd, J. (1985). The
Quest for a Code of Professional Ethics: An
Intellectual and Moral Confusion. En: Johnson,
D. G. y Snapper, John W. (eds.), Ethical
Issues in the Use of Computers (pp. 8-13).
Lem, S. (1984). Also sprach
GOLEM. Frankfurt am Main: Insel.
Luhmann, N. (1996). Soziale
Systeme. Frankfurt am Main: Suhrkamp.
Luhmann, N. (1990). Paradigm
lost: Über die ethische Reflexion der Moral.
Frankfurt am Main: Suhrkamp.
McCorduck, P. (1979).
Machines
Who Think. A Personal Inquiry into the History
and Prospects of Artificial Intelligence.
San Francisco: Freeman.
Nissenbaum, H.
(2010). Privacy
in Context: Technology, Policy, and the
Integrity of Social Life. Stanford, CA:
Stanford University Press.
Noller, J. (2022): Digitalität.
Zur Philosophie der digitalen Lebenswelt
(Schwabe reflexe, Bd. 75). Basel: Schwabe.
Scheule, R. M.,
Capurro, R. y Hausmanninger, T. (eds) (2004). Vernetzt
gespalten. Der Digital Divide in ethischer
Perspektive. München: Fink.
Stalder, F. (2016). Kultur der
Digitalität. Berlin: Suhrkamp.
Tzafestas, S. G.
(2016). Roboethics.
A Navigating Overview. Heidelberg:
Springer.
Weizenbaum, J.
(1976). Computer
Power and Human Reason. From Judgement to
Calculation. New York: Freeman.
Wiener, N.
(1950/1989). The Human
Use of Human Beings. Cybernetics and Society.
London: Free Association Books.
Ziegenbalg, J.
(1996). Algorithmen.
Von Hammurapi bis Gödel. Heidelberg.
Spektrum.