El
Papa Francisco en el G7, el texto completo del discurso Hoy, 14 de junio de
2024, publicamos íntegramente el discurso del Papa en la sesión conjunta de la
cumbre que tiene lugar en Borgo Egnazia, en Puglia, sobre el tema de la
inteligencia artificial
Una
herramienta fascinante y tremenda
Queridas
Damas, distinguidos Caballeros! Hoy me dirijo a ustedes, Líderes del Foro
Intergubernamental del G7, con una reflexión sobre los efectos de la
inteligencia artificial en el futuro de la humanidad. La Sagrada Escritura
atestigua que Dios ha dado a los hombres su Espíritu para que tengan
"sabiduría, inteligencia y conocimiento en toda obra" (Ex 35, 31)
" [1].
La
ciencia y la tecnología son, por lo tanto, productos extraordinarios del
potencial creativo de los seres humanos [2].
Pues
bien, es precisamente a partir del uso de este potencial creativo que Dios nos
ha dado que la inteligencia artificial sale a la luz. Esta última, como es
sabido, es una herramienta extremadamente poderosa, utilizada en muchas áreas
de la acción humana: desde la medicina hasta el mundo del trabajo, desde la
cultura hasta el campo de la comunicación, desde la educación hasta la
política. Y ahora es razonable suponer que su uso influirá cada vez más en
nuestra forma de vida, nuestras relaciones sociales y, en el futuro, incluso en
la forma en que concebimos nuestra identidad como seres humanos [3].
Sin
embargo, el tema de la inteligencia artificial a menudo se percibe como
ambivalente: por un lado, emociona por las posibilidades que ofrece, por otro
lado genera miedo por las consecuencias que presagia. A este respecto, se puede
decir que todos, aunque en diversos grados, estamos atravesados por dos
emociones: nos entusiasma imaginar los avances que puede derivar la
inteligencia artificial, pero, al mismo tiempo, tenemos miedo cuando vemos los
peligros inherentes a su uso [4].
Además,
no podemos dudar de que el advenimiento de la inteligencia artificial
representa una verdadera revolución cognitivo-industrial, que contribuirá a la
creación de un nuevo sistema social caracterizado por complejas
transformaciones de época. Por ejemplo, la inteligencia artificial podría
permitir una democratización del acceso al conocimiento, el progreso
exponencial de la investigación científica, la posibilidad de delegar el
trabajo desgastado en las máquinas; pero, al mismo tiempo, podría traer consigo
una mayor injusticia entre las naciones avanzadas y en desarrollo, entre las
clases sociales dominantes y oprimidas, poniendo así en peligro la posibilidad
de una "cultura del encuentro" en beneficio de una "cultura del
descarte". La escala de estas complejas transformaciones está obviamente
vinculada al rápido desarrollo tecnológico de la propia inteligencia
artificial. Precisamente este vigoroso avance tecnológico hace de la
inteligencia artificial una herramienta fascinante y tremenda al mismo tiempo y
requiere una reflexión a la altura de la situación. En esta dirección, quizás
podríamos partir de la observación de que la inteligencia artificial es, ante
todo, una herramienta. Y es espontáneo decir que los beneficios o perjuicios
que traerá dependerán de su uso. Esto es ciertamente cierto, ya que ha sido así
para cada herramienta construida por el ser humano desde los albores de los
tiempos. Nuestra capacidad para construir herramientas, en una cantidad y
complejidad sin parangón entre los vivos, habla de una condición tecnohumana:
el ser humano siempre ha mantenido una relación con el entorno mediada por las
herramientas que fue produciendo gradualmente. No es posible separar la
historia del hombre y la civilización de la historia de tales instrumentos.
Alguien quiso leer en todo esto una especie de carencia, de déficit, del ser
humano, como si, por esa deficiencia, se viera obligado a dar vida a la
tecnología [5].
Una
mirada cuidadosa y objetiva en realidad nos muestra lo contrario. Vivimos una
condición de más allá con respecto a nuestro ser biológico; somos seres
desequilibrados hacia el exterior de nosotros, de hecho radicalmente abiertos
al más allá. De aquí proviene nuestra apertura a los demás y a Dios; de aquí
proviene el potencial creativo de nuestra inteligencia en términos de cultura y
belleza; de aquí, finalmente, origina nuestra capacidad técnica. La tecnología
es, por lo tanto, un rastro de nuestro futuro. Sin embargo, el uso de nuestros
utensilios no siempre está dirigido únicamente al bien. Aunque el ser humano
sienta dentro de sí una vocación al más allá y al conocimiento vivido como
instrumento de bien al servicio de los hermanos y de la casa común (cf.Gaudium
et spes, 16), esto no siempre sucede. De hecho, no pocas veces, gracias a su
libertad radical, la humanidad ha pervertido los fines de su ser convirtiéndose
en enemiga de sí misma y del planeta [6].
Lo
mismo puede suceder con las herramientas tecnológicas. Solo si se garantiza su
vocación al servicio del ser humano, las herramientas tecnológicas revelarán no
solo la grandeza y la dignidad única del ser humano, sino también el mandato
que este último ha recibido de "cultivar y custodiar" (cf.Gén 2, 15)
el planeta y todos sus habitantes. Hablar de tecnología es hablar de lo que
significa ser humano y, por tanto, de nuestra única condición entre libertad y
responsabilidad, es decir, significa hablar de ética. Cuando nuestros
antepasados, de hecho, afilaban piedras de pedernal para hacer cuchillos, las
usaban tanto para cortar cuero para la ropa como para matarse unos a otros. Lo
mismo podría decirse de otras tecnologías mucho más avanzadas, como la energía
producida por la fusión de átomos como ocurre en el Sol, que ciertamente podría
usarse para producir energía limpia y renovable, pero también para reducir
nuestro planeta a un montón de cenizas. La inteligencia artificial, sin
embargo, es una herramienta aún más compleja. Casi diría que es una herramienta
sui generis. Así, mientras que el uso de una herramienta simple (como el
cuchillo) está bajo el control del ser humano que la usa y solo de este último
depende su buen uso, la inteligencia artificial, por otro lado, puede adaptarse
de manera autónoma a la tarea que se le asigna y, si se diseña con este modo,
tomar decisiones independientes del ser humano para lograr el objetivo
establecido [7].
Siempre
debe recordarse que la máquina puede, de alguna forma y con estos nuevos
medios, producir elecciones algorítmicas. Lo que hace la máquina es una
elección técnica entre múltiples posibilidades y se basa en criterios bien
definidos o en inferencias estadísticas. El ser humano, en cambio, no solo
elige, sino que en su corazón es capaz de decidir. La decisión es un elemento
que podríamos definir más estratégico que una elección y requiere una
evaluación práctica. A veces, a menudo en la difícil tarea de gobernar, estamos
llamados a decidir con consecuencias incluso para muchas personas. La reflexión
humana siempre ha hablado a este respecto de la sabiduría, de la frónesis de la
filosofía griega y, al menos en parte, de la sabiduría de la Sagrada Escritura.
Ante las maravillas de las máquinas, que parecen saber elegir de forma
independiente, debemos tener claro que el ser humano debe seguir siendo siempre
la decisión, incluso con los tonos dramáticos y urgentes con los que esto
ocurre a veces en nuestras vidas. Condenaríamos a la humanidad a un futuro sin
esperanza si priváramos a las personas de la capacidad de decidir sobre sí
mismas y sus vidas condenándolas a depender de las elecciones de las máquinas.
Necesitamos garantizar y proteger un espacio de control significativo del ser
humano sobre el proceso de elección de los programas de inteligencia
artificial: la dignidad humana misma está en juego. Sobre este mismo tema,
permítanme insistir: en un drama como el de los conflictos armados, es urgente
repensar el desarrollo y uso de dispositivos como las llamadas "armas
letales autónomas" para prohibir su uso, comenzando por un compromiso
activo y concreto de introducir un control humano cada vez mayor y
significativo. Ninguna máquina debería elegir quitarle la vida a un ser humano.
También hay que agregar que el buen uso, al menos de formas avanzadas de
inteligencia artificial, no estará completamente bajo el control ni de los
usuarios ni de los programadores que definieron sus propósitos originales en el
momento de la concepción. Y esto es tanto más cierto cuanto que es muy probable
que, en un futuro no muy lejano, los programas de inteligencia artificial
puedan comunicarse directamente entre sí, para mejorar su rendimiento. Y, si en
el pasado, los seres humanos que han fabricado herramientas simples han visto
su existencia moldeada por estas últimas-el cuchillo les ha permitido
sobrevivir al frío pero también desarrollar el arte de la guerra -, ahora que
los seres humanos han fabricado una herramienta compleja, verán a esta última
moldear aún más su existencia [8].
El
mecanismo básico de la inteligencia artificial Ahora me gustaría detenerme
brevemente en la complejidad de la inteligencia artificial. En esencia, la
inteligencia artificial es una herramienta diseñada para resolver un problema y
funciona mediante un encadenamiento lógico de operaciones algebraicas,
realizadas sobre categorías de datos, que se comparan para descubrir
correlaciones, mejorando su valor estadístico, gracias a un proceso de
autoaprendizaje, basado en la búsqueda de más datos y en la automodificación de
sus procedimientos de cálculo. La inteligencia artificial está diseñada, por
tanto, para resolver problemas específicos, pero para quienes la utilizan a
menudo es irresistible la tentación de extraer, a partir de las soluciones
puntuales que propone, deducciones generales, incluso de orden antropológico.
Un buen ejemplo es el uso de programas diseñados para ayudar a los jueces en
las decisiones relacionadas con la concesión de arresto domiciliario a los
reclusos que cumplen condena en una institución penitenciaria. En este caso, se
le pide a la inteligencia artificial que prediga la probabilidad de
reincidencia del delito cometido por un condenado a partir de categorías
predeterminadas (tipo de delito, comportamiento en prisión, evaluación psicológica
y otras), permitiendo que la inteligencia artificial tenga acceso a categorías
de datos relacionados con la vida privada del preso (origen étnico, nivel
educativo, línea de crédito y otros). El uso de tal metodología, que a veces
corre el riesgo de delegar de facto en una máquina la última palabra sobre el
destino de una persona, puede llevar implícitamente consigo la referencia a los
prejuicios inherentes a las categorías de datos utilizados por la inteligencia
artificial. Estar clasificado en un determinado grupo étnico o, más
prosaicamente, haber cometido una infracción menor años antes (no haber pagado,
por ejemplo, una multa por una parada prohibida) influirá, de hecho, en la
decisión sobre la concesión del arresto domiciliario. Por el contrario, el ser
humano siempre está evolucionando y es capaz de sorprender con sus acciones,
algo que la máquina no puede tener en cuenta. Cabe señalar entonces que
aplicaciones similares a esta que acabamos de mencionar sufrirán una
aceleración gracias a que los programas de inteligencia artificial estarán cada
vez más equipados con la capacidad de interactuar directamente con los seres
humanos (chatbots), apoyando conversaciones con ellos y estableciendo
relaciones de cercanía con ellos, a menudo muy agradables y tranquilizadoras,
ya que dichos programas de inteligencia artificial estarán diseñados para
aprender a responder, de forma personalizada, a las necesidades físicas y
psicológicas de los seres humanos. Olvidar que la inteligencia artificial no es
un ser humano más y que no puede proponer principios generales, es a menudo un
grave error que se origina bien en la profunda necesidad del ser humano de
encontrar una forma estable de compañía o bien en su suposición subconsciente,
es decir, en la suposición de que las observaciones obtenidas por un mecanismo
de cálculo están dotadas de las cualidades de certeza indiscutible y
universalidad indudable. Sin embargo, esta suposición es arriesgada, como lo
demuestra el examen de los límites intrínsecos del cálculo en sí. La
inteligencia artificial utiliza operaciones algebraicas para llevarlas a cabo
en una secuencia lógica (por ejemplo, si el valor de X es mayor que Y,
multiplique X por Y; de lo contrario, divida X por Y). Este método de cálculo,
el llamado "algoritmo", no está dotado de objetividad ni neutralidad
[9].
Al
estar de hecho basado en álgebra, solo puede examinar realidades formalizadas
en términos numéricos [10].
No
hay que olvidar, además, que los algoritmos diseñados para resolver problemas
muy complejos son tan sofisticados que dificultan que los propios programadores
entiendan exactamente cómo logran lograr sus resultados. Es probable que esta
tendencia de sofisticación se acelere considerablemente con la introducción de
computadoras cuánticas que no operarán con circuitos binarios (semiconductores
o microchips), sino de acuerdo con las leyes, algo articuladas, de la física
cuántica. Por otro lado, la introducción continua de microchips de rendimiento
creciente ya se ha convertido en una de las causas del predominio del uso de la
inteligencia artificial por parte de las pocas naciones que están equipadas con
ella. Ya sea sofisticada o no, la calidad de las respuestas que brindan los
programas de IA depende, en última instancia, de los datos que utilizan y de
cómo los estructuran. Finalmente, me gustaría señalar una última área en la que
emerge claramente la complejidad del mecanismo de la llamada Inteligencia
Artificial Generativa (Inteligencia Artificial Generativa). Nadie duda de que
hoy en día se dispone de magníficas herramientas de acceso al conocimiento que
incluso permiten el autoaprendizaje y la autoaprendizaje en un sinfín de
campos. Muchos de nosotros quedamos impresionados por las aplicaciones
fácilmente disponibles en línea para componer un texto o producir una imagen sobre
cualquier tema o tema. Particularmente atraídos por esta perspectiva son los
estudiantes que, cuando tienen que preparar trabajos, hacen un uso
desproporcionado de ellos. Estos alumnos, que suelen estar mucho más preparados
y acostumbrados al uso de la inteligencia artificial que sus profesores,
olvidan, sin embargo, que la llamada inteligencia artificial generativa, en
rigor, no es propiamente "generativa". Este último, en realidad,
busca información en big data y la empaqueta con el estilo que se le ha solicitado.
No desarrolla nuevos conceptos ni análisis. Repite los que encuentra, dándoles
una forma atractiva. Y cuanto más encuentra repetida una noción o hipótesis,
más la considera legítima y válida. Más que "generativo", es por
tanto "fortalecedor", en el sentido de que reordena los contenidos
existentes, ayudando a consolidarlos, muchas veces sin comprobar si contienen
errores o ideas preconcebidas. De esta manera, no solo existe el riesgo de
legitimar falsas nes La educación que debería brindar a los estudiantes la
posibilidad de una reflexión auténtica corre el riesgo de reducirse a una
repetición de nociones, que serán evaluadas cada vez más como indiscutibles,
simplemente por su repetición continua [11].
Poner
la dignidad de la persona en el centro de cara a una propuesta ética compartida
A lo que ya se ha dicho, ahora hay que añadir una observación más general. La
temporada de innovación tecnológica que atravesamos, de hecho, va acompañada de
una coyuntura social particular y sin precedentes: sobre los grandes temas de
la vida social es posible encontrar entendimientos con cada vez menos
facilidad. Incluso en comunidades caracterizadas por una cierta continuidad
cultural, a menudo se crean acalorados debates y enfrentamientos que dificultan
la producción de reflexiones y soluciones políticas compartidas, dirigidas a
buscar lo que es bueno y justo. Más allá de la complejidad de visiones
legítimas que caracterizan a la familia humana, surge un factor que parece unir
estas diferentes instancias. Se registra como una pérdida o al menos un eclipse
del sentido de lo humano y una aparente insignificancia del concepto de
dignidad humana [12].
Parece
que se está perdiendo el valor y el significado profundo de una de las
categorías fundamentales de Occidente: la categoría de persona humana. Y es así
como en esta temporada en la que los programas de inteligencia artificial
cuestionan al ser humano y su acción, precisamente la debilidad del ethos
conectado a la percepción del valor y la dignidad de la persona humana corre el
riesgo de ser el mayor vulnerable en la implementación y desarrollo de estos
sistemas. No debemos olvidar que ninguna innovación es neutral. La tecnología
nace con un propósito y, en su impacto en la sociedad humana, siempre
representa una forma de orden en las relaciones sociales y una disposición de
poder, que faculta a alguien para realizar acciones y evita que otros hagan otras.
Esta dimensión constitutiva de poder de la tecnología siempre incluye, de
manera más o menos explícita, la cosmovisión de quienes la realizaron y
desarrollaron. Esto también se aplica a los programas de inteligencia
artificial. Para que estos últimos sean instrumentos de construcción del bien y
de un mañana mejor, deben estar siempre ordenados al bien de todo ser humano.
Deben tener inspiración ética. La decisión ética, de hecho, es aquella que
tiene en cuenta no solo los resultados de una acción, sino también los valores
en juego y los deberes que se derivan de estos valores. Por eso saludé la firma
en Roma, en 2020, del Rome Call for AI Ethics [13] y su apoyo a esa forma de
moderación ética de algoritmos y programas de inteligencia artificial que llamé
" algorética "[14].
En
un contexto plural y global, en el que también se muestran diferentes
sensibilidades y jerarquías plurales en las escalas de valores, parecería
difícil encontrar una única jerarquía de valores. Pero en el análisis ético
también podemos recurrir a otro tipo de herramientas: si luchamos por definir
un conjunto único de valores globales, sin embargo podemos encontrar principios
compartidos con los que enfrentar y disolver cualquier dilema o conflicto de
convivencia. Por eso nació la Convocatoria de Roma: en el término
"algorética" se condensan una serie de principios que demuestran ser
una plataforma global y plural capaz de encontrar el apoyo de culturas,
religiones, organismos internacionales y grandes empresas protagonistas de este
desarrollo. La política que se necesita No podemos, por tanto, ocultar el
riesgo concreto, ya inherente a su mecanismo fundamental, de que la
inteligencia artificial limite la visión del mundo a realidades expresadas en
números y encerradas en categorías prefabricadas, eliminando el aporte de otras
formas de verdad e imponiendo modelos antropológicos, socioeconómicos y
culturales uniformes. El paradigma tecnológico encarnado por la inteligencia
artificial corre el riesgo de dejar espacio a un paradigma mucho más peligroso,
que ya he identificado con el nombre de "paradigma tecnocrático"
[15].
No
podemos permitir que una herramienta tan poderosa e indispensable como la
inteligencia artificial refuerce tal paradigma, sino que debemos hacer de la
inteligencia artificial un baluarte precisamente contra su expansión. Y es
precisamente aquí donde urge la acción política, como recuerda la encíclica
Fratelli Tutti. "Para muchos, la política hoy es una mala palabra, y no se
puede ignorar que detrás de este hecho a menudo hay errores, corrupción,
ineficiencia de algunos políticos. A esto se suman las estrategias que tienen
como objetivo debilitarlo, reemplazarlo con la economía o dominarlo con alguna
ideología. Y, sin embargo, ¿puede funcionar el mundo sin política? ¿Puede
encontrar un camino efectivo hacia la fraternidad universal y la paz social sin
una buena política?» [16].
Nuestra
respuesta a estas últimas preguntas es: ¡no! ¡Se necesita política! Quiero
reiterar en esta ocasión que "ante tantas formas mezquinas de política
dirigidas al interés inmediato [...] la grandeza política se demuestra cuando,
en tiempos difíciles, se opera sobre la base de grandes principios y pensando
en el bien común a largo plazo . Al poder político le resulta muy difícil
asumir este deber en un proyecto de Nación y más aún en un proyecto común para
la humanidad presente y futura " [17].
Queridas
Damas, distinguidos Caballeros! Esta reflexión mía sobre los efectos de la
inteligencia artificial en el futuro de la humanidad nos lleva así a considerar
la importancia de una "política sensata" para mirar con esperanza y
confianza nuestro futuro. Como ya he dicho en otra parte, " la sociedad
mundial tiene serias deficiencias estructurales que no se resuelven con parches
o soluciones rápidas meramente ocasionales. Hay cosas que deben cambiarse con
restablecimientos en segundo plano y transformaciones importantes. Solo una
política sólida podría guiarlo, involucrando a los sectores más diversos y los
conocimientos más variados. De esta manera, una economía integrada en un
proyecto político, social, cultural y popular que tienda al bien común puede
"abrir el camino a diferentes oportunidades, que no implican detener la
creatividad humana y su sueño de progreso, sino canalizar esta energía de una
manera nueva" (Laudato si', 191)" [18].
Este
es precisamente el caso de la inteligencia artificial. Depende de todos hacer
un buen uso de ella y depende de la política crear las condiciones para que ese
buen uso sea posible y fructífero. Gracias.
NOTA
[1]
Mensaje para la LVII Jornada Mundial de la Paz del 1 de enero de 2024, 1.
[2]
Cf.ibid.
[3]
Cf. ibid., 2.
[4]Esta
ambivalencia ya fue apoyada por el Papa San Pablo VI en su discurso al personal
del "Centro Automazione Analisi Linguistica" de la Alosi
[5]
Cf. A. Gehlen, el hombre. Su naturaleza y su lugar en el mundo, Milán 1983, 43.
[6]
Laudato si ' (24 de mayo de 2015), 102-114.
[7]
Cf. Mensaje para la LVII Jornada Mundial de la Paz del 1 de enero de 2024, 3.
[8]
Las ideas de Marshall McLuhan y Cul
[9]
Cf. Discurso a los participantes en la Plenaria de la Pontificia Academia para
la Vida, 28 de febrero de 2020.
[10]
Cf. Mensaje para la LVII Jornada Mundial de la Paz del 1 de enero de 2024, 4.
[11]
Cf. ibid., 3 y 7.
[12]
Cf. Dicasterio para la Doctrina de la Fe, Declaración Dignitas infinita sobre
la Dignidad Humana (2 de abril de 2024).
[13]
Cf. Discurso a los participantes en la Plenaria de la Pontificia Academia para
la Vida, 28 de febrero de 2020.
[14]
Cf. Discurso a los participantes en la Conferencia "Promover la dignidad
Digital del Niño: Del concepto a la acción", 14 de noviembre de 2019;
Discurso a los participantes en la Plenaria de la Pontificia Academia para la
Vida, 28 de febrero de 2020.
[15]
Para una exposición más amplia, me remito a mi Carta Encíclica Laudato si'
sobre el Cuidado de la Casa común del 24 de mayo de 2015.
[16]
Carta enc. Hermanos todos sobre la fraternidad y la amistad social (3 de
octubre de 2020), 176.
[17]
Ivi, 178.
[18]
Ivi, 179.
