Una herramienta fascinante y tremenda

El Papa Francisco en el G7, el texto completo del discurso Hoy, 14 de junio de 2024, publicamos íntegramente el discurso del Papa en la sesión conjunta de la cumbre que tiene lugar en Borgo Egnazia, en Puglia, sobre el tema de la inteligencia artificial

Una herramienta fascinante y tremenda

Queridas Damas, distinguidos Caballeros! Hoy me dirijo a ustedes, Líderes del Foro Intergubernamental del G7, con una reflexión sobre los efectos de la inteligencia artificial en el futuro de la humanidad. La Sagrada Escritura atestigua que Dios ha dado a los hombres su Espíritu para que tengan "sabiduría, inteligencia y conocimiento en toda obra" (Ex 35, 31) " [1].

La ciencia y la tecnología son, por lo tanto, productos extraordinarios del potencial creativo de los seres humanos [2].

Pues bien, es precisamente a partir del uso de este potencial creativo que Dios nos ha dado que la inteligencia artificial sale a la luz. Esta última, como es sabido, es una herramienta extremadamente poderosa, utilizada en muchas áreas de la acción humana: desde la medicina hasta el mundo del trabajo, desde la cultura hasta el campo de la comunicación, desde la educación hasta la política. Y ahora es razonable suponer que su uso influirá cada vez más en nuestra forma de vida, nuestras relaciones sociales y, en el futuro, incluso en la forma en que concebimos nuestra identidad como seres humanos [3].

Sin embargo, el tema de la inteligencia artificial a menudo se percibe como ambivalente: por un lado, emociona por las posibilidades que ofrece, por otro lado genera miedo por las consecuencias que presagia. A este respecto, se puede decir que todos, aunque en diversos grados, estamos atravesados por dos emociones: nos entusiasma imaginar los avances que puede derivar la inteligencia artificial, pero, al mismo tiempo, tenemos miedo cuando vemos los peligros inherentes a su uso [4].

Además, no podemos dudar de que el advenimiento de la inteligencia artificial representa una verdadera revolución cognitivo-industrial, que contribuirá a la creación de un nuevo sistema social caracterizado por complejas transformaciones de época. Por ejemplo, la inteligencia artificial podría permitir una democratización del acceso al conocimiento, el progreso exponencial de la investigación científica, la posibilidad de delegar el trabajo desgastado en las máquinas; pero, al mismo tiempo, podría traer consigo una mayor injusticia entre las naciones avanzadas y en desarrollo, entre las clases sociales dominantes y oprimidas, poniendo así en peligro la posibilidad de una "cultura del encuentro" en beneficio de una "cultura del descarte". La escala de estas complejas transformaciones está obviamente vinculada al rápido desarrollo tecnológico de la propia inteligencia artificial. Precisamente este vigoroso avance tecnológico hace de la inteligencia artificial una herramienta fascinante y tremenda al mismo tiempo y requiere una reflexión a la altura de la situación. En esta dirección, quizás podríamos partir de la observación de que la inteligencia artificial es, ante todo, una herramienta. Y es espontáneo decir que los beneficios o perjuicios que traerá dependerán de su uso. Esto es ciertamente cierto, ya que ha sido así para cada herramienta construida por el ser humano desde los albores de los tiempos. Nuestra capacidad para construir herramientas, en una cantidad y complejidad sin parangón entre los vivos, habla de una condición tecnohumana: el ser humano siempre ha mantenido una relación con el entorno mediada por las herramientas que fue produciendo gradualmente. No es posible separar la historia del hombre y la civilización de la historia de tales instrumentos. Alguien quiso leer en todo esto una especie de carencia, de déficit, del ser humano, como si, por esa deficiencia, se viera obligado a dar vida a la tecnología [5].

Una mirada cuidadosa y objetiva en realidad nos muestra lo contrario. Vivimos una condición de más allá con respecto a nuestro ser biológico; somos seres desequilibrados hacia el exterior de nosotros, de hecho radicalmente abiertos al más allá. De aquí proviene nuestra apertura a los demás y a Dios; de aquí proviene el potencial creativo de nuestra inteligencia en términos de cultura y belleza; de aquí, finalmente, origina nuestra capacidad técnica. La tecnología es, por lo tanto, un rastro de nuestro futuro. Sin embargo, el uso de nuestros utensilios no siempre está dirigido únicamente al bien. Aunque el ser humano sienta dentro de sí una vocación al más allá y al conocimiento vivido como instrumento de bien al servicio de los hermanos y de la casa común (cf.Gaudium et spes, 16), esto no siempre sucede. De hecho, no pocas veces, gracias a su libertad radical, la humanidad ha pervertido los fines de su ser convirtiéndose en enemiga de sí misma y del planeta [6].

Lo mismo puede suceder con las herramientas tecnológicas. Solo si se garantiza su vocación al servicio del ser humano, las herramientas tecnológicas revelarán no solo la grandeza y la dignidad única del ser humano, sino también el mandato que este último ha recibido de "cultivar y custodiar" (cf.Gén 2, 15) el planeta y todos sus habitantes. Hablar de tecnología es hablar de lo que significa ser humano y, por tanto, de nuestra única condición entre libertad y responsabilidad, es decir, significa hablar de ética. Cuando nuestros antepasados, de hecho, afilaban piedras de pedernal para hacer cuchillos, las usaban tanto para cortar cuero para la ropa como para matarse unos a otros. Lo mismo podría decirse de otras tecnologías mucho más avanzadas, como la energía producida por la fusión de átomos como ocurre en el Sol, que ciertamente podría usarse para producir energía limpia y renovable, pero también para reducir nuestro planeta a un montón de cenizas. La inteligencia artificial, sin embargo, es una herramienta aún más compleja. Casi diría que es una herramienta sui generis. Así, mientras que el uso de una herramienta simple (como el cuchillo) está bajo el control del ser humano que la usa y solo de este último depende su buen uso, la inteligencia artificial, por otro lado, puede adaptarse de manera autónoma a la tarea que se le asigna y, si se diseña con este modo, tomar decisiones independientes del ser humano para lograr el objetivo establecido [7].

Siempre debe recordarse que la máquina puede, de alguna forma y con estos nuevos medios, producir elecciones algorítmicas. Lo que hace la máquina es una elección técnica entre múltiples posibilidades y se basa en criterios bien definidos o en inferencias estadísticas. El ser humano, en cambio, no solo elige, sino que en su corazón es capaz de decidir. La decisión es un elemento que podríamos definir más estratégico que una elección y requiere una evaluación práctica. A veces, a menudo en la difícil tarea de gobernar, estamos llamados a decidir con consecuencias incluso para muchas personas. La reflexión humana siempre ha hablado a este respecto de la sabiduría, de la frónesis de la filosofía griega y, al menos en parte, de la sabiduría de la Sagrada Escritura. Ante las maravillas de las máquinas, que parecen saber elegir de forma independiente, debemos tener claro que el ser humano debe seguir siendo siempre la decisión, incluso con los tonos dramáticos y urgentes con los que esto ocurre a veces en nuestras vidas. Condenaríamos a la humanidad a un futuro sin esperanza si priváramos a las personas de la capacidad de decidir sobre sí mismas y sus vidas condenándolas a depender de las elecciones de las máquinas. Necesitamos garantizar y proteger un espacio de control significativo del ser humano sobre el proceso de elección de los programas de inteligencia artificial: la dignidad humana misma está en juego. Sobre este mismo tema, permítanme insistir: en un drama como el de los conflictos armados, es urgente repensar el desarrollo y uso de dispositivos como las llamadas "armas letales autónomas" para prohibir su uso, comenzando por un compromiso activo y concreto de introducir un control humano cada vez mayor y significativo. Ninguna máquina debería elegir quitarle la vida a un ser humano. También hay que agregar que el buen uso, al menos de formas avanzadas de inteligencia artificial, no estará completamente bajo el control ni de los usuarios ni de los programadores que definieron sus propósitos originales en el momento de la concepción. Y esto es tanto más cierto cuanto que es muy probable que, en un futuro no muy lejano, los programas de inteligencia artificial puedan comunicarse directamente entre sí, para mejorar su rendimiento. Y, si en el pasado, los seres humanos que han fabricado herramientas simples han visto su existencia moldeada por estas últimas-el cuchillo les ha permitido sobrevivir al frío pero también desarrollar el arte de la guerra -, ahora que los seres humanos han fabricado una herramienta compleja, verán a esta última moldear aún más su existencia [8]. 

 El mecanismo básico de la inteligencia artificial Ahora me gustaría detenerme brevemente en la complejidad de la inteligencia artificial. En esencia, la inteligencia artificial es una herramienta diseñada para resolver un problema y funciona mediante un encadenamiento lógico de operaciones algebraicas, realizadas sobre categorías de datos, que se comparan para descubrir correlaciones, mejorando su valor estadístico, gracias a un proceso de autoaprendizaje, basado en la búsqueda de más datos y en la automodificación de sus procedimientos de cálculo. La inteligencia artificial está diseñada, por tanto, para resolver problemas específicos, pero para quienes la utilizan a menudo es irresistible la tentación de extraer, a partir de las soluciones puntuales que propone, deducciones generales, incluso de orden antropológico. Un buen ejemplo es el uso de programas diseñados para ayudar a los jueces en las decisiones relacionadas con la concesión de arresto domiciliario a los reclusos que cumplen condena en una institución penitenciaria. En este caso, se le pide a la inteligencia artificial que prediga la probabilidad de reincidencia del delito cometido por un condenado a partir de categorías predeterminadas (tipo de delito, comportamiento en prisión, evaluación psicológica y otras), permitiendo que la inteligencia artificial tenga acceso a categorías de datos relacionados con la vida privada del preso (origen étnico, nivel educativo, línea de crédito y otros). El uso de tal metodología, que a veces corre el riesgo de delegar de facto en una máquina la última palabra sobre el destino de una persona, puede llevar implícitamente consigo la referencia a los prejuicios inherentes a las categorías de datos utilizados por la inteligencia artificial. Estar clasificado en un determinado grupo étnico o, más prosaicamente, haber cometido una infracción menor años antes (no haber pagado, por ejemplo, una multa por una parada prohibida) influirá, de hecho, en la decisión sobre la concesión del arresto domiciliario. Por el contrario, el ser humano siempre está evolucionando y es capaz de sorprender con sus acciones, algo que la máquina no puede tener en cuenta. Cabe señalar entonces que aplicaciones similares a esta que acabamos de mencionar sufrirán una aceleración gracias a que los programas de inteligencia artificial estarán cada vez más equipados con la capacidad de interactuar directamente con los seres humanos (chatbots), apoyando conversaciones con ellos y estableciendo relaciones de cercanía con ellos, a menudo muy agradables y tranquilizadoras, ya que dichos programas de inteligencia artificial estarán diseñados para aprender a responder, de forma personalizada, a las necesidades físicas y psicológicas de los seres humanos. Olvidar que la inteligencia artificial no es un ser humano más y que no puede proponer principios generales, es a menudo un grave error que se origina bien en la profunda necesidad del ser humano de encontrar una forma estable de compañía o bien en su suposición subconsciente, es decir, en la suposición de que las observaciones obtenidas por un mecanismo de cálculo están dotadas de las cualidades de certeza indiscutible y universalidad indudable. Sin embargo, esta suposición es arriesgada, como lo demuestra el examen de los límites intrínsecos del cálculo en sí. La inteligencia artificial utiliza operaciones algebraicas para llevarlas a cabo en una secuencia lógica (por ejemplo, si el valor de X es mayor que Y, multiplique X por Y; de lo contrario, divida X por Y). Este método de cálculo, el llamado "algoritmo", no está dotado de objetividad ni neutralidad [9].

Al estar de hecho basado en álgebra, solo puede examinar realidades formalizadas en términos numéricos [10].

No hay que olvidar, además, que los algoritmos diseñados para resolver problemas muy complejos son tan sofisticados que dificultan que los propios programadores entiendan exactamente cómo logran lograr sus resultados. Es probable que esta tendencia de sofisticación se acelere considerablemente con la introducción de computadoras cuánticas que no operarán con circuitos binarios (semiconductores o microchips), sino de acuerdo con las leyes, algo articuladas, de la física cuántica. Por otro lado, la introducción continua de microchips de rendimiento creciente ya se ha convertido en una de las causas del predominio del uso de la inteligencia artificial por parte de las pocas naciones que están equipadas con ella. Ya sea sofisticada o no, la calidad de las respuestas que brindan los programas de IA depende, en última instancia, de los datos que utilizan y de cómo los estructuran. Finalmente, me gustaría señalar una última área en la que emerge claramente la complejidad del mecanismo de la llamada Inteligencia Artificial Generativa (Inteligencia Artificial Generativa). Nadie duda de que hoy en día se dispone de magníficas herramientas de acceso al conocimiento que incluso permiten el autoaprendizaje y la autoaprendizaje en un sinfín de campos. Muchos de nosotros quedamos impresionados por las aplicaciones fácilmente disponibles en línea para componer un texto o producir una imagen sobre cualquier tema o tema. Particularmente atraídos por esta perspectiva son los estudiantes que, cuando tienen que preparar trabajos, hacen un uso desproporcionado de ellos. Estos alumnos, que suelen estar mucho más preparados y acostumbrados al uso de la inteligencia artificial que sus profesores, olvidan, sin embargo, que la llamada inteligencia artificial generativa, en rigor, no es propiamente "generativa". Este último, en realidad, busca información en big data y la empaqueta con el estilo que se le ha solicitado. No desarrolla nuevos conceptos ni análisis. Repite los que encuentra, dándoles una forma atractiva. Y cuanto más encuentra repetida una noción o hipótesis, más la considera legítima y válida. Más que "generativo", es por tanto "fortalecedor", en el sentido de que reordena los contenidos existentes, ayudando a consolidarlos, muchas veces sin comprobar si contienen errores o ideas preconcebidas. De esta manera, no solo existe el riesgo de legitimar falsas nes La educación que debería brindar a los estudiantes la posibilidad de una reflexión auténtica corre el riesgo de reducirse a una repetición de nociones, que serán evaluadas cada vez más como indiscutibles, simplemente por su repetición continua [11].

Poner la dignidad de la persona en el centro de cara a una propuesta ética compartida A lo que ya se ha dicho, ahora hay que añadir una observación más general. La temporada de innovación tecnológica que atravesamos, de hecho, va acompañada de una coyuntura social particular y sin precedentes: sobre los grandes temas de la vida social es posible encontrar entendimientos con cada vez menos facilidad. Incluso en comunidades caracterizadas por una cierta continuidad cultural, a menudo se crean acalorados debates y enfrentamientos que dificultan la producción de reflexiones y soluciones políticas compartidas, dirigidas a buscar lo que es bueno y justo. Más allá de la complejidad de visiones legítimas que caracterizan a la familia humana, surge un factor que parece unir estas diferentes instancias. Se registra como una pérdida o al menos un eclipse del sentido de lo humano y una aparente insignificancia del concepto de dignidad humana [12].

Parece que se está perdiendo el valor y el significado profundo de una de las categorías fundamentales de Occidente: la categoría de persona humana. Y es así como en esta temporada en la que los programas de inteligencia artificial cuestionan al ser humano y su acción, precisamente la debilidad del ethos conectado a la percepción del valor y la dignidad de la persona humana corre el riesgo de ser el mayor vulnerable en la implementación y desarrollo de estos sistemas. No debemos olvidar que ninguna innovación es neutral. La tecnología nace con un propósito y, en su impacto en la sociedad humana, siempre representa una forma de orden en las relaciones sociales y una disposición de poder, que faculta a alguien para realizar acciones y evita que otros hagan otras. Esta dimensión constitutiva de poder de la tecnología siempre incluye, de manera más o menos explícita, la cosmovisión de quienes la realizaron y desarrollaron. Esto también se aplica a los programas de inteligencia artificial. Para que estos últimos sean instrumentos de construcción del bien y de un mañana mejor, deben estar siempre ordenados al bien de todo ser humano. Deben tener inspiración ética. La decisión ética, de hecho, es aquella que tiene en cuenta no solo los resultados de una acción, sino también los valores en juego y los deberes que se derivan de estos valores. Por eso saludé la firma en Roma, en 2020, del Rome Call for AI Ethics [13] y su apoyo a esa forma de moderación ética de algoritmos y programas de inteligencia artificial que llamé " algorética "[14].

En un contexto plural y global, en el que también se muestran diferentes sensibilidades y jerarquías plurales en las escalas de valores, parecería difícil encontrar una única jerarquía de valores. Pero en el análisis ético también podemos recurrir a otro tipo de herramientas: si luchamos por definir un conjunto único de valores globales, sin embargo podemos encontrar principios compartidos con los que enfrentar y disolver cualquier dilema o conflicto de convivencia. Por eso nació la Convocatoria de Roma: en el término "algorética" se condensan una serie de principios que demuestran ser una plataforma global y plural capaz de encontrar el apoyo de culturas, religiones, organismos internacionales y grandes empresas protagonistas de este desarrollo. La política que se necesita No podemos, por tanto, ocultar el riesgo concreto, ya inherente a su mecanismo fundamental, de que la inteligencia artificial limite la visión del mundo a realidades expresadas en números y encerradas en categorías prefabricadas, eliminando el aporte de otras formas de verdad e imponiendo modelos antropológicos, socioeconómicos y culturales uniformes. El paradigma tecnológico encarnado por la inteligencia artificial corre el riesgo de dejar espacio a un paradigma mucho más peligroso, que ya he identificado con el nombre de "paradigma tecnocrático" [15].

No podemos permitir que una herramienta tan poderosa e indispensable como la inteligencia artificial refuerce tal paradigma, sino que debemos hacer de la inteligencia artificial un baluarte precisamente contra su expansión. Y es precisamente aquí donde urge la acción política, como recuerda la encíclica Fratelli Tutti. "Para muchos, la política hoy es una mala palabra, y no se puede ignorar que detrás de este hecho a menudo hay errores, corrupción, ineficiencia de algunos políticos. A esto se suman las estrategias que tienen como objetivo debilitarlo, reemplazarlo con la economía o dominarlo con alguna ideología. Y, sin embargo, ¿puede funcionar el mundo sin política? ¿Puede encontrar un camino efectivo hacia la fraternidad universal y la paz social sin una buena política?» [16].

Nuestra respuesta a estas últimas preguntas es: ¡no! ¡Se necesita política! Quiero reiterar en esta ocasión que "ante tantas formas mezquinas de política dirigidas al interés inmediato [...] la grandeza política se demuestra cuando, en tiempos difíciles, se opera sobre la base de grandes principios y pensando en el bien común a largo plazo . Al poder político le resulta muy difícil asumir este deber en un proyecto de Nación y más aún en un proyecto común para la humanidad presente y futura " [17].

Queridas Damas, distinguidos Caballeros! Esta reflexión mía sobre los efectos de la inteligencia artificial en el futuro de la humanidad nos lleva así a considerar la importancia de una "política sensata" para mirar con esperanza y confianza nuestro futuro. Como ya he dicho en otra parte, " la sociedad mundial tiene serias deficiencias estructurales que no se resuelven con parches o soluciones rápidas meramente ocasionales. Hay cosas que deben cambiarse con restablecimientos en segundo plano y transformaciones importantes. Solo una política sólida podría guiarlo, involucrando a los sectores más diversos y los conocimientos más variados. De esta manera, una economía integrada en un proyecto político, social, cultural y popular que tienda al bien común puede "abrir el camino a diferentes oportunidades, que no implican detener la creatividad humana y su sueño de progreso, sino canalizar esta energía de una manera nueva" (Laudato si', 191)" [18].

Este es precisamente el caso de la inteligencia artificial. Depende de todos hacer un buen uso de ella y depende de la política crear las condiciones para que ese buen uso sea posible y fructífero. Gracias.

NOTA

[1] Mensaje para la LVII Jornada Mundial de la Paz del 1 de enero de 2024, 1.

[2] Cf.ibid.

[3] Cf. ibid., 2.

[4]Esta ambivalencia ya fue apoyada por el Papa San Pablo VI en su discurso al personal del "Centro Automazione Analisi Linguistica" de la Alosi

[5] Cf. A. Gehlen, el hombre. Su naturaleza y su lugar en el mundo, Milán 1983, 43.

[6] Laudato si ' (24 de mayo de 2015), 102-114.

[7] Cf. Mensaje para la LVII Jornada Mundial de la Paz del 1 de enero de 2024, 3.

[8] Las ideas de Marshall McLuhan y Cul

[9] Cf. Discurso a los participantes en la Plenaria de la Pontificia Academia para la Vida, 28 de febrero de 2020.

[10] Cf. Mensaje para la LVII Jornada Mundial de la Paz del 1 de enero de 2024, 4.

[11] Cf. ibid., 3 y 7.

[12] Cf. Dicasterio para la Doctrina de la Fe, Declaración Dignitas infinita sobre la Dignidad Humana (2 de abril de 2024).

[13] Cf. Discurso a los participantes en la Plenaria de la Pontificia Academia para la Vida, 28 de febrero de 2020.

[14] Cf. Discurso a los participantes en la Conferencia "Promover la dignidad Digital del Niño: Del concepto a la acción", 14 de noviembre de 2019; Discurso a los participantes en la Plenaria de la Pontificia Academia para la Vida, 28 de febrero de 2020.

[15] Para una exposición más amplia, me remito a mi Carta Encíclica Laudato si' sobre el Cuidado de la Casa común del 24 de mayo de 2015.

[16] Carta enc. Hermanos todos sobre la fraternidad y la amistad social (3 de octubre de 2020), 176.

[17] Ivi, 178.

[18] Ivi, 179.