Inteligencia artificial y paz

“Inteligencia artificial y paz” es el título del mensaje del papa Francisco para la 57.° Jornada Mundial de la Paz, que se celebró el 1 de enero de 2024. El texto tiene ocho ejes de reflexión y acción desde los cuales se busca dar respuesta a preguntas consideradas urgentes: “¿Cuáles serán las consecuencias, a medio y a largo plazo, de las nuevas tecnologías digitales? ¿Y qué impacto tendrán sobre la vida de los individuos y de la sociedad, sobre la estabilidad internacional y sobre la paz?”.

En el primer eje de pensamiento se habla del “progreso de la ciencia y de la tecnología como camino hacia la paz”. Esto es posible cuando los seres humanos se esfuerzan para que el planeta “llegue a ser morada digna de toda la familia humana”. El mensaje reitera que la inteligencia artificial debería estar al servicio de un mejor potencial humano y de nuestras más altas aspiraciones, no en competencia con ellos.

En el mensaje hay un reconocimiento de los notables progresos generados por las nuevas tecnologías de la información, especialmente en el ámbito digital. Pero también se habla de los graves riesgos que esta conlleva por sus serias implicaciones para la búsqueda de la justicia y la armonía entre los pueblos. De ahí que el segundo eje se denomine “El futuro de la inteligencia artificial entre promesas y riesgos”. Para superar esta ambivalencia, el papa afirma que es necesario ser conscientes de las rápidas transformaciones que están ocurriendo y gestionarlas de modo que se puedan salvaguardar los derechos humanos fundamentales, respetando las instituciones y las leyes que promueven el desarrollo humano integral.

En el tercer eje, “La tecnología del futuro: máquinas que aprenden solas”, se señalan los serios problemas que se producen cuando la inteligencia artificial se emplea en campañas de desinformación que difunden noticias falsas y llevan a una creciente desconfianza hacia los medios de comunicación. Otros ámbitos, según el mensaje, en los que la inteligencia artificial plantea graves riesgos están relacionados con la confidencialidad, la posesión de datos, la propiedad intelectual, la interferencia en los procesos electorales y la implantación de una sociedad que vigila y controla a las personas.

El cuarto eje, “El sentido del límite en el paradigma tecnocrático”, se centra en lo que se considera un aspecto a menudo descuidado en la mentalidad actual, tecnocrática y eficientista: no todo está permitido, hay límites. El ser humano, pensando en sobrepasar todo límite gracias a la técnica, corre el riesgo de querer controlarlo todo. Según el papa, “reconocer y aceptar el propio límite de criatura es para el hombre condición indispensable para conseguir o, mejor, para acoger la plenitud como un don. En cambio, en el contexto ideológico de un paradigma tecnocrático, animado por una prometeica presunción de autosuficiencia, las desigualdades podrían crecer de forma desmesurada, y el conocimiento y la riqueza acumularse en las manos de unos pocos, con graves riesgos para las sociedades democráticas y la coexistencia pacífica”.

El quinto eje se titula “Temas candentes para la ética”. Se parte de una constatación y de una tendencia futura: “La fiabilidad de quien pide un préstamo, la idoneidad de un individuo para un trabajo, la posibilidad de reincidencia de un condenado o el derecho a recibir asilo político o asistencia social podrían ser determinados por sistemas de inteligencia artificial”. Frente a esta amenaza que poco a poco parece convertirse en realidad, el mensaje llama a “no permitir que los algoritmos determinen el modo en el que entendemos los derechos humanos, que dejen a un lado los valores esenciales de la compasión, la misericordia y el perdón o que eliminen la posibilidad de que un individuo cambie y deje atrás el pasado”.

El sexto eje tiene modo de pregunta: “¿Transformaremos las espadas en arados?”. En este plano, hay un hecho gravísimo que preocupa al papa: la posibilidad de conducir operaciones militares por medio de sistemas de control remoto. Esto ha llevado a una percepción menor de la devastación causada y de la responsabilidad en su uso. Lo último que el mundo necesita, afirma Francisco, es que las nuevas tecnologías contribuyan al injusto desarrollo del mercado y del comercio de las armas. Contrariamente, en una óptica más positiva, el papa sostiene que si la inteligencia artificial fuese utilizada para promover el desarrollo humano integral, podría introducir importantes innovaciones en la agricultura, la educación y la cultura, un mejoramiento del nivel de vida de enteras naciones y pueblos, el crecimiento de la fraternidad humana y de la amistad social.

El séptimo eje, “Desafíos para la educación”, plantea que en este ámbito el uso de la inteligencia artificial debería centrarse sobre todo en promover el pensamiento crítico. Nos dice que es necesario que los usuarios de todas las edades, pero sobre todo los jóvenes, desarrollen una capacidad de discernimiento en el uso de datos y de contenidos obtenidos en la web o producidos por sistemas de inteligencia artificial.

Finalmente, el octavo eje aborda los “desafíos para el desarrollo del derecho internacional”. A este respecto, el mensaje exhorta a los Estados soberanos y a la comunidad de las naciones a trabajar unidos para adoptar un tratado internacional vinculante que regule el desarrollo y el uso de la inteligencia artificial en sus múltiples formas. Recalca que el objetivo de la reglamentación no debería ser solo la prevención de las malas prácticas, sino también alentar las mejores prácticas, estimulando planteamientos nuevos y creativos, y facilitando iniciativas personales y colectivas.

El papa Francisco espera que este mensaje anime a hacer que los progresos en el desarrollo de formas de inteligencia artificial contribuyan, en última instancia, a la causa de la fraternidad humana y de la paz. Esto no es responsabilidad de unos pocos, sino de toda la familia humana.

* Carlos Ayala, profesor de la Escuela de Pastoral Hispana de la Arquidiócesis de San Francisco, California.