Al comienzo de su Mensaje, Jorge Mario Bergoglio aplaude las «extraordinarias conquistas de la ciencia y de la técnica», gracias a los cuales «se han remediado innumerables males que afectaban a la vida humana y causaban grandes sufrimientos». Al mismo tiempo, los progresos técnico-científicos ponen «en las manos del hombre una vasta gama de posibilidades» y algunas -advierte el Papa- pueden representar «un riesgo para la supervivencia humana y un peligro para la casa común».
En el punto segundo el Papa diagnostica que «los nuevos instrumentos digitales están cambiando el rostro de las comunicaciones, de la administración pública, de la instrucción, del consumo, de las interacciones personales y de otros innumerables aspectos de la vida cotidiana». Una transformación que implica el riesgo de que, a partir de la extracción de datos, sea posible «controlar los hábitos mentales y relacionales de las personas con fines comerciales o políticos, frecuentemente sin que ellos lo sepan, limitándoles el ejercicio consciente de la libertad de elección».
En el tercer epígrafe hace referencia al proceso de machine learning en el que estas inteligencias buscan y absorben por su cuenta conceptos, quizá equivocados, que acaban reproduciendo.
«La habilidad de algunos dispositivos para producir textos sintáctica y semánticamente coherentes, por ejemplo, no es garantía de confiabilidad», dice Francisco sobre aplicaciones como ChatGPT. «Se dice que pueden 'alucinar', es decir, generar afirmaciones que a primera vista parecen plausibles, pero que en realidad son infundadas o delatan prejuicios». Algo especialmente peligroso cuando se emplean estas herramientas «en campañas de desinformación que difunden noticias falsas y llevan a una creciente desconfianza hacia los medios de comunicación». Esta dinámica, unida a la invasión de la privacidad de los usuarios, son «factores corren el riesgo de alimentar los conflictos y de obstaculizar la paz».
En el cuarto punto observa que «nuestro mundo es demasiado vasto, variado y complejo para poder ser completamente conocido y clasificado». «Las máquinas inteligentes pueden efectuar las tareas que se les asignan cada vez con mayor eficiencia, pero el fin y el significado de sus operaciones continuarán siendo determinadas o habilitadas por seres humanos que tienen un propio universo de valores», señala Francisco. Algo aparentemente contralado por el hombre, pero que implica el riesgo de que «ciertas decisiones se vuelvan menos transparentes, que la responsabilidad decisional se oculte y que los productores puedan eludir la obligación de actuar por el bien de la comunidad».
En su quinto punto, el Papa se muestra contrario a que «en el futuro, la fiabilidad de quien pide un préstamo, la idoneidad de un individuo para un trabajo, la posibilidad de reincidencia de un condenado o el derecho a recibir asilo político o asistencia social podrían ser determinados por sistemas de inteligencia artificial». Advierte de que estos sistemas que aprenden automáticamente están especialmente expuestos a «formas de prejuicio y discriminación» y podrían acabar estableciendo «categorizaciones impropias entre los ciudadanos».
También señala que la robotización de las tareas en los trabajos genera el «riesgo sustancial de un beneficio desproporcionado para unos pocos a costa del empobrecimiento de muchos».
Las aplicaciones bélicas de la IA las aborda en el sexto epígrafe, Al Papa le preocupa también que «armas sofisticadas terminen en las manos equivocadas facilitando, por ejemplo, ataques terroristas». Y considera que «lo último que el mundo necesita es que las nuevas tecnologías contribuyan al injusto desarrollo del mercado y del comercio de las armas, promoviendo la locura de la guerra». «Si lo hace así, no sólo la inteligencia, sino el mismo corazón del hombre correrá el riesgo de volverse cada vez más artificial», advierte.
Propone en su lugar que la técnica sirva «para pavimentar los caminos de la paz». «Si la inteligencia artificial fuese utilizada para promover el desarrollo humano integral, podría introducir importantes innovaciones en la agricultura, la educación y la cultura», vaticina. Propone el desarrollo de lo que llama «la algorética», esto es, «un diálogo interdisciplinar destinado a un desarrollo ético de los algoritmos en el que los valores orienten los itinerarios de las nuevas tecnologías».
Los Desafíos para la educación, los aborda en el séptimo punto. Reconoce que «al multiplicar las posibilidades de comunicación, las tecnologías digitales nos han permitido nuevas formas de encuentro», pero invita a una «reflexión permanente sobre el tipo de relaciones al que nos está llevando», sobre todo en el caso de los jóvenes. «La educación en el uso de formas de inteligencia artificial debería centrarse sobre todo en promover el pensamiento crítico», señala Francisco, quien pide a las escuelas sembrar en sus alumnos el discernimiento «en el uso de datos y de contenidos obtenidos en la web o producidos por sistemas de inteligencia artificial» para protegerlos de la desinformación.
En el último punto, enumera los Desafíos para el desarrollo del derecho internacional que implica la Inteligencia Artificial. «Exhorto a la comunidad de las naciones a trabajar unida para adoptar un tratado internacional vinculante, que regule el desarrollo y el uso de la inteligencia artificial en sus múltiples formas». No solo para «la prevención de las malas prácticas, sino también alentar las mejores prácticas, estimulando planteamientos nuevos y creativos y facilitando iniciativas personales y colectivas»