El Papa advierte de que tratar de «sustituir a Dios» con la IA no es más que un gesto de «idolatría»

Para el Vaticano, la IA marca de hecho el inicio de una «nueva fase» en la relación entre el hombre y la tecnología, enmarcándose en el «cambio de época» del que tantas veces habla el Papa.

La nota recuerda primero que la inteligencia humana implica «la apertura de la persona a las cuestiones últimas de la vida», mientras que la IA tiene unas «limitaciones» inherentes al hecho de estar «confinada» en un ámbito lógico-matemático. «Obra solamente realizando tareas, alcanzando objetivos o tomando decisiones basadas sobre datos cuantitativos y sobre la lógica computacional». No puede, por ejemplo, «reproducir el discernimiento moral» ni tampoco «establecer relaciones auténticas», como sí hace en cambio la mente humana. Para Jorge Mario Bergoglio, que reivindica con este texto su papel de conciencia de la humanidad ante los grandes desafíos, resulta incluso «engañoso» el uso de la palabra 'inteligencia' para referirse a esta tecnología, que a su juicio no es más que un producto de la mente humana.

Noticias relacionadas

DeepSeek frente a ChatGPT: así responden las IA del momento

José A. González

Qué es DeepSeek, la herramienta china que amenaza el dominio de la IA de Nvidia y ChatGPT

Clara Alba

Tras recordar que la preocupación por las «implicaciones éticas» de la IA afecta también a científicos fuera de la Iglesia católica, el Vaticano insiste en cuál debe ser su último objetivo: garantizar en sus diversas aplicaciones el «respeto a la dignidad humana y la promoción del bien común». Para ello resulta de «suma importancia» identificar primero al «responsable» de sus procesos de aprendizaje, corrección y reprogramación, de manera que estén siempre ordenados «para el bien de las personas y no contra ellas». Como tantos otros avances tecnológicos, puede «contribuir al desarrollo humano y al bien común», pero también «obstaculizar u oponerse» a esos objetivos. Sus fines, por tanto, no deben ser únicamente «económicos o tecnológicos», sino estar orientados «al bien común».

Al analizar las limitaciones de la IA en diversos ámbitos, se recuerda que ninguna aplicación «es capaz de sentir de verdad empatía», por lo que jamás debe ser representada «como una persona». Aunque celebra el impacto positivo que puede tener en ámbitos como el trabajo, la sanidad, la educación o la protección del medio ambiente, el texto vaticano advierte sobre las consecuencias negativas que también supone. Subraya en particular la creación de contenidos falsos o manipulados, como los llamados 'deepfakes', las representaciones falsas de una persona por medio de un algoritmo generado. También se hace eco el documento de las implicaciones bélicas de esta tecnología, pidiendo que «ninguna máquina deba elegir jamás poner fin a la vida de un ser humano», como ya señalaba el escritor Isaac Asimov en la primera de sus tres leyes de la robótica.