León XIV advirtió que la IA no puede considerarse moralmente neutra y pidió desarmarla para evitar que domine al ser humano
| En una encíclica de 110 páginas titulada Magnifica Humanitas (Humanidad magnífica), el papa León XIV advirtió que
León XIV advirtió que la IA no puede considerarse moralmente neutra y pidió desarmarla para evitar que domine al ser humano
El pontífice presentó en el Vaticano la encíclica Magnifica Humanitas, donde fija la postura de la Iglesia frente al mayor desafío tecnológico de esta época
En una encíclica de 110 páginas titulada Magnifica Humanitas (Humanidad magnífica), el papa León XIV advirtió que la inteligencia artificial no puede considerarse moralmente neutra y reclamó desarmarla para evitar que domine al ser humano.
El primer papa estadounidense de la historia, matemático y canonista de formación, fija en este documento la postura de la Iglesia ante lo que él mismo describió, días después de su elección, como el mayor desafío de la época.
No se trata de un tratado técnico ni de una condena de la tecnología, cuyo valor reconoce, sino de una actualización de la Doctrina Social de la Iglesia.
León XIV firmó el texto el 15 de mayo, en el 135.º aniversario de la Rerum Novarum de León XIII, la encíclica de 1891 que respondió a la Revolución Industrial y de la cual el actual pontífice toma nombre y referencia.
Innovación, desigualdad y poder concentrado
La tesis central del documento es que las innovaciones tecnológicas pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión.
En esa línea, el papa sostiene que la IA alimenta la brecha entre los incluidos y los excluidos.
Especialistas anticipan que el texto se convertirá en una referencia ineludible del debate global. Estoy convencido de que será un documento decisivo para nuestra época, profundo y profético, afirmó a la agencia AP Paolo Carozza, profesor de Derecho en Notre Dame y presidente del consejo de supervisión de Meta.
Carozza describió la encíclica como un llamado a construir un mundo en el que la tecnología sirva a los seres humanos en lugar de degradarlos.
El núcleo de la crítica de León XIV es la concentración de poder en el sector privado. Patentes, algoritmos, plataformas digitales, infraestructuras y datos quedan, según el texto, concentrados en las manos de unos pocos.
Son esas empresas las que terminan definiendo condiciones de acceso, reglas de visibilidad, formas de relación e incluso oportunidades económicas, advierte.
Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, subraya el papa, que ve en ello el riesgo de nuevas dependencias, exclusiones, manipulaciones y desigualdades.
Frente a ese escenario, reclama reglas concretas: No basta con invocar la ética de manera abstracta; se requieren marcos jurídicos sólidos, supervisión independiente, usuarios informados y un sistema político que no abdique de su responsabilidad, plantea.
Y resume con una frase clave: Una IA más moral no es suficiente si esa moralidad es determinada por unos pocos, sentenció.
Para León XIV, esa concentración tecnológica tiene un correlato económico directo. La riqueza mundial, advierte, se concentra cada vez más en menos manos, lo que agranda las desigualdades.
En la era de la IA y la robótica, sostiene que ya no es posible confiar únicamente en la mano invisible del mercado.
Por eso insta a los responsables políticos a orientar las políticas hacia el bien común y a promover el trabajo digno, la inclusión social y una distribución equitativa de los beneficios de la innovación.
La advertencia no es abstracta. OpenAI y Anthropic, las dos principales competidoras del sector, figuran entre las empresas privadas más valiosas de Estados Unidos, con valoraciones de cientos de miles de millones de dólares, superiores al PIB de numerosos países.
El papa apeló en varias ocasiones a los desarrolladores y a los responsables políticos a frenar y reflexionar sobre lo que están haciendo, y a orientar su trabajo no hacia el beneficio o el poder propios, sino hacia el bien de la humanidad.
Vaticano, Silicon Valley y el costo humano de la IA
El documento se presentó este lunes en el Vaticano con la presencia del cofundador de Anthropic, Christopher Olah, cuya empresa mantiene un litigio con la administración de Donald Trump tras negarse a permitir el uso militar irrestricto de su tecnología.
La inclusión de Anthropic en el acto parte de un diálogo de una década entre el Vaticano y Silicon Valley sobre el costo humano de la IA fue criticada por quienes la interpretaron como un aval pontificio.
Sin embargo, fuentes vaticanas la equipararon a la audiencia con un jefe de Estado, es decir, un reconocimiento y no un respaldo.
El texto retoma también la preocupación ambiental que Francisco colocó en el centro de su magisterio con la encíclica Laudato si (2015), ahora aplicada a la IA.
León XIV señala que los centros de datos que entrenan los modelos consumen enormes cantidades de energía y agua e influyen de forma significativa en las emisiones de dióxido de carbono.
Ante una demanda creciente impulsada por los grandes modelos de lenguaje, pide soluciones tecnológicas más sostenibles.
Menores, trabajo y nuevas formas de guerra
Si la concentración de poder es el diagnóstico general, el papa reserva sus advertencias más concretas para quienes considera más expuestos.
Sobre los menores, alerta de fenómenos de captación, chantaje y explotación sexual agravados por perfiles falsos, algoritmos que amplifican contactos peligrosos y herramientas de IA capaces de manipular imágenes y vídeos.
En ese marco, pide límites de edad y una mayor responsabilidad de los proveedores.
En relación con el trabajo, sostiene que los enfoques tecnológicos actuales pueden desespecializar a los trabajadores, someterlos a una vigilancia automatizada y relegarlos a tareas rígidas y repetitivas.
Reclama que toda automatización vaya acompañada de medidas verificables de protección del empleo y de recualificación, y que el orden económico permanezca subordinado a la dignidad humana.
La búsqueda de mayores beneficios no puede justificar decisiones que sacrifiquen sistemáticamente empleos, escribe.
Y añade que los gobiernos deben fomentar condiciones que favorezcan el empleo, ya que es un bien primario para las familias y para las sociedades.
En materia de conflicto armado, León XIV llamó a superar el concepto de guerra justa invocado, según el texto, con demasiada frecuencia para justificar cualquier conflicto y declaró que es no permisible delegar decisiones letales e irreversibles a sistemas de IA.
Denunció que la humanidad se está deslizando hacia una cultura violenta del poder y reclamó una cadena de responsabilidad identificable que alcance a quienes diseñan, entrenan, autorizan y emplean la tecnología.
Además, pidió un marco internacional común para frenar la carrera armamentística tecnológica y garantizar una protección sólida para los civiles.
Democracia, redes y cultura de la verdad
El papa dedica también buena parte del texto a la vida pública y a la salud de las instituciones democráticas.
Sostiene que la desinformación encontró un potente amplificador en la IA por su capacidad de manipular contenidos, imágenes y videos.
Advierte, además, que la democracia se debilita cuando el pragmatismo lo que parece útil y eficaz sustituye a la verdad.
La indiferencia hacia la verdad conduce, lenta pero seguramente, a un descenso hacia el totalitarismo, escribe.
El pontífice reclama que quienes controlan las plataformas digitales y las redes sociales guíen ese poder por la búsqueda de la verdad y el respeto a la dignidad.
Concibe internet como un espacio en el que puedan madurar la libertad interior y el pensamiento crítico, no como un instrumento de distracción excesiva, homogeneización o dominación.
Una disculpa histórica por la esclavitud
La encíclica contiene además la primera disculpa formal de un papa por el papel de la propia Santa Sede en la legitimización de la esclavitud, que León XIV califica de herida en la memoria cristiana.
Por esto, en nombre de la Iglesia, pido sinceramente perdón, escribió el pontífice, cuya historia familiar incluye tanto personas esclavizadas como propietarios de esclavos, según investigaciones genealógicas publicadas por Henry Louis Gates Jr.
Otros papas habían pedido perdón por la participación de cristianos en la trata: Juan Pablo II lo hizo en 1992 y Francisco denunció en repetidas ocasiones sus formas actuales.
León XIV fue más allá al reconocer el papel de los propios pontífices, que en el siglo XV autorizaron a soberanos portugueses y españoles a someter y esclavizar a los infieles.
La Iglesia, recuerda, poseyó esclavos hasta la Edad Media y tardó diecinueve siglos en articular una condena formal, absoluta y universal de la esclavitud.
El papa vinculó ese pasado con el presente al advertir que el incumplimiento de los estándares laborales en la economía digital incluida la extracción de minerales para chips de IA constituye una nueva forma de esclavitud y colonialismo.
