León XIV y la necesidad de regular la inteligencia artificial en un mundo en conflicto
El papa León XIV publicó su primera encíclica social, Magnifica Humanitas. En ella describe un escenario de beligerancia permanente que considera más peligroso que el de la Guerra Fría. El documento de 130 páginas rechaza la doctrina de la guerra justa y advierte que delegar decisiones bélicas en sistemas de inteligencia artificial elimina la cadena de responsabilidad humana que la moral exige.
Durante la presentación en el Aula del Sínodo, el pontífice estadounidense-peruano explicó que la IA debe ser desarmada para que no funcione como instrumento de dominación, exclusión o muerte. Señaló que las decisiones tecnológicas nunca pueden separarse de la conciencia y la responsabilidad, y que solo una visión integral permite orientar estas herramientas hacia el bien común.
El texto alerta sobre sistemas de armas cada vez más autónomos que escapan del control humano. También menciona algoritmos que, basados en datos sesgados, pueden restringir el acceso a la atención médica, el empleo o la seguridad. En paralelo, señala que las plataformas digitales difunden desinformación y favorecen conflictos, con el riesgo de llevar al mundo hacia una guerra sin fin.
León XIV propone seis criterios para valorar si la IA sirve a la humanidad o la somete. Insiste en que el poder tecnológico no debe concentrarse en pocas manos ni ampliar desigualdades. Pide regular el sector, preservar la educación y mantener los lazos humanos frente al control tecnológico. Además, llama a desarmar las palabras, adoptar la mirada de las víctimas y relanzar el multilateralismo.
El documento se presentó ante cardenales, profesores y expertos en tecnología, entre ellos el cofundador de Anthropic, Christopher Olah. Es la primera vez que un papa acude personalmente a la presentación pública de uno de sus documentos magisteriales.
En este mismo contexto de pruebas de nuevas armas y sistemas autónomos, aparecen noticias sobre el uso de Ucrania como campo de pruebas para drones y sobre vehículos como el Cybertruck de Tesla que incorporan funciones de conducción asistida. También se menciona el Volkswagen ID. Unyx 07, desarrollado con tecnología de Xpeng y hardware de Volkswagen, que integra suites completas de ADAS y asistentes de voz basados en inteligencia artificial.
El papa subraya que solo juntos, quienes diseñan estos sistemas y quienes sufren sus consecuencias, los países más ricos y los más pobres, será posible construir un futuro para toda la humanidad y no solo para unos pocos.