El Papa advierte sobre la falta de regulación de IA y una potencial dictadura digital

(CNN) – El papa Francisco ha pedido un tratado internacional para regular el uso de la Inteligencia Artificial, advirtiendo que la nueva tecnología corre el riesgo de causar una dictadura tecnológica que amenazaría la paz y la democracia.

El pontífice, de 86 años, dice que quiere que los líderes mundiales acepten un tratado internacional de unión sobre la IA desarrollado dentro de un marco ético. Francisco hizo el llamamiento en su mensaje anual para la Jornada Mundial de la Paz que está marcada por la Iglesia Católica cada 1 de enero.

La capacidad humana única de juicio moral y de toma de decisiones éticas es más que una compleja colección de algoritmos, y esa capacidad no puede reducirse a la programación de una máquina, que por inteligente que sea, sigue siendo una máquina, escribió Francisco.

Cualquier número de preguntas urgentes deben ser hecha. ¿Cuáles serán las consecuencias, a medio y largo plazo, de estas nuevas tecnologías digitales? ¿Y qué impacto tendrán en las vidas individuales y en las sociedades, en la estabilidad y la paz internacionales?

El Papa lanzó una fuerte advertencia contra los sistemas de armas controlados por IA, a la que llamó una causa por grave preocupación ética, al tiempo que dio la voz de alarma sobre el mal uso de la tecnología, incluida la injerencia en las elecciones, el aumento de una sociedad de vigilancia y las crecientes desigualdades.

Todos estos factores corren el riesgo de alimentar conflictos y obstaculizar la paz, dijo el Papa.

A pesar de su cauto mensaje, Francisco elogió los “impresionantes logros de la ciencia y la tecnología”, insistiendo en que la IA también ofrece oportunidades emocionantes.

En una conferencia de prensa celebrada el jueves en el Vaticano para lanzar su mensaje, el cardenal Michael Czerny, uno de los colaboradores del Papa, insistió en que Francisco no es lujudita, pero que la IA es una de las más altas apuestas sobre el futuro de la humanidad.

La petición de los Papas para la regulación de la IA llega pocos días después de que los funcionarios de la UE llegaran a un acuerdo provisional sobre una nueva ley de IA, mientras que un grupo bipartidista de legisladores en Estados Unidos está evaluando un marco de regulación sobre la tecnología.

Francisco ha sido víctima de imágenes de la IA: a principios de este año, una imagen de IA del papa luciendo una chaqueta blanca de puffer se hizo viral.