El papa Francisco es un octogenario que dice que no puede usar un ordenador, pero en una tarde de febrero de 2019, un alto diplomático de la Big Tech estadounidense entró en la residencia papal en busca de orientación sobre la ética de una tecnología en gestación: la inteligencia artificial.
El presidente de Microsoft, Brad Smith, y el Papa hablaron sobre el rápido desarrollo de la tecnología, relató Smith en una entrevista con The Washington Post, y Francisco pareció comprender sus riesgos. Cuando Smith se marchó, el Papa lanzó una advertencia. “Mantén tu humanidad”, instó mientras sujetaba la muñeca de Smith.
En los cinco años transcurridos desde aquella reunión, la IA se ha convertido en algo inevitable, como el propio Papa descubrió el año pasado cuando unas imágenes virales suyas con una chaqueta de Balenciaga anunciaron una nueva era de falsificaciones. Y a medida que la tecnología ha proliferado, el Vaticano se ha posicionado como la conciencia de empresas como Microsoft y ha surgido como una voz sorprendentemente influyente en el debate sobre la gobernanza global de la IA.
El viernes, en el sur de Italia, Francisco se convirtió en el primer Papa en dirigirse a un foro de líderes mundiales del Grupo de los Siete, pronunciando un tratado moral sobre la “revolución cognitivo-industrial” que representa la IA, en un intento de elevar el tema del mismo modo que hizo con el cambio climático.
En un discurso de gran alcance, el Papa esbozó las ramificaciones de una tecnología “tan fascinante como aterradora”, diciendo que podría cambiar “la forma en que concebimos nuestra identidad como seres humanos”. Denunció que la IA podría consolidar el dominio de la cultura occidental y mermar la dignidad humana.
La IA, dijo, se presenta como una herramienta que podría democratizar el conocimiento, hacer avanzar “exponencialmente” la ciencia y aliviar la condición humana a medida que la gente cede “arduas tareas a las máquinas”. Pero advirtió de que también tiene el poder de destruir, y pidió una prohibición “urgente” de las armas autónomas letales. Como fantasma del futuro, hizo referencia a la novela distópica de 1907 “El Señor del Mundo”, en la que la tecnología sustituye a la religión y a la fe en Dios.
“Ninguna máquina debería elegir jamás quitar la vida a un ser humano”, dijo el Papa.
Ya ha insistido en que los riesgos de la IA deben gestionarse mediante un tratado mundial, y el viernes respaldó la necesidad de un conjunto de “principios” mundiales unificadores que guíen el desarrollo de la IA.
El “Llamamiento de Roma por la Ética de la Inteligencia Artificial” -un documento que contó con el Vaticano, Microsoft e IBM entre sus signatarios originales en 2020- se está convirtiendo en el patrón oro de las mejores prácticas de IA. Ha servido de base para los debates del G-7 sobre la elaboración de un código de conducta. Y el viernes, los líderes del G-7 -con el apoyo del Vaticano- anunciaron que crearían una especie de insignia de honor: una nueva etiqueta para las empresas que acepten desarrollar herramientas de IA de forma segura y ética y seguir directrices para la notificación y supervisión voluntarias de los riesgos. Haciéndose eco de las preocupaciones del Vaticano, los líderes pidieron además “usos militares responsables de la IA”.
La cuestión de la IA ha proporcionado una oportunidad a la Iglesia, disminuida por su gestión de los escándalos de abusos sexuales por parte de clérigos, para reafirmar su autoridad moral. Microsoft y al menos algunas otras empresas tecnológicas parecen ansiosas por obtener el sello de aprobación de la Iglesia, mientras la industria se enfrenta a los retos de relaciones públicas de una tecnología que podría automatizar puestos de trabajo, amplificar la desinformación y crear nuevos riesgos de ciberseguridad.
El Vaticano se ha ganado un sitio en la mesa de las grandes tecnologías. Una institución milenaria con un historial desigual en el ámbito de la ciencia -véase el juicio a Galileo- envía ahora representantes a los principales eventos tecnológicos.
El reverendo Paolo Benanti -el principal experto en Inteligencia Artificial del Vaticano, sacerdote franciscano e ingeniero de formación al que se atribuye la acuñación del término “algorética”- consiguió el año pasado un puesto en el Órgano Consultivo de las Naciones Unidas sobre Inteligencia Artificial y se ha convertido en un actor importante en la elaboración de una política nacional de Inteligencia Artificial para Italia, país del G-7. A petición del Vaticano, IBM organizó una cumbre mundial de colegios en la Universidad de Notre Dame para poner la ética de la IA en primera línea de los planes de estudio.
Las opiniones del Vaticano han influido en decisiones empresariales concretas. Smith, de Microsoft, declaró al Post: “Desarrollamos nuestra propia tecnología que permitiría a cualquiera, en sólo unos segundos, de la voz de cualquier persona ser capaz de replicarla. Y decidimos no divulgarla”. Los principios de Roma, añadió, son “sin duda parte de lo que nos ha ayudado en Microsoft a esforzarnos por adoptar un enfoque amplio del desarrollo de la IA, incluso dentro de nuestras propias cuatro paredes. Creo que nos ha proporcionado un amplio marco humanístico e intelectual”.
El énfasis del compromiso en la inclusión también influyó en la decisión de la empresa de poner en marcha una beca que reúne a investigadores y líderes de la sociedad civil, en su mayoría del Sur Global, para evaluar el impacto de la tecnología, dijo Natasha Crampton, directora responsable de Inteligencia Artificial de Microsoft. Los becarios han ayudado a la empresa a desarrollar evaluaciones multilingües de los modelos de IA y han garantizado que la empresa comprenda el contexto local y las normas culturales a la hora de desarrollar nuevos productos.
No todas las empresas están de acuerdo con los principios de Roma. Algunas han seguido adelante con audio manipulado por IA que, según advierten los investigadores, podría utilizarse para engañar a los votantes antes de las elecciones.
Tampoco se ha permitido a todo el mundo unirse al club de Roma. La empresa china “Huawei preguntó”, dijo el arzobispo Vincenzo Paglia, presidente de la Academia Pontificia para la Vida. “Y dijimos que no, porque no sabemos realmente lo que piensan [los responsables de allí]”.
Mientras tanto, el Vaticano sigue preocupado por el mal uso de la IA de código abierto. La tecnología podría producir grandes beneficios en la atención sanitaria y la educación, dijo Benanti. “Pero también puede multiplicar muchos malos elementos en la sociedad, y no podemos extender la IA por todas partes sin ninguna decisión política, porque mañana podríamos despertarnos con un multiplicador de la desigualdad, de las armas biológicas”, dijo.
Los funcionarios del Vaticano ya han hecho sonar las alarmas sobre lo que consideran usos potencialmente poco éticos, incluidos los sistemas de reconocimiento facial desplegados en la represión de manifestantes en Hong Kong en 2019-2020, así como algoritmos para el procesamiento de refugiados como los de Alemania, donde se han utilizado pruebas lingüísticas alimentadas por IA para establecer si los solicitantes de asilo mienten sobre su lugar de origen.
La relación entre el Vaticano y los innovadores de la IA tuvo su génesis en un discurso que Benanti pronunció en 2018 sobre la ética de la IA. Un alto representante de Microsoft en Italia había estado en la audiencia, y los dos comenzaron a reunirse regularmente. Trajeron a Paglia, que estaba interesado en ampliar el ámbito de su academia más allá de temas centrales como la ética de la investigación con células madre.
Antes de la visita de Smith al Papa, Paglia le acompañó a ver el “Juicio Final” de Miguel Ángel en la Capilla Sixtina y le mostró representaciones de Galileo de la Tierra girando alrededor del Sol, teoría que le valió el arresto domiciliario de por vida tras un juicio eclesiástico.
Sin embargo, la relación del Vaticano con la ciencia no siempre ha sido ludita. En la Edad Media, los eruditos católicos sembraron en Europa lo que se convertiría en algunas de sus mejores universidades. Y aunque algunos clérigos la tomaron como blanco, la teoría de la evolución de Darwin nunca fue cuestionada oficialmente por el Vaticano.
(FABIO CIMAGLIA/)
La Iglesia declara oficialmente que “la fe y la razón” no están en conflicto.
“La Biblia no nos dice cómo funciona el cielo, sino cómo llegar a él”, dijo Paglia, citando a Galileo. El arzobispo ha realizado viajes oficiales a la sede de Microsoft cerca de Seattle y a las oficinas de IBM en Nueva York.
Gracias a sus agresivas inversiones en inteligencia artificial, Microsoft se ha convertido en la empresa más valiosa del mundo, con un valor de más de 3 billones de dólares. Pero la continuidad de su éxito depende de frenar las percepciones negativas de la IA. La preocupación de que esta tecnología pueda desplazar puestos de trabajo, exacerbar las desigualdades, potenciar la vigilancia y dar paso a nuevos tipos de guerra está llevando a gobiernos de todo el mundo a considerar estrictas regulaciones que podrían frenar las ambiciones de la empresa.
La Unión Europea está preparando una ley histórica que podría limitar los modelos generativos de IA más avanzados. La Comisión Federal de Comercio está investigando un acuerdo que Microsoft cerró con la start-up de IA Inflection, para determinar si el gigante tecnológico preparó deliberadamente la inversión para evitar una revisión de fusiones. Y las autoridades estadounidenses han llegado a un acuerdo que expondrá a la empresa a un mayor escrutinio sobre cómo ejerce su poder para dominar la inteligencia artificial, incluidas sus inversiones multimillonarias en OpenAI, fabricante de ChatGPT. Esa relación también ha expuesto a Microsoft a nuevos riesgos para su reputación, ya que el director ejecutivo de OpenAI, Sam Altman, invita con frecuencia a la polémica.
Bajo la dirección de Smith, Microsoft ha creado una de las organizaciones de presión más sofisticadas del mundo para desactivar sus problemas normativos e intentar convencer a la gente de que es el titán tecnológico en el que el mundo puede confiar para crear IA. Smith se reúne periódicamente con jefes de Estado, y el mes pasado acudió junto al Presidente Biden a la inauguración de una fábrica. Para ser una empresa eficaz, Microsoft tiene que encontrar formas de trabajar con los gobiernos y garantizar que su tecnología pueda trascenderlos, afirmó Smith.
La “organización global más antigua del mundo” puede ser un maestro y un socio único en ese esfuerzo, dijo, refiriéndose al Vaticano. El catolicismo y otras religiones no están sujetos a fronteras nacionales, al igual que las aplicaciones que Microsoft vende en todo el mundo.
“Por un lado, podría pensarse que somos extraños compañeros de cama”, dijo Smith. “Pero, por otro lado, es una combinación perfecta”.
© 2024, The Washington Post
