*Paolo Benanti cree que sin un debido control, la inteligencia artificial podría ampliar la desigualdad social y desatar una avalancha de desesperanza. Su trabajo consiste en evitar que eso suceda
The New York Times . | Ciudad del Vaticano | 25 Feb 2024
Antes del amanecer, Paolo Benanti subió al campanario de su monasterio del siglo XVI, admiró el amanecer sobre las ruinas del foro romano y reflexionó acerca de un mundo en proceso de cambio.
“Fue una meditación maravillosa sobre lo que está ocurriendo adentro”, señaló, pisando la calle con su hábito de fraile. “Y también afuera”.
Hay muchas cosas que le están sucediendo a Benanti, quien, como el especialista en ética de la inteligencia artificial tanto del Vaticano como del gobierno italiano, pasa sus días pensando en el Espíritu Santo y en los espíritus que hay dentro de las máquinas.
En las últimas semanas, este profesor de ética, sacerdote ordenado y geek autodeclarado, acompañó a Bill Gates en una reunión con la primera ministra Giorgia Meloni, presidió una comisión que busca salvar a los medios de comunicación italianos del olvido general provocado por la inteligencia artificial y de todos los textos producidos por ChatGPT y también se reunió con algunos funcionarios del Vaticano para promover el objetivo del papa Francisco de proteger a las personas vulnerables de la tormenta tecnológica que se aproxima.
En una conferencia organizada por la antigua Orden de Malta, Benanti le dijo a un grupo de embajadores que “se requiere una gobernabilidad global, de lo contrario nos arriesgamos a enfrentar un colapso social”. También habló sobre el valor de Llamamiento de Roma, una iniciativa del Vaticano, el gobierno italiano, Silicon Valley y Naciones Unidas que él ayudó a organizar.
Benanti, de 50 años, autor de muchos libros (Homo Faber: The Techno-Human Condition) y participante habitual en paneles internacionales sobre inteligencia artificial, es profesor de la Pontificia Universidad Gregoriana, el equivalente a la Universidad de Harvard de las universidades pontificias de Roma, donde imparte teología moral, ética y un curso llamado La caída de Babel: los retos de las redes sociales, digitales y la inteligencia artificial.
Su trabajo es ofrecer recomendaciones desde una perspectiva ética y espiritual a una Iglesia y a un país que buscan aprovechar y sobrevivir a la futura revolución de la inteligencia artificial. Benanti comparte sus ideas con el papa Francisco, quien en su mensaje del Día Internacional de la Paz, el 1 de enero, hizo un llamado a alcanzar un acuerdo global para garantizar el desarrollo y el uso éticos de la inteligencia artificial a fin de impedir que el mundo quede desprovisto de la misericordia humana y los misteriosos algoritmos decidan a quién se le otorga asilo, quién es acreedor a una hipoteca o quién vive o muere en el campo de batalla.
Esas inquietudes recogían las de Benanti, quien no cree en la capacidad de la industria para autorregularse y cree que son necesarias algunas reglas de procedimiento en un mundo donde los videos ultrafalsos y la desinformación pueden perjudicar la democracia.
A Benanti le preocupa que los dueños de los universos de la inteligencia artificial estén desarrollando sistemas que amplíen las brechas de la desigualdad. Teme que la transición a la inteligencia artificial sea tan abrupta que algunos campos profesionales enteros se limiten a realizar trabajos insignificantes, o a no hacer nada en absoluto, y le robe a la gente su dignidad y desate una avalancha de “desesperanza”. Según él, esto plantea grandes preguntas sobre la redistribución de la riqueza en un universo en el que predomine la inteligencia artificial.
Pero también ve el potencial de la inteligencia artificial.
Benanti está pensando mucho acerca de cómo la inteligencia artificial puede mantener a flote la productividad en Italia, un país que tiene una de las poblaciones más envejecidas y menguantes del mundo. Además, siempre aplica su visión acerca de lo que significa estar vivos y ser seres humanos, cuando parece que las máquinas están más vivas y son más humanas. “Se trata de una cuestión espiritual”, dijo.
Después de su meditación matutina, el padre Benanti se dirigió al trabajo con sus jeans azules asomándose bajo su túnica negra. Pasó junto a la Columna de Trajano, del siglo II, y entró con cuidado en el paso de peatones de una de las calles más concurridas de Roma.
“Esta es la peor ciudad para los autos que se manejan solos”, dijo. “Es demasiado complicado. Quizá en Arizona”.
La oficina que tiene en la Pontificia Universidad Gregoriana está decorada con imágenes enmarcadas de su propia fotografía callejera —fotos de vagabundos fumando cigarrillos o de una pareja aburrida que prefiere su teléfono celular a su bebé— y fotografías de él estrechando la mano del papa Francisco. Su vocación religiosa, explicó, surgió después de su vocación científica.
Nacidos en Roma, su padre trabajaba como ingeniero mecánico y su madre enseñaba ciencias en una escuela secundaria. En su infancia, le encantaba El señor de los anillos y el juego de Calabozos y Dragones, pero no se encerraba a jugar, puesto que también era un “niño explorador” que coleccionaba medallas de cocina, navegación y fotografía.
Cuando su grupo de niños exploradores, conformado por niños de 12 años, fue a Roma a hacer obras benéficas, conoció a monseñor Vicenzo Paglia, quien en aquel entonces era un párroco, pero que, al igual que él, iría a trabajar para el gobierno italiano —como miembro de la comisión sobre el envejecimiento en el país— y el Vaticano. Ahora Paglia es el jefe de Benanti en la Pontificia Academia para la Vida, la cual se encarga de cómo promover la ética de la Iglesia para la vida en medio de los cambios en materia bioética y tecnológica.
Más o menos en la época en que Benanti conoció a Paglia, uno de sus tíos le regaló de Navidad una computadora Texas Instruments. Trató de rediseñarla para jugar videojuegos, pero “nunca funcionó”, afirmó.
Asistió a una secundaria que ponía énfasis en los clásicos —para demostrar sus credenciales sobre el mundo antiguo, de pronto empezó a recitar el inicio de la Odisea en griego antiguo mientras caminaba hacia su trabajo— y uno de sus profesores de filosofía pensó que tenía futuro reflexionando acerca del significado de las cosas. Pero se vio más atraído por el funcionamiento de las cosas y obtuvo su título de ingeniería en la Universidad de Roma La Sapienza. Pero eso no fue suficiente.
“Comencé a sentir que algo me faltaba”, dijo, y explicó que estudiar ingeniería borró la mística que él veía en las máquinas. “Simplemente se acabó la magia”.
En 1999, la novia que tenía entonces pensó que necesitaba que Dios estuviera más presente en su vida. Lo llevó a una iglesia franciscana en Massa Martana, en la región de Umbría, donde su plan funcionó demasiado bien y él se dio cuenta de que necesitaba un espacio sagrado donde pudiera “cuestionar la vida sin parar”.
Para fines del año, había dejado a su novia y se había unido a la orden de los franciscanos, para asombro de sus padres, quienes pensaban que quizás estaba reaccionando de manera exagerada a una ruptura desagradable.
Se fue de Roma para estudiar en Asís, el hogar de San Francisco, y durante la década siguiente tomó sus votos perpetuos como fraile, se ordenó como sacerdote y defendió su trabajo de tesis sobre las mejoras del ser humano y los cíborgs. Obtuvo un empleo en la Pontificia Universidad Gregoriana y luego como especialista en la ética de la informática del Vaticano.
“Hay muchas instituciones que recurren a él”, señaló el cardenal Gianfranco Ravasi, quien solía administrar el departamento de cultura del Vaticano, donde Benanti era asesor científico.
En 2017, Ravasi organizó un acto en la embajada italiana ante la Santa Sede en el que Benanti dio una charla sobre la ética de la inteligencia artificial. Los funcionarios de Microsoft que asistieron quedaron impresionados y pidieron seguir en contacto. Ese mismo año, el gobierno italiano le pidió que contribuyera a los documentos de política de inteligencia artificial y al año siguiente solicitó con éxito formar parte de su comisión para desarrollar una estrategia nacional de inteligencia artificial.
Luego, en 2018, volvió a conectar con el ahora cardenal Paglia, un favorito de Francisco, y le dijo “mira, algo grande se está moviendo”. Poco después, los contactos del padre Benanti en Microsoft le pidieron que ayudara a organizar una reunión entre Francisco y el presidente de Microsoft, Brad Smith.
Benanti, como parte de la delegación vaticana, tradujo términos técnicos durante la reunión de 2019. Francisco, dijo, al principio no se dio cuenta de lo que Microsoft realmente hacía, pero le gustó que Smith sacara de su bolsillo uno de los discursos del Papa en las redes sociales y le mostrara al pontífice las preocupaciones que el ejecutivo de negocios había resaltado y compartido.
Francisco —quien, según el padre Benanti, ha aprendido más sobre la inteligencia artificial, especialmente después de que se hiciera viral una imagen del Papa con un abrigo blanco diseñada por IA— se mostró más animado. Al Papa le gusta cuando el debate gira menos en torno a la tecnología, dice el padre Benanti, y más en torno a “lo que puede hacer” para proteger a los vulnerables.
El mes pasado, Benanti, quien afirma que no recibe ningún pago de Microsoft, participó en una reunión entre Gates, el cofundador de la empresa, y Meloni, a quien le preocupa el impacto de la inteligencia artificial en la fuerza laboral. “Ella tiene que gestionar un país”, dijo.
Meloni ha nombrado a Benanti como reemplazo del dirigente de la comisión de inteligencia artificial para los medios de comunicación italianos, con quien no estaba satisfecha.
“Uno de los votos es la obediencia a la autoridad”, dijo Benanti mientras jugueteaba con los nudos del cinturón de cordón de su hábito, en referencia a sus votos de obediencia, pobreza y castidad de la orden franciscana.
Esa comisión está estudiando maneras de proteger a los escritores italianos. Benanti cree que las empresas de inteligencia artificial deberían rendir cuentas por usar fuentes con derechos de autor para entrenar a sus chatbots, aunque le preocupa que esto sea difícil de probar debido a que las empresas son “cajas negras”.
Pero para Benanti, ese misterio también ha vuelto a infundirle magia a la tecnología, aunque esta sea oscura. En ese sentido, no era tan nueva, comentó y sostuvo que al igual que los antiguos augures romanos recurrían al vuelo de las aves para obtener señales, la inteligencia artificial, con su enorme conocimiento de nuestros datos físicos, emocionales y de preferencias, podría ser el nuevo oráculo, que tome decisiones y reemplace a Dios con falsos ídolos.
“Es una cosa antigua que quizás creemos que ya dejamos atrás”, dijo el fraile, “pero que está regresando”.
Conoce a Paolo Benanti, el fraile tech especializado en IA y neurociencia
Benanti obtuvo su licenciatura en 2008 y completó su doctorado en teología moral en 2012, con su tesis El Cyborg: cuerpo y corporeidad en la era posthumana.
Debajo de una túnica franciscana marrón hay un hombre cuyo nombre es Paolo Benanti, especialista en ética, bioética y ética de tecnologías, cuyas principales áreas de concentración son la gestión de la innovación, incluyendo el impacto de la era digital e internet, biotecnologías para la mejora humana, bioseguridad, neurociencia y neurotecnología.
Benanti obtuvo su licenciatura en la Pontificia Universidad Gregoriana en 2008 y completó su doctorado en teología moral en 2012, destacando con su tesis El Cyborg: cuerpo y corporeidad en la era posthumana, además de tener una formación en ingeniería y una pasión denominada por el cómo la ética de la tecnología.
Participó en el Grupo de Trabajo de Inteligencia Artificial para la Agencia para la Italia Digital y es miembro de la Pontificia Academia para la Vida con un enfoque particular en el ámbito de la inteligencia artificial.
Actualmente es el especialista designado por el Vaticano para temas de tecnología e Inteligencia Artificial, además de ser parte del Órgano Consultivo de las Naciones Unidas sobre Inteligencia Artificial.
Dado su gran conocimiento tecnológico, ha tenido reuniones durante varios años con directivos e ingenieros de las tecnológicas más importantes de Silicon Valley para entablar conversaciones sobre tecnología y actualmente, sobre como la IA podría afectar a la humanidad y como prevenirlo.
Para compartir sus conocimientos, Benanti realiza conferencias en diversas partes del mundo, por lo que, en el caso de México, registro dos ponencias en 2023 en el ITESO de Guadalajara y en la IBERO en CDMX, todas ellas enfocadas en la ética de la IA.
Ahora sabemos de un fraile tecnológico, con un gran conocimiento y filosofía sobre las tecnologías actuales, los cuales para el siempre estarán enfocados en pro de la humanidad.
