Jesús Díaz
En su primera encíclica, el pontífice advierte que la inteligencia artificial no es neutral y pide preguntarse quién la construye, con qué moral y a costa de quién.
Edificar la torre de Babel seguramente no pareció una amenaza al principio. Alguien habrá dicho que era una buena idea: reunirnos todos, hablar una sola lengua, levantar una ciudad… tocar el cielo.
Y no es difícil imaginarla. Hombres cargando piedras, otros calculando la altura, unos más dando órdenes. Todos mirando hacia arriba, porque las torres tienen esa trampa de llevarnos a levantar la cabeza y a olvidar el suelo.
La historia es una alegoría bíblica, pero según el Papa León XIV, Babel ya es parte de nuestra realidad, sólo que cambió ladrillos por servidores, centros de datos y pantallas, con una nueva promesa de que todo será mejor desde una sola voz: la que nos habla desde ChatGPT, Claude o Gemini.
Esta semana, el pontífice publicó Magnifica Humanitas, su primera encíclica, que es considerada una de las cartas más importantes que puede escribir un Papa.
Su idea es muy poderosa porque no se trata de un simple comunicado con una frase pastoral, sino de un documento largo, con peso doctrinal, escrito para fijar una mirada de la Iglesia frente a un asunto poderoso, que para el clérigo estadounidense implica analizar el mundo en tiempos de inteligencia artificial.
Si bien la idea generó memes en estos días, pues muchos se burlaron caricaturizándolo como un personaje de ciencia ficción, imáginándoselo incluso como Terminator, su postura no es poca cosa. León XIV cuestiona más bien quién construye (edifica sería la palabra más adecuada) esa nueva torre, con qué fines, basándose en qué datos, bajo qué reglas y a costa de quién.
Dice el Papá, habría que preguntarnos, ¿qué pasa cuando esa herramienta y se convierte en lengua común? Cuando todos escribimos, buscamos, editamos, compramos, nos informamos y discutimos dentro de la misma torre, dentro de ese mismo lenguaje, ¿quién está detrás de todo esto?
Y si el dinero es lo que manda en los dueños de Claude, Google o ChatGPT, ¿a qué nos exponemos? ¿Qué hacer cuando una parte enorme de nuestra vida está ya organizada por empresas privadas que no elegimos, y que casi nunca explican bien su manera de procesar la información que nos arrojan? ¿Quién nos da las respuestas?
¿DE DONDE PROVIENE LA VOZ QUE NO GUÍA?
Hace unos meses, ese tema fue retomado por el periodista Tucker Carlson en una entrevista con el mismísimo Sam Altman, el cofundador de OpenAI, empresa detrás de ChatGPT.
Carlson lo cuestionó sobre los resultados que arroja su IA, quiso saber, ¿cuáles son esos inputs y qué marco moral obedecen? Es decir, si una máquina nos responde sobre política, religión, sexualidad, violencia, educación, salud, guerra, libertad, derechos o muerte, quién decidió respuestas son las “aceptables”, qué límites no se cruzan, qué palabras se bloquean, y qué otras son “razonables”.
Altman dijo algo que ya se sabe, que el modelo base intenta aprender de una experiencia colectiva de la humanidad: Libros, conocimiento, perspectivas distintas, lo “bueno”, lo “malo”, lo “admirable”, lo “detestable”. Pero Carlson fue más allá, y le cuestionó sobre lo que pasaría si en esa memoria conviven, por ejemplo, el Evangelio según San Juan y el marqués de Sade, ¿quién decide cuál pesa más? ¿Quién decide qué visión moral debe guiar las respuestas? ¿Quién establece que una cosa es mejor que otra?
Altman le explicó que, después del entrenamiento general, viene algo llamado “alineación”, es decir, la empresa define reglas para el comportamiento del modelo consultando a cientos de filósofos morales y expertos en ética tecnológica para tomar decisiones.
Carlson insistió que todas esas elecciones son morales, por lo tanto, una tecnología decide cómo se integran en la vida diaria de gran parte de la humanidad, por lo que terminará influyendo en todo lo que nos rodea. Y marcando un paradigma. Entonces Altman se vio acorralado, no aceptó del todo que la IA esté decidiendo por nosotros, pero sí reconoció que esas “pequeñas decisiones” afectarán a cientos de millones de personas en los años por venir.
Y reconoció, al final, que la persona responsable para esta etapa histórica de la humanidad él. Sí, alguien que acababa de cumplir 40 años.
EL PAPA Y SU PROPIA CRUZADA
La encíclica publicada por León XIV estos días hace buen en retomar esa verdad sobre el lenguaje absoluto y lo ocurrido con Babel.
En el relato bíblico, los hombres ciertamente no comienzan destruyendo nada, sino organizándose. Quieren hablar una sola lengua, edificar una ciudad, alcanzar el cielo y “perpetuarse”. El problema de ese pasaje bíblico no recae en la construcción en sí de la torre, sino en la visión de una humanidad soberbia que cree que puede bastarse a sí misma con una voz uniforme, algo que, en el caso de las compañías de IA, ocurre casi sin mediar.
León XIV llamó a eso el “síndrome de Babel”: “La idolatría del lucro que sacrifica a los débiles, la uniformidad que aplana las diferencias, la pretensión de un lenguaje único”, incluso digital, “capaz de traducirlo todo, incluso el misterio de la persona, en datos y rendimientos”.
El Papa aclara que el peligro no es que la máquina se vuelva humana, sino que los humanos aceptemos vivir como si fuéramos máquinas. Que midamos nuestro valor por su productividad, por su rendimiento, su velocidad, su adaptabilidad y, lo peor, utilidad económica.
En ese sentido, la encíclica recuerda que la dignidad humana “no depende de las capacidades que posee, de las riquezas o del rol que desempeña”, sino que es muy anterior y profunda a todo eso.
En el terreno laboral, por ejemplo, la encíclica advierte que los nuevos modos de trabajo no son necesariamente mejores. Por ejemplo, la IA promete liberarnos de tareas repetitivas, pero hacer lo contrario, nos adapta a la velocidad de las máquinas. El texto incluso advierte que los trabajadores pueden ser sometidos a una vigilancia automatizada y relegados a tareas rígidas y repetitivas.
Y, claro, no niega que la tecnología pueda ayudar. Pero admite que sería deseable que liberara al ser humano de trabajos pesados o peligrosos:: “El objetivo de obtener mayores beneficios no puede justificar decisiones que sacrifiquen sistemáticamente el empleo, porque la persona humana es un fin y no un medio”.
El Papa no deja afuera la educación. En una de sus líneas dice que “la escuela no está llamada a perseguir la velocidad del mundo digital, sino a ofrecer aquello que lo digital por sí solo no puede dar: tiempo compartido para aprender y relaciones fiables”.
La encíclica, desde luego, llega incluso al terreno de la guerra. León XIV advierte que el ciberespacio ya es un terreno de enfrentamiento, donde ataques informáticos, manipulación de datos y campañas de influencia con ayuda de IA pueden desestabilizar países enteros. Pide reglas compartidas sobre el uso de tecnologías digitales para proteger a civiles y personas vulnerables.
¿Qué hacer entonces? Frente a esa torre, el Pontífice sugiere colocar otra imagen menos espectacular pero más profunda: Nehemías mirando a Jerusalén destruida. La ciudad bíblica que tiene muros caídos y puertas quemadas. Y de la que la figura bíblica prefiere convocar por familia y oficio, para reconstruir. Ahí, nadie reconstruye la ciudad desde una sola altura. No hay una voz única que lo resuelva todo. Hay polvo, grietas, cansancio y voluntad.
La encíclica papal es poderosa porque si bien Babel puede intentar llegar al cielo, habrá que buscar a alguien abajo capaz de reconocer una voz humana entre tanto ruido que estén dispuestas a reconstruir un nuevo Jerusalen, diverso e imperfecto.
ATiempo.Tv es el primer medio de comunicación nativo digital e independiente en Coahuila, caracterizado por su compromiso y responsabilidad de contribuir a la sociedad; brindando información verificada de manera profesional, ética y confiable. Es por eso que te invitamos a seguirnos en nuestras redes sociales para que tengas acceso a las noticias más relevantes a nivel local, nacional e internacional.