Y arrojando los fragmentos en la hoguera se inclinó y se tendió sobre la mesa, mientras con ambas manos apretaba contra el pecho el Palantir. Y se dice que desde entonces, todos aquellos que escudriñaban la Piedra, a menos que tuvieran una fuerza de voluntad capaz de desviarla hacia algún otro propósito, sólo veían dos manos arrugadas y decrépitas que se consumían entre las llamas.
J.R.R. Tolkien, El retorno del rey
Fue una lucha ardua, y la fatiga tarda en pasar. No le hablé, y al final sometí la Piedra a mi voluntad. Soportar eso solo ya le será difícil. Y me vio. Sí, maese Gimli, me vio, pero no como vosotros me veis ahora. Si eso le sirve de ayuda, habré hecho mal. Pero no lo creo. Supongo que saber que estoy vivo y que camino por la tierra fue un golpe duro para él, pues hasta hoy lo ignoraba.
J.R.R. Tolkien, El retorno del rey
Hace unos meses, Peter Thiel, cofundador de PayPal, inversionista temprano de Facebook y uno de los gurús del transhumanismo, visitaba Roma y se quedaba a las puertas del Vaticano para dar una serie de conferencias sobre el Anticristo. La elección del lugar, obviamente, no tiene nada de casual. Si el tecnólogo iba a acometer la tarea de transmutar su ingenieril palabra en sermón teológico, la Santa Sede era el lugar indicado. Más aún cuando se trataba de transmitir la necesidad de llevar a cabo una nueva cruzada, quizá la última y más importante de ellas, contra el mal. Y es que en la interpretación del gran señor tecnofeudal de Silicon Valley, el Anticristo no es la gran personalidad perversa por venir, sino cualquier figura pública o movimiento político y cultural actual que, portando como estandartes valores como los de la democracia, el medio ambiente, la ética o la justicia social, acabará convirtiendo el mundo en un infierno de regulación.
En la doctrina tecnoteologal de Thiel, el pecado es la regulación estatal y mundial; la salvación, la tecnología; el Cristo Redentor, la marcha de un poder sin trabas que ha vencido la tentación de dotarse de reglas y que se encamina hacia la superación de lo humano y la exploración del nuevo reino de la singularidad. No podemos sino agradecer a Thiel la clarividencia, pues su palabra tecnorevelada nos permite reconocer el verdadero rostro demoníaco de tantos activistas, legisladores o aparentes simples ciudadanos que no son sino falsos profetas de los dioses de la precaución y el control democrático de la tecnología.
En fin, ya sabíamos que había un sustrato teológico y teleológico en nuestras formas de entender y orientar la tecnología, pero el modo en que Thiel ha participado en el debate con su idea del Anticristo prorregulatorio ofrece una imagen clara de cómo la batalla por las transformaciones técnicas del mundo se juega también en el campo de los imaginarios, la fantasía y la religión. Al proclamar que el mal absoluto no es la tecnología sin control, sino el control de la tecnología, ha hecho una incursión simbólica en la jurisdicción de la Iglesia construyendo un marco teológico en el que el único mandamiento divino consistiría en quitar volante, frenos y cinturón de seguridad a la acelerada máquina que nos encamina al paraíso.
Ahora bien, ¿quién sería uno de los Anticristos si alguien escribiera una encíclica que defendiera el establecimiento de límites a la innovación y expresara su oposición al imperativo tecnológico que dicta que todo lo que puede hacerse ha de hacerse? Efectivamente, León XIV, quien, con su recién y ya tan comentada primera encíclica, Magnifica Humanitas, no ha hecho sino confrontar directamente a Thiel con un texto que critica el poder tecnocrático defendiendo la reorientación y la evaluación ética de la tecnología. De esta forma, el sucesor de Pedro responde al herético ataque y dirige la doctrina social de la iglesia hacia una reflexión crítica sobre la inteligencia artificial. Y lo hace, no con un tratado de teología dogmática sobre el Anticristo, sino con un texto que enfrenta la visión de Thiel sumergiéndose en el núcleo imaginario de su empresa más importante: Palantir.
Soy consciente de que afirmar o incluso sugerir que la encíclica está dirigida concretamente a una persona, por más relevante, famosa o poderosa que sea, puede resultar excesivo. Es evidente que nadie podría negar que las críticas a la acumulación del poder técnico en manos de unos pocos necesariamente incluirían a Thiel; sin embargo, creo que quedarse con esta poco controvertida interpretación resulta insuficiente y no puedo dejar de sospechar que, si bien la encíclica plantea una crítica a todo discurso transhumanista y tecnocrático, el referente velado concreto es el fundador de Palantir. Porque es precisamente el nombre de su empresa de IA, utilizada por agencias de inteligencia y ejércitos para la vigilancia masiva y la guerra, lo que hace que la inesperada alusión a Gandalf cobre todo el sentido. Mi intuición me lleva a pensar que si Thiel se ha atrevido a decir cerca del Vaticano que el Anticristo es la manifestación de los límites a la tecnología, el Papa ha respondido haciendo mención en su encíclica a uno de los personajes centrales de El señor de los anillos con el objetivo de recuperar el espíritu de la obra de Tolkien y mostrar el verdadero significado de uno de los objetos más importantes de la trilogía: la piedra palantir.
Los palantiri son unas esferas de cristal oscuro prácticamente indestructibles que fueron creadas por Fëanor, el más hábil de los artesanos élficos, para poder observar lo que ocurría a grandes distancias. Esta función queda recogida en su propio nombre, pues en lengua élfica palantir significa “el que mira desde lejos”. Al final de la Segunda Edad, cuando Númenor se hundió por la corrupción de Sauron, los sobrevivientes llevaron siete de estas piedras a la Tierra Media y las distribuyeron entre diferentes torres vigía con el fin de que los reinos de Arnor y Gondor pudieran comunicarse entre sí. Una de ellas quedó en Orthanc, la fortaleza de Isengard. Otra, en Minas Ithil. Esta última caería en manos de Sauron, quien la utilizaría para tejer su red de control y hacer que Saruman, el más sabio de los magos de la orden de los Istari, quedara corrompido por su poder. El palantir se convierte, así, en un objeto para la guerra que domina el alma de quien lo utiliza. Es entonces cuando la grandiosa fortaleza de Isengard se vuelve un lugar lleno de hornos humeantes y árboles talados donde miles de orcos son creados en pozos de lodo para nutrir el ejército del señor oscuro. Isengard no es más que la Babel de la Tierra Media: una construcción “sustentada por una uniformidad que elimina la diversidad y que, en lugar de la comunión, elige la homogeneización”, como describe León XVI a la torre bíblica. En definitiva, la de la Tierra Media se trataba de un espacio maquínico de destrucción masiva concebido para aplastar al mundo siguiendo el imperativo de la eficiencia y poniendo la tecnología al servicio del dominio y de la guerra.
Frente a la Babel de la uniformidad técnica representada por el diseño instrumentalizador de las grandes oligarquías tecnológicas, o lo que es lo mismo, frente a la Babel de hierro y fuego que es la fortaleza del poderoso mago, la encíclica propone la imagen de Jerusalén, una ciudad que no se construye por el poder de uno solo, sino gracias a la responsabilidad compartida de todo un pueblo. Lo que está en juego, por tanto, son dos formas de habitar el mundo. La de Isengard/Silicon Valley donde Saruman/Thiel pretende tener el dominio total del resto; o la de Nehemías/Gandalf, que saben que el bien común es producido y cobijado por todos.
Pero volvamos a la trama de El señor de los anillos para ver si da algo más de sí esta interpretación que hace del palantir la metáfora principal de la inteligencia artificial. Una vez disuelta la comunidad del anillo, la piedra élfica de Isengard pasa a las manos de Gandalf, quien, conocedor de su poder, prefiere no usarlo. Sin embargo, Pippin, movido por la curiosidad, la mira y queda atrapado por la imagen del ojo de Sauron. En este encuentro dramático, el señor oscuro no mata a Pippin, sino que lo interroga y lo convierte en su instrumento. El hobbit entonces sucumbe al poder de la piedra, de la misma forma, quizá, que hoy se sucumbe ante el de tantas plataformas y servicios digitales que captan “el tiempo y la mirada de los usuarios, explotando sus fragilidades y debilitando la libertad interior” (de nuevo es cita de la encíclica). El palantir digital de Thiel, como la piedra oscura creada por los elfos y controlada por Sauron, vulnera nuestro frágil espíritu controlando nuestros deseos y sosteniendo maliciosamente nuestra atención. Por eso, quien escudriña la piedra sin la fuerza de voluntad para desviarla hacia otro propósito solo se encuentra con dos manos consumidas entre llamas; o sea, con su propia destrucción.
Ahora bien, Gandalf, al descubrir lo que ha hecho Pippin, toma la decisión que a mi juicio constituye la propuesta principal de la encíclica. En lugar de dejar la piedra en manos de quien puede ser sometido por ella, decide entregarla a Aragorn, representante legítimo de los humanos, puesto que él es quien tiene la capacidad de controlarla. El heredero al trono de Gondor, además de no claudicar a su poder, podrá despojarla de sus funciones de dominio y espionaje. León XIV, al igual que Gandalf, no desea destruir el palantir. Al contrario, su plan es sacarlo de la torre aislada de un mago poderoso y arrogante para devolverlo a una comunidad que pueda imprimirle fines beneficiosos. En este sentido creo que las lecturas de la Magnifica Humanitas que la conciben como un texto tecnofóbico están equivocadas. No se trata de prohibir la IA, sino de ponerla en manos legítimas: en manos de todos, bajo control democrático, escrutinio moral, transparencia y responsabilidad. Cuando el papa afirma que es necesario desarmar la IA y hacerla acogedora, está diciendo que debemos quitársela a Saruman y ofrecérsela a Aragorn; es decir, a la humanidad.
Invito, entonces, a leer las palabras de Gandalf citadas en la encíclica bajo la óptica de la interpretación que acabo de dar: “No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir, extirpando el mal en los campos que conocemos, y dejando a los que vendrán después una tierra limpia para la labranza”.
Frente al ansia de acumulación de poder de las fuerzas tecnocráticas, el mago blanco nos recuerda que el futuro del mundo se juega en las acciones de todos. En este sentido, efectivamente, Magnifica Humanitas es un texto que inevitablemente va más allá de Thiel, de su empresa Palantir o del resto de los oligarcas tecnológicos. La referencia a Gandalf nos hace adentrarnos en el mundo de la Tierra Media para recordarnos la importancia de las alianzas inesperadas para defender la comunalidad de los bienes. Porque si Sauron fue derrotado por una sorprendente comunidad de hobbits, elfos, humanos, magos y enanos, forjada gracias a la amistad y el cuidado, quizá el nuevo poder tecnocrático que pretende marcar el destino de la humanidad haya de ser combatido haciendo un frente común con compañeros de viaje insospechados —como pudiera serlo, por ejemplo, un sumo pontífice.
