Multivac posee ya la mayoría de la información necesaria para decidir todas las elecciones, nacionales, provinciales y locales. Únicamente necesita comprobar ciertas imponderables actitudes mentales y, para ello, recurriremos a usted.
Isaac Asimov, Sufragio universal
La conciencia tecnocrática hace desaparecer este interés práctico tras el interés por la ampliación de nuestro poder de disposición técnica.
Jürgen Habermas, Ciencia y técnica como ideología
Multivac
En Sufragio universal, relato de Isaac Asimov publicado en 1955, las elecciones ya no son necesarias porque la supercomputadora Multivac procesa toda la información derivada de los comportamientos, creencias y tendencias de la ciudadanía para poder elegir al presidente a partir de una predicción de sus preferencias. La comodidad del proceso es casi total porque ningún humano está obligado a participar activamente en él, excepto uno. Y es que cada año electoral, la máquina selecciona a una persona que representa al conjunto de la sociedad con el propósito de obtener de ella algunos aspectos imponderables que quedan fuera del gigantesco volumen de datos. Así, al presentarse en persona y responder un cuestionario diseñado por la propia computadora, el afortunado elegido suministra el ingrediente humano requerido para la determinación del resultado electoral. De esta forma, año tras año, los ciudadanos participan de la fiesta de la democracia sin necesidad de expresar sus preferencias ni de entrar en deliberaciones engorrosas y desgastantes.
Este fascinante relato muestra hoy su carácter anticipatorio con un escenario que comienza a cobrar forma en diferentes proyectos que buscan poner las poderosas capacidades de la IA al servicio de la democracia. Uno de esos proyectos, la Habermas Machine, será objeto de análisis del presente ensayo.
La naturaleza antihabermasiana de la “Máquina de Habermas”
En 2024, Google DeepMind presentó un sistema basado en LLM, diseñado para facilitar la deliberación democrática a gran escala. Atendiendo a este objetivo y teniendo en cuenta el papel fundamental que ejerció el filósofo alemán en la defensa y construcción teórica de un modelo deliberativo de la democracia, parecería que el nombre del sistema, “Habermas Machine” (HM), está bien elegido. En cualquier caso, antes de decir algo sobre lo adecuado o no de este bautismo, veamos cómo funciona la HM. Según la publicación en Science, los participantes que utilizan la máquina son organizados en pequeños grupos y tienen que escribir, de manera individual y privada, una opinión personal sobre un tema controvertido (el cambio climático, la inmigración, el salario mínimo o algún otro por el estilo). Una vez hecho esto, la HM recibe todas las opiniones, las procesa y genera una declaración grupal que envía a los diferentes participantes para que éstos la califiquen y la comenten, de nuevo de manera individual y privada, en función de sus acuerdos o desacuerdos. En la siguiente fase del proceso, la máquina procesa las calificaciones y comentarios para generar otra declaración grupal que es vuelta a revisar por los participantes. El objetivo, después de varias iteraciones, es encontrar puntos en común entre posiciones distintas y enfrentadas, promoviendo acuerdos que disuelvan la polarización y satisfagan a todas las partes.
Los resultados del procedimiento resultaron bastante promisorios si consideramos la función de mediación que cumple la máquina, ya que los participantes 1) prefirieron las declaraciones arrojadas por la HM a las escritas por los humanos, 2) las consideraron más claras, informativas y menos sesgadas; y, lo que resulta más sorprendente, 3) convergieron más fácilmente en una declaración común. Además, hemos de tomar en cuenta los valores de eficiencia, equidad y escalabilidad que, como indica Palomo Hernández, se expresan en el sistema. Eficiencia, porque mientras un mediador humano necesitaría de varios minutos para lograr una declaración, la HM la arroja en pocos segundos. Equidad, porque se predice eficazmente el nivel de acuerdo de los participantes con cada declaración candidata; para ello, la IA selecciona la que maximiza la aprobación esperada del grupo, además de otorgarle un valor importante a las posiciones minoritarias. Escalabilidad, por último, porque se pretende que sea utilizada, no sólo en grupos relativamente pequeños como puedan ser las asambleas ciudadanas o las deliberaciones de jurado, sino en procesos masivos que involucren una gran cantidad de personas, todas interactuando con la máquina y sin tener que encontrarse entre sí.
Es indudable que este proyecto de democracIA tiene el atractivo de hacer frente a algunos de los problemas diagnosticados más persistentemente en diferentes prácticas y experiencias deliberativas, como puedan ser el tiempo que debe invertirse en ellas, la complejidad logística o la participación desigual. Además, viene a tratar de subsanar graves dolencias de las democracias contemporáneas, provocadas por el mismo ecosistema de producción e implementación de sistemas de IA. Esto es especialmente relevante, pues si la esfera pública está siendo socavada por burbujas informativas, cámaras de eco y otras formas de condicionamiento algorítmico, habría que tomarse con optimismo el hecho de que, desde el mismo ámbito tecnológico, se promuevan ejercicios de ensanchamiento democrático y participación deliberativa que mejoren las ya muy laceradas condiciones de construcción de ciudadanía.
Pero antes de echar las campanas al vuelo, conviene también analizar las críticas que la HM, a pesar de su corto tiempo de vida, ha recibido ya, las cuales están dirigidas no a una eficacia técnica que nadie parece poner en duda, sino a la concepción de la deliberación que encarna su diseño. Pasaré a señalar tres de esas críticas para, a continuación, presentar y desarrollar otras dos, no abordadas aún en la literatura sobre el tema, pero que, según creo, arrojarán luz sobre algunos de los riesgos más graves que entraña el uso de la HM.
En primer lugar, habría que dejar claro que la HM no constituye un espacio deliberativo, puesto que en ella no se da una deliberación propiamente dicha. Sobre este asunto, Palomo Hernández ya ha hecho énfasis en que el diseño de la máquina reduce la participación humana a, por una parte, la expresión de opiniones individuales que se escriben en privado y, por otra, a la evaluación igualmente privada de propuestas generadas por la máquina. Esto se debe a que la HM opera como una técnica de caucus; es decir, como una forma de mediación de conflictos en la que el mediador se reúne por separado con cada una de las partes con el objetivo de que cada quien pueda expresar sus posiciones e intereses sin temor a la presión del grupo o sin el riesgo de ser interrumpido o ridiculizado por el resto. Sin embargo, si el intercambio argumentativo entre humanos no se da en ningún momento, no podemos hablar de deliberación, puesto que ésta implica necesariamente la comunicación entre sujetos que están dispuestos no sólo a ofrecer y escuchar razones, sino a cambiar de opinión en función de la asunción de las mejores de ellas.
Vinculada con la anterior, la segunda crítica, expresada por Alessandro Volpe, señala cómo lo que se produce con la HM es un “consenso sintético” que no busca transformar las perspectivas de los participantes a partir del encuentro comunicativo, sino procesar las posiciones de entrada para generar una declaración maximizadora de preferencias susceptible de aceptación generalizada. O, dicho de otra forma, el objetivo del sistema es encontrar un posible acuerdo entre posiciones preexistentes que no deja resquicio a intercambios argumentativos en los que se puedan revisar las opiniones de partida. Este diseño resulta especialmente problemático, pues socava el espíritu mismo de la deliberación tal como es expresado por William Rehg, a quien el mismo Volpe cita: “la formación discursiva de la voluntad resultante de tal proceso de argumentación no debería limitarse al descubrimiento de áreas superpuestas entre intereses privados. […] Un discurso no sólo debería descubrir intereses comunes ya existentes pero no reconocidos, también debería permitir su creación”. Teniendo esto en cuenta, estoy dispuesto a hacer una concesión razonable al asumir que la HM es capaz de crear algo nuevo cuando arroja como resultado una síntesis de posiciones. Pero entonces, que se nos conceda también que la agregación algorítmica de preferencias individuales cierra la puerta a otras formas de hacer emerger nuevos intereses que sólo se podrían dar en un intercambio argumentativo entre sujetos dispuestos a revisar sus posiciones mientras escuchan las razones que sustentan las del resto.
La tercera crítica fue formulada por el propio Habermas al enterarse de que DeepMind había usado su nombre sin permiso. En una carta escrita antes de su fallecimiento, el filósofo alemán declaraba que un programa de IA para el discurso práctico era contradictorio, puesto que los participantes involucrados deben cumplir una condición que sólo se satisface desde la perspectiva de la primera persona: “Se espera que cada participante en persona tenga la exigente tarea de una delicada toma de posesión mutua de la perspectiva, desde la cual pueda evaluar y, si es necesario, adaptar sus propios intereses y orientaciones de valor a la luz de los intereses y valores de todas las demás personas que puedan verse afectadas y posiblemente perjudicadas”, dice la carta. Esa exigencia, entonces, tiene dos rasgos que la hacen irreductible a cualquier procedimiento algorítmico. El primero es que la operación debe ser realizada por el propio sujeto desde la primera persona; es decir, no se trata de que alguien evalúe sus intereses por él, sino de que él mismo los revise desde la perspectiva del otro. El segundo es que esa revisión debe hacerse a la luz de todos los posibles afectados, no sólo de los participantes en la deliberación. En relación con esto, la HM sólo procesa lo que escriben quienes están en la mesa sin que haya garantías de que se vayan a tener en cuenta a los potenciales afectados que no están presentes, ya sea porque no fueron convocados, ya porque no saben que les afecta, ya porque no tienen acceso al proceso. Cabe señalar que, ante estas objeciones expresadas por el más influyente teórico de la deliberación, los creadores de HM se comprometieron a dejar de utilizar su nombre. Queda así zanjado el asunto sobre si la máquina debería o no llamarse así.
Si bien estoy de acuerdo con las críticas anteriores, quiero plantear ahora que existe una dimensión aún no analizada y que, de atenderse, robustecería la tesis de que la HM distorsiona, si no es que bloquea, el proyecto deliberativo. Se trata del aspecto formativo y pedagógico que posee la comunicación entre interlocutores con pretensión de entendimiento mutuo. Como vimos anteriormente, la HM opera como un mediador de caucus, pues se “reúne” en privado con cada participante antes de hacer una propuesta colectivamente aceptable. El problema es que, si bien es una técnica adecuada para quienes tengan poca confianza para deliberar o para quien tema que su voz sea silenciada en un debate dominado por los más elocuentes, debería utilizarse de manera excepcional en situaciones en las que el conflicto se ha estancado, el tono se ha degradado y la conversación se ha vuelto improductiva. La HM, en cambio, toma esa técnica por defecto, sustituyendo el proceso deliberativo normal y provocando que los participantes no se encuentren directamente. Con ello elimina ese carácter formativo y transformador del diálogo. Lo que sostengo, entonces, es que la deliberación no puede entenderse tan sólo en función de su potencial para transformar preferencias y lograr acuerdos, sino como —y quizá sobre todo— un espacio de formación de ciudadanía donde se desarrollan y ponen a prueba facultades comunicativas (y por tanto morales), como las de la escucha, la interpretación, la comprensión, la expresión y la formación responsable de la opinión. Transformar el ejercicio de deliberación en una síntesis de preferencias hace que una de las ventajas que tenía el caucus —la de proteger a los vulnerables y aumentar la confianza de los inseguros— se pervierta, al impedir sistemáticamente la puesta en práctica de habilidades que mejoran en el encuentro directo con los otros. Lo que se pierde, así, es la oportunidad de que los ciudadanos se formen como interlocutores y deliberantes. Tal privación podría traducirse en un déficit de competencias cívicas y una atrofia de la práctica comunicativa que ninguna máquina, por más eficiente que sea, podría fácilmente compensar.
Por último, quiero mostrar que la máquina no es sólo antideliberativa, sino profundamente antihabermasiana. Para ello acudiré a “Ciencia y técnica como ideología”. En este texto de 1968, Habermas diagnosticó la perversión tecnocrática de la política, mostrando cómo el Estado quedaba cada vez más sometido a un imperativo técnico por el cual cualquier situación política era transformada en un problema susceptible de resolución eficiente. De esta forma, la racionalidad instrumental, al colonizar el ámbito de la política, va produciendo, de manera aparentemente inexorable, una patología social consistente en interpretar sistemáticamente todo dominio práctico como un asunto técnico y toda decisión normativa como un mandato funcional del sistema. Pues bien, lo que creo es que la máquina habermasiana supone la culminación de este proceso tecnocrático, pues ya no se trata de hacer de la política un modo de gestión experta, sino de introducir la razón técnica en el corazón mismo de la práctica comunicativa. Porque si la tecnocracia clásica legitima la administración excluyendo cualquier expresión de la voluntad política que pretenda ir más allá de la eficiencia, proyectos como los de HM hacen que la razón instrumental, en lugar de sustituir a la conversación, la simule. Llegamos así al clímax de la colonización instrumental. La deliberación, ese modo de encuentro con los otros orientado al entendimiento que se sostiene —reconociendo todos sus obstáculos y defectos— en un profundo compromiso democrático, es cooptada por un modo de la razón instrumental que se expresa, en tiempos de la IA, como optimización algorítmica.
Multivac y los imponderables
No puedo evitar pensar que la máquina del sufragio universal de Asimov representa una distopía más amable que la de proyectos como los de HM. Al fin y al cabo, Multivac procesaba datos sobre los ciudadanos a sabiendas de que había algo que no podía procesar: un residuo de voluntad política difícilmente computable que obligaba a la incorporación presencial de un humano en el momento de la decisión. HM, en cambio, parece no reconocer ese límite. Como Multivac, procesa información de los participantes, pero desconoce la importancia de esas imponderables actitudes mentales que sólo se expresan en una auténtica vinculación comunicativa. Y es que eso que surge entre deliberantes cuando se encuentran en un cara a cara cargado de emotividad, valores, intereses y fricciones sólo es posibilitado por un modo de conversación que nos obliga tanto a la contención como a la apertura. Por eso, la máquina antihabermasiana, al hacer a un lado intencionalmente estos imponderables, acaba anulando uno de los dominios más importantes para la transformación individual y colectiva de la ciudadanía: el del diálogo.
