Primera de dos partes
Este ensayo está dividido en dos entregas. La primera aborda los imaginarios eugenésicos de los líderes tecnológicos de Silicon Valley —los llamados “tech bros”—, así como su obsesión con la inteligencia, y cómo estas dos vetas han convergido para impulsar una carrera de armas, cuyo fin es crear una “superinteligencia” artificial. En la segunda entrega, se propondrá que el éxito social de las inteligencias artificiales generativas (asistentes digitales y generadores de imágenes, entre otras) depende de y contribuye a la difusión de una cultura de ignorancia sistémica con respecto a las destructivas prácticas de extractivismo ambiental, social e intelectual sobre las cuales se construyen estas tecnologías. Frente al tecnofascismo de Silicon Valley, resulta necesario cultivar imaginarios políticos alternativos y repensar de manera fundamental el lugar de las tecnologías “inteligentes” en sociedades orientadas hacia el equilibrio ambiental, la justicia social y el bienestar colectivo.
En este ensayo, quiero convencerles de que hoy día no se puede hablar de la IA sin hablar de tecnopolítica. Digo “hoy día”, aunque en realidad el concepto de inteligencia artificial ha sido político desde sus inicios. El término fue acuñado por el matemático John McCarthy en 1956, para la afamada “Conferencia de Dartmouth”, la cual suele considerarse como el momento en que nació el campo de la IA. Años después, McCarthy admitió que a nadie realmente le gustó el nombre, pues en realidad el objetivo del grupo de Dartmouth era crear una “inteligencia genuina”, pero, como “tenía que llamarlo de alguna forma, entonces lo llamé ‘inteligencia artificial’” (cit. en Mitchell 2019). Según Emily Bender y Alex Hanna, en su libro The AI Con, lo que les interesaba realmente a McCarthy y sus colegas era “traducir las dinámicas del poder y control en formulaciones en lenguaje de computadora” (2025, 11). Concretamente, querían desarrollar herramientas que pudieran ser utilizadas para guiar sistemas administrativos y, con el tiempo, militares. Para ello, lograron convencer a sus financiadores de que los avances en el campo de la IA eran necesarios para mantener su ventaja tecnológica, política y económica sobre los soviéticos.
Hoy las coordenadas geopolíticas han cambiado, pero con frecuencia escuchamos nuevos pronunciamientos desde la Casa Blanca para justificar las astronómicas inversiones en la infraestructura y tecnologías de las industrias de big tech, lo único que “nos” puede salvar de la eterna amenaza del dominio mundial chino. Siguen, pues, vigentes los estrechos vínculos entre big tech y el complejo militar-industrial, y al inicio del año pasado Trump dio rienda suelta a su amigo-enemigo Elon Musk, con su Department of Government Efficiency, para recopilar enormes bancos de datos sensibles sobre lxs habitantes de los EE. UU. Parece que uno de sus objetivos principales fue juntar e interconectar diferentes tipos de información personal, incluidos datos biométricos, con el fin de crear poderosos sistemas administrativos con capacidades inauditas para identificar y vigilar a inmigrantes.
Sin duda, una de las postales de esta segunda administración de Trump es la fotografía, tomada en su ceremonia de inauguración el 20 de enero de 2025, de los tech bros, formados para rendir tributo a su nuevo patrón político. La periodista investigativa británica Carole Cadwalladr, quien reveló el papel de las compañías tecnológicas de Silicon Valley y la interferencia rusa en el voto de Brexit en Reino Unido y en la primera elección de Trump, acuñó la palabra “Broligarchy” para subrayar la cultura compartida de machismo y misoginia que subyace este nuevo alineamiento entre big tech y Trump 2.0. Incluso desde antes de la inauguración, otrxs observadores alertaban contra el auge de un nuevo tecnofascismo, el cual surge ––según Joan Donovan, fundadora del Critical Internet Studies Institute–– “cuando los directivos de las compañías tecnológicas cifran sus creencias políticas en el diseño de sus plataformas, [… y] donde la tecnología es utilizada para la supresión política del discurso y para reprimir la organización de resistencias contra el Estado o el capitalismo”.
Hoy me voy a enfocar en un conjunto de tecnologías que se han vuelto emblemáticas del tecnofascismo estadounidense: las inteligencias artificiales generativas. Aunque estas tecnologías están disponibles al gran público desde 2022 (el “asistente digital” y chatbot ChatGPT fue lanzado por OpenAI en noviembre de 2022, y el generador de imágenes Stable Diffusion fue lanzado en agosto de 2022 por Stability AI), últimamente las encontramos en todos lados. Dependiendo del buscador que utilices, se ha vuelto incluso más difícil optar por no recibir resúmenes generados con IA cada vez que haces una consulta en Internet. Este afán de las compañías de big tech para impulsar que todas nuestras acciones e interacciones sean mediadas por inteligencias artificiales no tiene, en realidad, nada que ver con sus afirmaciones de que las IA nos pueden hacer más creativxs, más productivxs, más felices (de las cuales, ninguna ha resultado ser cierta). Tiene que ver con la nueva carrera de armas de nuestra época: la obsesión por crear la “inteligencia artificial general”, a veces llamada la “singularidad” o la “superinteligencia”.
El concepto de superinteligencia fue popularizado por el filósofo sueco Nick Bostrom, en su libro de 2014 Superintelligence: Paths, Dangers, Strategies. Allí, la supuesta intención de Bostrom es plantear las posibles rutas para la “inevitable” emergencia de una superinteligencia —la cual (según él) probablemente sucederá en algún momento de este siglo, vinculada al desarrollo de las nuevas técnicas de aprendizaje profundo de las redes artificiales neuronales—, a fin de ayudarnos a anticipar los peligros éticos y existenciales vinculados con este futuro evento. Sin embargo, los tech bros han tomado las “rutas a la superinteligencia” de Bostrom como una especie de manual de estrategias del “mejoramiento” humano y tecnológico: mapeamiento cerebral, reproducción selectiva, interfaces cerebro-computadora, microdosaje de drogas que aumentan el rendimiento cognitivo y, por supuesto, el desarrollo de inteligencias artificiales generativas con aplicaciones supuestamente “generales”.
Si algunas de estas prácticas les suenan un poco a los notorios proyectos eugenésicos que impulsaron tantas atrocidades durante la primera mitad del siglo pasado, no están solxs. En una sección sobre métodos para “mejorar el funcionamiento de los cerebros biológicos”, Bostrom clasifica de “eugenésicas” a prácticas como la manipulación genética para seleccionar rasgos “deseables” o eliminar características “indeseables”, la selección artificial de gametos, y el clonaje de individuos “excepcionalmente talentosos”. Aunque menciona algunos países, por ejemplo (oh, sorpresa) Alemania, en los cuales existe una fuerte resistencia cultural hacia la idea de nuevos “movimientos eugenésicos”, afirma que,
una vez que se haya dado el ejemplo, y los resultados empiecen a verse, los países reticientes tendrían fuertes incentivos por seguir sus huellas. Las naciones se enfrentarían a estancarse cognitivamente y salir perdiendo en los concursos económicos, científicos, militares y de prestigio contra competidores que abracen las nuevas tecnologías de mejoramiento humano. Los individuos dentro de una sociedad verían cómo las escuelas de élite se llenan de niños genéticamente seleccionados (los cuales, en promedio, puede que sean más bonitos, con mejor salud, y más aplicados) y querrán las mismas ventajas para sus propios hijos.
Bostrom 2014, 43
De hecho, la inteligencia siempre ha sido una fascinación de los promotores de la eugenesia. El científico inglés Francis Galton —primo de Charles Darwin y comúnmente reconocido como el “padre” de la eugenesia— propuso que los humanos deberían reproducirse de manera selectiva, como el ganado, para fortalecer los rasgos socialmente deseables (como el genio) y eliminar las características socialmente indeseables (como la “criminalidad” o la “idiotez”). Galton se dedicó a elaborar métodos estadísticos para medir la inteligencia, y para estimar su heredibilidad intergeneracional. Para sorpresa de nadie, él se autoproclamaba un genio, y creía que su propia familia era la más apta para liderar la clase política e intelectual de Reino Unido.
Las primeras pruebas “de inteligencia” fueron inventadas unos años antes de la muerte de Galton, aunque no por él, sino por dos psicólogos franceses, Alfred Binet y Theodore Simon. La prueba Binet-Simon fue diseñada para identificar a infancias que tenían retrasos en su desarrollo educativo, con el fin de darles un plan de educación de refuerzo. Binet y Simon no concebían a la inteligencia como una propiedad biológica y heredable, sino como un “juicio de valor”, una manera de evaluar cómo los individuos hacían ciertas tareas limitadas (ordenar, comprender, inventar, corregirse). No obstante, su prueba fue adoptada y adaptada por eugenistas estadounidenses como Henry Herbert Goddard y el psicólogo Lewis Terman de Stanford University. Terman revisó la prueba Binet-Simon y echó mano del concepto de cociente intelectual, inventado por el psicólogo alemán William Stern. Como Galton, Terman soñaba con una sociedad racional, reglada por principios eugenésicos, en la que las ocupaciones profesionales fueran asignadas según la cociente intelectual de las personas.
A pesar de las numerosas críticas de estas pruebas —por ejemplo, sus sesgos culturales, o el hecho de que de forma sistemática registren resultados mejores para personas socioeconómicamente acomodadas, lo cual indica que no estén realmente captando una propiedad puramente biólogica, sino también las consecuencias de las desigualdades societales—, los tecnofascistas hablan del IQ de las personas como si fuera una medida de su valor en un sentido más amplio. Las métricas de habilidad académica y cognitiva también son su vara para definir el desempeño de sus inteligencias artificiales generativas: se habló mucho de que 2025 iba a ser el año en que los asistentes inteligentes de Google, Anthropic, OpenAI, y otros, iban a alcanzar habilidades “a nivel de doctorado”, y Elon Musk regularmente se jacta de que Grok, el chatbot de X, tiene un conocimiento mayor “que el nivel de doctorado en todo” y que es la IA “más inteligente del mundo”. En eso se basan sus promesas de que, tan pronto emerja “la superinteligencia”, podrá ponerse a resolver todos los problemas más complejos del mundo: la crisis ambiental, por ejemplo.
Pero en realidad los tech bros parecen interesarse muy poco en el futuro de este mundo. En un artículo que sería fascinante si no fuera tan aterrador, Timnit Gebru y Émile P. Torres explican el conjunto de ideologías que comparten muchas de las figuras destacadas de las big tech. El “paquete TESCREAL” incluye transhumanismo y extropianismo, singularitarianismo, cosmismo, racionalismo, altruismo efectivo y largoplacismo. Aquí solo voy a esbozar muy brevemente estas últimas dos ideologías. El altruismo efectivo es un movimiento originado en Oxford, que se preocupa por la cuestión de cómo hacer el máximo bien con recursos finitos. En sus orígenes, sus seguidores se enfocaban en problemas como la pobreza mundial y la crisis climática. Sin embargo, en parte debido a la influencia de Bostrom y sus acólitos, sus líderes cambiaron su enfoque para concentrarse en los problemas de un futuro lejanísimo (de allí el largoplacismo). En Superintelligence, Bostrom postula que los humanos futuros podrían llegar a colonizar el universo y a crear computadoras del tamaño de planetas para potenciar mundos de realidad virtual poblados por trillones de personas digitales (altamente inteligentes, podemos suponer). Como documenta Émile P. Torres, bajo la perspectiva “utilitarista totalista” del altruismo efectivo, nuestra obligación moral hoy día sería hacer todo lo posible para garantizar que lleguen a existir estas futuras personas digitales y que tengan vidas “buenas” y “llenas de placeres hedonistas”, pues esto maximizaría la cantidad total de “valor” en el universo. Incluso si eso implica la extinción de la mayor parte de los humanos “biológicos” que viven hoy.
Pongamos de lado el hecho de que —y creo que no me estoy arriesgando mucho al decirlo— esta visión “utópica” resultaría repugnante para una gran parte de los seres humanos cuyas vidas se pondrían en juego en caso de conseguirse tal sueño guajiro de la superinteligencia. Quiero decir: más allá de esos reparos morales, la visión de esos “altruistas efectivos” de lo que es “el bien”, “el placer”, “el valor”, me resulta totalmente extraña, y va a contrapelo de todas nuestras más convincentes teorías científicas acerca de cómo funciona la cognición humana: es decir, no como algo puramente mental, cerebral, intelectual, sino como algo corporeizado, incrustado, enactivo y extendido. Para poner sólo un ejemplo, ¿cómo podríamos imaginar un mundo lleno de “placeres hedonistas”, pero sin hormonas, sin tacto u olor, sin cuerpos?
A mí, la cosmovisión de los tech bros me resulta escuálida, soberbia, desdeñosa de todas las formas de vida con las que compartimos nuestro mundo. Como los eugenistas pasados, ya se ha comprobado que muchos de los líderes de las big tech comparten creencias profundamente racistas, misóginas, clasistas. Se jactan de su inteligencia, pero en realidad lo que nos ofrecen es su ignorancia: la ignorancia sistémica de los ultra privilegiados.
Lee aquí la segunda parte
Nota
Las reflexiones presentadas aquí fueron elaboradas en gran parte a partir de discusiones colectivas con miembros del seminario “Ciencias y Mitos de la ‘Inteligencia’. Un recorrido histórico/filosófico de las mutaciones de un concepto”, codirigido por Alexis Bedolla Velázquez, Carlos López Beltrán, Julián Bohórquez Carvajal y la autora (Posgrado en Filosofía de la Ciencia UNAM, 2026-1). Una versión de este ensayo fue presentada como conferencia magistral en la International Conference on Philosophy of Computing, celebrada en la UNAM, Ciudad de México, entre el 27 y 31 de octubre de 2025.
Bibliografía citada
Bender, Emily M. y Alex Hanna. (2025). The AI Con: How to Fight Big Tech’s Hype and Create the Future We Want. HarperCollins.
Bostrom, Nick. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.
Mitchell, Melanie. (2019). Artificial Intelligence: A Guide for Thinking Humans. Farrar, Straus and Giroux.