La noticia pronto se hizo viral, en particular en el ambiente literario: la editorial mexicana Almadía suspendió la promoción de la novela Donde el agua trabaja (ganadora del I Premio de Novela Breve Almadía-Ventosa Arrufat) después de que el diario El País publicó un reportaje en el cual pone en duda la “autoría humana” de la novela presentada por el escritor peruano David Silva Rojas y premiada por un jurado conformado por Cristina Rivera Garza, Selva Almada y Mónica Ojeda. El reportaje —firmado por Jordi Pérez Colomé, Elizabeth Duval y Kiko Llaneras— refiere que pasó el texto en Pangram, “el detector más fiable de texto generado por máquinas”, y su diagnóstico fue que el 99% de la novela fue hecho con Inteligencia Artificial (IA). En el reportaje se destaca que los participantes del premio firmaron una carta en la cual aseguran que los textos presentados no fueron creados ni total ni parcialmente con IA. En caso de no cumplir ese compromiso, las obras serán descalificadas.
La editorial Almadía contestó que hará sus propias investigaciones; sin embargo, aclaró que confía en la palabra del autor. Como se puede suponer, el escándalo provocó todo tipo de reacciones. Muchos de los que han podido leer la versión digital del texto o algún adelanto encuentran sospechosa la escritura por el uso del lenguaje, el ritmo y ciertas elecciones en la trama. Otros destacan el cliché de la historia y la pobreza argumental. El reportaje de El País refiere que Pangram tiene una tasa muy baja de falsos positivos. Antes y después del escándalo, varios escritores han sometido sus textos —hechos sin IA— a detectores como Pangram para descubrir si la máquina da como resultado escritura artificial. La sospecha, por supuesto, seguirá mientras no haya una conclusión sobre el uso de la IA en la novela ganadora. En una sociedad inmersa en la paranoia provocada por la desinformación y, sobre todo, la desconfianza, la obra de David Silva Rojas servirá para demostrar, entre otras cosas, que la tecnología puede engañar a un jurado conformado por escritoras de prestigio. También servirá para entender que la tecnología está inmersa no sólo en la versión final de una novela presentada a un premio sino en la misma ejecución y desarrollo. Motores de búsqueda como Google y procesadores de texto usan IA. ¿Pangram y otras máquinas detectoras que aparezcan —pues se acelerará la competencia armamentista que la IA desarrolla contra sí misma para autoidentificarse— podrán señalar los rastros que deja la interacción humana con la tecnología para ofrecer su veredicto “casi” infalible? ¿Si alguien corrige un texto con IA correrá el riesgo de ser detectado y descalificado? ¿Qué porcentaje de uso o interacción será aceptable para un premio literario?
El caso del premio convocado por Almadía y el reportaje de El País forman parte de una Caja de Pandora que fue abierta por una tecnología cuyos efectos apenas pueden ser regulados con las herramientas de las que disponemos. La IA, por así decirlo, encontrará grietas para seguir imitándonos, sustituyendo la creación humana y vulnerando nuestros cada vez más complejos filtros de seguridad. Quizás este elemento sea el que menos se ha discutido: la dependencia de un sistema opaco, burocrático y complejo para garantizar que la escritura no ha sido contaminada con independencia de la temática de la obra y las motivaciones del autor. Cada tecnología nueva provoca su propio accidente, afirma el filósofo Paul Virilio, y necesitamos creer que la misma tecnología nos protegerá de los riesgos y la desconfianza en sistemas que sobrepasan nuestra capacidad de gestión. Los antivirus siempre necesitaron nuevas actualizaciones. La tecnología informática avanzó durante el siglo XXI, pero Internet es un lugar cada vez más peligroso e inestable. Los premios convocados en los siguientes meses o años tendrán que invertir muchos recursos en detectores de IA y, aun así, no será suficiente en un mundo en el que la realidad y la mentira se confunden todo el tiempo. Quizás podrían pedir las versiones anteriores del texto o un historial de trabajo en el procesador que usó el escritor. Quizás se extrañen los tiempos en los que la escritura era siempre humana y el mayor riesgo era un plagio fácilmente detectable cuando se comparaba con la obra original.
La escritura artificial nos acerca a preguntas interesantes que tienen que ver con lo contextual. Jorge Carrión, en una entrada de su página de Substack de septiembre de este año y titulada “La importancia de los gestos (en la era de Pangram)”, afirma que “los gestos analógicos, cursis, inesperados, antisistema, cándidos o punk tienen más sentido que nunca”. En este caso se valorarían más los elementos que aún pueden escapar a la vigilancia y detección algorítmica en el proceso de escritura. La obra, de tal manera, se acercaría a lo conceptual y dejaría de depender de un texto imitable por una máquina en una época de empobrecimiento rampante del lenguaje (ya sea artificial o humano). Carrión se pregunta: “¿el arte depende de la habilidad técnica o de la intención del artista?”. La respuesta, o al menos una parte de ella, quizás se encuentre en las vanguardias artísticas que se rebelaron contra la sociedad industrial que intentaba transformar al ser humano y su creación en un territorio medible, cuantificable y, por lo tanto, controlable. Podría ser un escenario deseable antes de abrir las puertas a las máquinas de detección infalibles.
