Es nuestra naturaleza. El núcleo del debate sobre el avance imparable de los modelos de inteligencia artificial de los últimos días, sobre todo en redes sociales, se ha fijado sobre los textos generados por modelos de lenguaje. Más en concreto, se concentra en un par de casos muy sonados sobre los que no voy a ahondar más porque se ha hablado demasiado, con mucho o poco conocimiento real, pero con una pasión desbordada hacia las posturas de los extremos.
Los defensores de la inteligencia artificial, ante estas polémicas, abogan por aceptar que el uso de esta tecnología se debe integrar a todos los niveles, mientras que sus detractores se sienten estafados. Y en medio parece no haber nada, cuando quizás sea ese el punto justo donde deberíamos situarnos la mayoría durante este período de transición.
Pero vamos a lo importante. ¿Se puede afirmar con rotundidad que una obra, un texto literario o divulgativo, ha sido íntegramente generado por una inteligencia artificial?
Los detectores fallan, empecemos por ahí, que es lo que enfada a unos y tranquiliza a otros. Y lo hacen mucho más con la literatura, ya que estas herramientas confunden la pulcritud absoluta con eficiencia algorítmica. Autores como McCarthy, Lispector o Saramago, por mencionar algunos de estilos muy definidos, tienen un ritmo y una estructura tan consistentes que podrían llegar a engañar a los detectores de IA más avanzados. En este punto, algún experto en la materia estará negando con la cabeza y pensará que no es así, que su programación ha mejorado y ya no caen en ese tipo de trampas tan obvias. Es cierto y no, porque no se trata de que las aplicaciones se hayan vuelto más precisas, sino de que han sido alimentadas con “toneladas” de material real de las personalidades más relevantes a nivel mundial, clásicas y contemporáneas, no para volverse más eficientes, sino para asociarlas y descartarlas. Es decir, no es que sepan diferenciar buena y pulcra literatura creada por un humano de la generada, sino que reconocen algo que les ha sido proporcionado y lo atribuyen sin dudar al humano. Es posible que se trate de lo que al parecer se conoce como hard-coding (el término acabo de buscarlo en Google, no estoy tan puesto) o lista blanca.
En esas pruebas simples con obras famosas aciertan por memoria, no por precisión.
Vamos con el siguiente argumento de peso real. Aparte de patrones que ya casi cualquier lector un poco atento sabe identificar, las herramientas de detección de texto generado, las avanzadas, las que presumen de tener un margen de error por debajo del 1 % con los falsos positivos (muy superior con los falsos negativos), analizan de forma matemática la estructura para identificar la baja perplejidad o el burstiness (explosividad). Es decir, que cuanto más predecible sea la siguiente palabra, mayor es el porcentaje de intervención IA que atribuyen al texto (sobre los porcentajes volveré después).
Pero ¿esto es precisión real? ¿No se basa la comunicación humana coloquial, en una gran medida, en la capacidad de anticipar lo siguiente que te va a decir tu interlocutor? ¿No nos proporciona eso tranquilidad, incluso? En una conversación fluida, por ejemplo, aunque intuimos todo el rato lo que vamos a escuchar de boca de la otra persona justo a continuación, no lo racionalizamos ni mucho menos lo verbalizamos. No sometemos a nuestros interlocutores a análisis de patrones. Además, siempre cabe la posibilidad de que nos sorprendan, que de pronto suelten algo completamente inesperado. O tartamudeen. O tosan.
Esto es cierto también al escribir. Cuando trabajamos con las palabras, en la literatura, los escritores dudamos, tomamos caminos inesperados, “tosemos”. Por supuesto. Pero también hacemos algo que en una conversación espontánea nunca haríamos, que es volver atrás, repasar las palabras una vez, y otra, y otra más. Pulir, afinar, mejorar la cadencia y la métrica para generar musicalidad y retirar esa tos metafórica que podría escapársenos en la cara al lector. Yo soy un obseso de la métrica hoy por hoy, deformación profesional de profesor de escritura creativa que lleva más de siete años enseñando todo esto. Y ya lo hago incluso con los mensajes de WhatsApp, desde que habilitaron la opción de editar el texto después de enviarlo.
Es muy posible que mi forma de escribir haya perdido cierto encanto y organicidad, sacrificados en favor de una pulcritud que, para colmo, puede hacer saltar las alarmas no solo de herramientas, sino de lectores muy curtidos en su uso y ávidos por demostrar su buen ojo.
Pero no quiero ponerme como ejemplo de nada, porque mi caso particular es irrelevante, solo me sirve a modo ilustrativo.
El argumento de la predictibilidad es clave, simple y llanamente, para desmontar el sistema. Los programadores, las empresas que ofrecen estas herramientas de precisión, asumen de manera errónea que el lenguaje humano es siempre, en cierta medida, caótico, que solo la máquina es ordenada. Una falacia a todas luces, pero necesaria para que su modelo de negocio sea rentable. El lenguaje humano necesita ser, en gran parte, predecible para ser inteligible, para que el receptor o lector lo procese con facilidad. Es ese contrato social que nos exige que construyamos oraciones que los demás puedan asimilar. Paradójicamente, los detectores condenan ese trabajo de afinado, en algunos casos en exceso, aunque esto es discutible.
Al final, todo su modelo de negocio se puede definir como un bucle de IA que señala a IA. Cuando un programa de detección arroja un resultado de intervención alta lo que dice en realidad es que ese texto, que puede haber sido escrito por un humano, lo redactó una aplicación que a su vez ha sido alimentada y entrenada con el trabajo de los seres humanos; los supuestos patrones generados son recursos que los modelos LLM han mamado hasta la náusea y los replican. Hemos enseñado a la máquina a escribir, y ahora la máquina nos pide que dejemos de escribir como lo hacíamos para no parecernos a ella.
¿Qué pasa cuando alguien, normalmente una persona en primera instancia, cree haber pillado un texto profesional, publicado, sospechoso de ser fruto de la IA? Que enseguida recurre a la herramienta de detección que considere más fiable para confirmar sus sospechas y, acto seguido, sin que medie más juicio, corre a mostrar al resto del mundo su descubrimiento.
La semilla de la duda ha sido plantada, solo hay que dejar que germine a la velocidad endiablada de la viralidad en las redes sociales. A partir de ahí, el autor del trabajo en cuestión se ve en la obligación moral de presentar toda clase de material de proceso creativo para demostrar su autoría, antes incluso de que la persona que lo señaló aporte pruebas fehacientes de su acusación. Y me niego a cuestionar esa autoría, porque si firma la obra lo es mientras nadie demuestre lo contrario.
Para mí, el error no está en utilizar algunas herramientas de detección como primer sistema de criba, cuando uno alberga cierta sospecha, esté fundada o no, sino en darle credibilidad absoluta y, sobre todo, utilizar el resultado como arma arrojadiza en redes sociales o prensa, donde la sentencia se dicta enseguida y se obliga al señalado a defenderse ante una acusación que, por más pruebas que aporte, ya no se borrará nunca del imaginario colectivo. El problema grave radica, precisamente, en ese señalamiento impulsivo del que no se va a despojar jamás, incluso si llega a demostrar que el trabajo que firma es suyo al cien por cien. Porque, no nos engañemos, algo siempre queda: el pantallazo que circula fuera de contexto, el chascarrillo del fanático del meme fácil (entono el mea culpa en esto), el eco de la acusación inicial o el debate posterior.
El daño reputacional, cuando está hecho, es difícilmente reparable.
Puestos a hablar de errores, creo que el primero está en el formato de respuesta que las herramientas de detección utilizan. Me refiero a los colores y porcentajes, los subrayados y los diagramas sencillos y fáciles de procesar al primer impacto visual. Eso que no aporta nada más allá de dicho impacto (por eso mismo están diseñadas así) y proyecta una sensación de gravedad en los resultados que es difícil que no dispare tanto el cabreo del usuario, al principio, como la histeria y la paranoia posterior, cuando se empieza a divulgar. Y en realidad es absolutamente falso, ningún programa puede garantizar que algo sea 100 % producto de una IA ni 100 % obra humana. Lo más honesto sería que se limitaran a señalar, como mera hipótesis, que existen probabilidades, con toda la cautela que exige poner en entredicho el trabajo de una persona. Aunque eso no vendería suscripciones.
Las mismas empresas lo reconocen en sus webs, si uno se molesta en leer con atención cómo funcionan. La famosa letra pequeña.
Entonces, ¿por qué intentan con estas herramientas asustarnos mediante el uso de imágenes de alto impacto, con colores reconocibles por todos a un nivel incluso inconsciente? Rojo/alerta total, emoticono de robotito; el texto ha sido generado por una IA. Amarillo/sospecha razonable y robotito; el texto ha sido intervenido en parte. Verde/tranquilidad absoluta, emoticono de carita humana; el autor está a salvo. Pues muy sencillo: porque nos tienen que vender miedo. El usuario debe asustarse o cabrearse al primer golpe de vista para sentirse obligado a pagar por el servicio que le ofrecen las empresas que las han diseñado.
Si es el autor del texto el que recibe un resultado en rojo o amarillo, es probable que empiece a hacer cambios sobre la obra para esquivar esos resultados (con terribles consecuencias), y tendrá que pagar su suscripción para realizar comprobaciones en varios ciclos. Probablemente, si la obra es extensa, le lleve un par de meses/suscripciones pagadas como mínimo, con bastantes posibilidades de que la mantenga más tiempo para cubrirse las espaldas en el futuro. Si es una editorial la que prueba y recibe un resultado inquietante, sentirá que se pone en peligro su criterio y prestigio, y pagará por la suscripción para someter a su escrutinio todas las obras que le lleguen en adelante. O si es una universidad que revisa trabajos, o si son convocantes de certámenes con manuscritos a concurso… Supongo que no hace falta que concrete ni le dé más vueltas, hace rato que se entiende, pero he decidido tartamudear a propósito para que se note que soy humano.
Vivimos, como señalaba al principio, una época de transición. Los alarmistas seguro que preferirán llamarlo crisis. Ambas opciones se ajustan. Pero es con lo que nos ha tocado lidiar ahora mismo, como mínimo hasta que se asienten las bases o se alcancen los consensos necesarios que concilien la integración de una tecnología que es imparable, nos guste o no, en el entorno educativo, cultural o creativo. En todos los ámbitos de la vida, en realidad.
Así que más vale que nos pongamos las pilas con esto o, como ha pasado siempre a lo largo de la historia de la humanidad, nos vamos a acabar haciendo mucho daño entre nosotros. Y no podremos culpar después a la máquina, como en la ficción apocalíptica, porque también ella es obra nuestra; cien por cien creación humana, certificado.
