Los humanos haciendo el trabajo duro con el salario mínimo mientras los robots escriben poesía y pintan no era el futuro que imaginaba.
Meme anónimo
Una tarde mi hijo mayor, que ahora anda camino de los quince, me mostró el famoso generador de textos ChatGPT, del que yo no había oído ni hablar[1]. Quedé bastante sorprendido, debo reconocerlo, porque yo esperaba como mucho la famosa “habitación china” de John Searle, y eso es lo que era, naturalmente, pero conduciéndose de un modo menos torpe y telegráfico de lo que yo creía. Le hice unas cuantas preguntas comprometidas, como si era mejor ser mujer que hombre, o que si Estados Unidos había hecho bien en lanzar las bombas de Hiroshima y Nagasaki, y el chatbot salió bastante airoso. No sabía yo entonces que donde patina cualquier Inteligencia Artificial es respondiendo a preguntas que el sentido común interpreta enseguida pero que no pueden ser localizadas en lugar alguno de la inmensa y populosa Red, como las que formulan los esquemas de Winograd. Por ejemplo, introduce en ChatGPT la cuestión de si los cocodrilos debieran entrenar para la carrera de saltos de vallas y le vuelves inmediatamente loco, aunque tenga a su disposición todos los servidores del mundo, que por cierto la mayoría de ellos están, como cabría esperar, en EEUU. Pero ese no es el asunto, porque el ChatGPT, aunque impresionante, no es más que un juguete. El problema viene cuando te enteras de que una IA puede generar un texto y luego crear una pieza audiovisual con la voz y los gestos de alguien que recite el texto con tan sólo un input de fotos y audio no demasiado extenso del sujeto correspondiente. Entonces te percatas de la magnitud del asunto. Un simple aficionado podría con muy poco esfuerzo escenificar una rueda de prensa de Vladímir Putin haciendo donación de Crimea a Polonia, por ejemplo, en perfecto ruso y con una imitación del gesto y las inflexiones del mandatario capaz de engañar a su propia esposa. Naturalmente que una IA jamás podrá superar el Test de Turing (mucho menos el Test Voight-Kampff de Blade Runner), como vamos a tratar de ver aquí, pero es que aún así su utilización tendenciosa o perversa puede meternos en líos de gran alcance y de consecuencias imprevisibles. Eso sin contar con la llamada “brecha digital”, que si ya establecía una grieta insalvable entre las zonas del mundo que cuentan con dispositivos móviles enganchados en la Red[2] y las que tan sólo disponen de un teléfono fijo por aldea (o que se unen a un sistema de conexión a Internet sufragado por las grandes tecnológicas y sometido a cualquier tipo de intromisión o censura), ahora ese precipicio se tornará abismo, y en él figurará la célebre inscripción de los antiguos portulanos: Hic sunt dracones… Escribía Hannah Arendt en el prólogo a La condición humana, de 1958:
Este hombre futuro —que los científicos fabricarán antes de un siglo, según afirman— parece estar poseído por una rebelión contra la existencia humana tal como se nos ha dado, gratuito don que no procede de ninguna parte (materialmente hablando), que desea cambiar, por decirlo así, por algo hecho por él mismo. No hay razón para dudar de nuestra capacidad para lograr tal cambio, de la misma manera que tampoco existe para poner en duda nuestra actual capacidad de destruir toda la vida orgánica de la Tierra. La única cuestión que se plantea es si queremos o no emplear nuestros conocimientos científicos y técnicos en este sentido, y tal cuestión no puede decidirse por medios científicos. Se trata de un problema político de primer orden y, por lo tanto, no cabe dejarlo a la decisión de los científicos o políticos profesionales.
Arendt tal vez nos sobreestimaba como especie capaz de cualquier cabriola tecnológica (seguramente impactada todavía, como todos los seres conscientes, por el potencial destructivo del artefacto nuclear[3]), pero acierta en lo que se refiere a que el reto es político en sentido amplio, no científico o puramente legislativo. En el aspecto científico la implementación de las Inteligencias Artificiales para estas u otras tareas ha desatado recientemente una histeria así mismo milenarista que parece carecer en absoluto de fundamento. Justamente porque el armamento nuclear ha puesto a la humanidad en la tesitura de anticipar su propia extinción en pocas horas, también la idea, extraída de películas sumamente populares y de videojuegos y series no muy responsables, así como de la propia psicosis de un mundo que, a mayor abundamiento, sabe que podría colapsar por un apagón informático o un crack en las principales bolsas mundiales, parece inevitable que ya nos lo creamos todo, y que el número de jinetes del apocalipsis crezca cada día. El primer marido de Arendt, Gunter Anders, hablaba de lo que él llamaba “desnivel prometeico”, y que no es más —pero esto es descomunal, una línea divisoria gigantesca respecto del pretérito humano— que el hecho de que la gran mayoría vivimos rodeados de un entorno cuyo funcionamiento interno desconocemos por completo. Si yo no sé por qué mi tarjeta de crédito opera igual allí donde voy, difícilmente podría entender cómo es que, pongamos por caso, mis operaciones en la página web de mi banco no están expuestas al hackeo más burdo, por no decir a la intervención oportunista del propio banco. Una familia que poseyera tierras y una casa de labor en tiempos precapitalistas y preindustriales podía arreglárselas perfectamente sin el resto del mundo; en cambio, los habitantes del tercer milenio, que nos creemos más listos que nadie, somos más dependientes, o sea, más heterónomos, que un bebé. El filósofo chino Yuk Hui, que está tan en boga en la actualidad, dice a propósito de esta pérdida de la autonomía del criterio humano en una entrevista[4] que se puede encontrar en Internet que…
Si lees el artículo de Henry Kissinger titulado “How the Enlightenment Ends”, que aparece en el número de junio del 2018 de la revista The Atlantic, discute cómo la Ilustración depende de las nuevas tecnologías del mundo impreso para difundir su filosofía. Kissinger afirma que ahora tenemos tecnología que se difunde a sí misma pero que carece de una filosofía. Esto lleva al fin de la Ilustración.
Y, en efecto, el hecho completamente abrumador de que donde se dice que tienen lugar efectivo la igualdad y la libertad, es decir, en las democracias occidentales, pero donde a la vez todas las operaciones de las que depende tu vida más elemental están en manos de instrumentos y de expertos que de un plumazo podrían hacer que cayeras en la indigencia o que, como sociedad, volviéramos a la Edad de Piedra, convierte a nuestro siglo XXI en la más desarrollado que jamás se haya conocido en el Sistema Solar (¡incluso puede que seamos la Primera Potencia a escala galáctica!), aunque también, con un poco de mala suerte, en el más desarrollado… del cementerio. Eso, sin duda, no es ya Ilustración, es Feudalismo Digital, como lo bautiza Marta Peirano[5], algo así como un Gran Salto Adelante que, como el de la China maoísta, implica un brusco retroceso a la pre-modernidad más abúlica. Se han confeccionado, es cierto, muchas Cartas de Derechos Digitales, también aquí en España, y las últimas revisiones de la Carta de los Derechos Humanos contemplan una nueva generación de derechos que afectan precisamente al uso del Ciberespacio y de nuestra identidad digital, pero algo en nuestro interior nos dice que los intereses de las grandes corporaciones y de los estados ricos y poderosos del planeta los cumplirán en la medida de sus intereses, y que si ahora nos están dejando juguetear con el ChatGPT qué no será lo que no tengan ellos para su empleo secreto y exclusivo. Ernesto Castro dice, en su reciente ¡El gran pan ha muerto! (Palimsestos todológicos), de La Caja Books, pág. 90:
Estamos aún muy lejos del sueño de Alan Turing, padre tutelar de la IA. Él soñaba con artefactos capaces de algo más que seguir una regla; capaces de crear sus propias reglas. No sólo calcular, sino también intuir. No sólo atinar previsiblemente, sino también equivocarse originalmente. Cuando decimos que tal o cual robot ha superado la prueba de Turing, no sabemos muy bien lo que decimos. Sabiendo que hay muchas formas de ser inteligente, Turing simplificó su definición de inteligencia reduciéndola a un asunto conductual. Cuando la maquinaria se comporte como nosotros, entonces será como nosotros. Pero ¿qué quiere decir como nosotros? Nosotros fallamos, las máquinas no. Ellas siempre aciertan, siempre ofrecen la solución programada, correcta en sí misma -por insatisfactoria e ininteligible que nos parezca. Un roboajedrecista que calcula millones de jugadas por segundo, ¿no debería suspender la prueba de Turing por arriba, por exceso? Nos internamos en el valle de lo inhóspito, en el que lo artificial se parece mucho, pero no lo suficiente a nosotros.
Y es cierto, el modelo puramente utilitarista o pragmatista (por cierto, atacado explícitamente y con fiereza por Arendt en la obra citada) del concepto que Alan Turing tenía de la inteligencia humana, aunque sin duda muy anglosajón, hace que la pesadilla que algunos tratan de inocularnos en el presente acerca de la “singularidad” o de la inminente parusía de un Skynet genocida resulte por un lado ridícula, pero por otro peligrosa. Ridícula porque, como señala Erik J. Larson en su estupendo El mito de la Inteligencia Artificial, Shackleton, 2022 (estupendo pero a veces embutido con relleno innecesario, y él lo sabe): Una vez que lleguemos al nivel de la inteligencia humana, el sistema puede diseñar una versión de sí mismo más inteligente que los seres humanos”, se dice con esperanza. Pero es que ya disponemos de una inteligencia de “nivel humano”—somos humanos—. ¿Podemos nosotros hacer algo así? ¿De qué están hablando en realidad los promotores de la explosión de inteligencia? Ya Samuel Butler, en su divertidísimo Erewhon de 1872 había planteado la idea de que las máquinas pudieran ser consideradas seres vivos capaces de nacer, morir y reproducirse[6], bajo la suposición de que las máquinas, a diferencia de nosotros, sabrían de qué están hechas, y podrían por ello autorreplicarse. Las preguntas de Larson están, pues, plenamente justificadas: ¿cómo íbamos a ser capaces de dotar de inteligencia a una máquina, si ni siquiera sabemos nada del origen y finalidad de la nuestra (aunque hipótesis haya más que especies de escarabajos)[7]?… ¿y, sobre todo, para qué, si ya tenemos precisamente la nuestra, que aunque falible y pasional es sin duda un prodigio? Claro que se puede responder que para que ingenios sumamente avanzados hagan el trabajo duro por nosotros, eso que llaman “robolución”, la revolución de la robótica en el mundo laboral, y que no tiene tan buen aspecto como nos venden, o sencillamente porque el ser humano no se puede estar quieto y es un pionero por naturaleza, tanto para lo bueno como para lo malo, lo cual es completamente cierto, pero es que lo que vamos a conseguir no es eso, lo que vamos a conseguir con la entronización de las Inteligencias Artificiales, caso de que realmente secundemos el mito de su superioridad sobre nuestras aptitudes, será tanto dejarnos guiar por ciegos (el ciego guiando al ciego, como cuando Stuart Russell aseveró que “los superordenadores sin inteligencia real simplemente tardan menos en obtener las respuestas equivocadas”…), como decantar un concepto de nuestra propia capacidad como humanos que es denigratorio, que es injusto y que no merecemos[8]. De nuevo apunta Larson muy cabalmente:
Al unir las inteligencias humana y automática en lo que esencialmente es una búsqueda propia de la teoría de juegos para optimizar objetivos, Russell [el mencionado Stuart Russell] deja sitio para una visión en apariencia «científica» de la mente informática, pero solo desde la limitación severa de las posibilidades de nuestra propia mente. Este vuelve a ser un error de inteligencia. La inteligencia humana es diversa, está llena aún de misterios profundos y, hasta donde sabemos, resulta eficazmente ilimitada. Al demoler la inteligencia humana, ligándola a una definición más sumisa ante la informática, el pensamiento contemporáneo sobre la IA tira por la borda una comprensión más rica de la mente. Y nos quedamos con un mundo simplificado[9].
Me temo que ya vivimos en ese mundo simplificado, a lo que ha contribuido también la loca separación entre Ciencias y Humanidades, o lo que es decir la Teoría de las Dos Culturas de C. P. Snow[10], a la que últimamente se suma la Teoría de la Tercera Cultura, que en el fondo es tan tonta y perniciosa como su precedente. Es, ya digo, todo ridículo porque no se trata de radiografiar o no la mente humana para encontrar en ella su vínculo con el cuerpo, el cerebro, y del otro extremo su vínculo con la conciencia o las emociones, esos son puntos de vista muy antiguos y muy errados también. Martín Heidegger, que ni que decir tiene que fue muy influyente sobre el pensamiento de Hannah Arendt, publicó Ser y tiempo en 1927 para tratar de mostrar que la peculiaridad del ser humano no es poseer un cerebro superior (mucho más grande es el de una ballena, y conste que estoy hablando por él), o los brazos libres (también los tienen los orangutanes), o un receptor de información más fino (que en tal caso la máxima inteligencia correspondería a un sismógrafo), sino que parece ser que el hombre es el único ente que está abierto a los sentidos variables de su entorno, es decir, que es óntico y ontológico: Da-sein. Ser-ahí o no ser-ahí no está en nuestra mano, también los orangutanes están-ahí, arrojados al mundo, mientras que con toda seguridad un superordernador cuántico no. De manera que no se trata de mentes, conciencias o cerebros e inteligencias, se trata de habitar un mundo de significaciones[11] que lo mismo afectan al tonto que al listo, al majadero que al empático, a lisiado que al dotado, a Trump que a Turing… Los animales, hasta donde podemos adivinarles, también habitan arrojados al vórtice de un mundo de significaciones, pero parece ser muy pobre, y lo que es peor, invariable, como el Mundo de la Ideas de Platón (y no es extraño, porque Platón admiraba Esparta, y Esparta estaba diseñada conforme al ideal de una colmena). ¿Qué tipo de mundo compartido pueden tener, por su parte, un algoritmo o conjunto de algoritmos entrelazados? Pues simplemente ninguno, es una pregunta que no viene al caso. Que los científicos fueran capaces de suministrarle un mundo a un algoritmo, y por tanto una cierta pre-comprensión de los significados del mundo a una computadora, sería realmente un acto de magia digno de Hogwarts, o de la leyenda rabínica del Gólem, puesto que no hay ni puede haber una explicación del estado-de-yecto, en términos de Heidegger, eso tan sólo acontece. Dado que acontece, hay comprensión (Verstehen), hay lenguaje y habla (Sprache, Rede), y hay respectividad de unos seres humanos con otros (Mit-sein), pero, repito, por mucho que todos los terminales de ordenador estuvieran conectados en una Red perfectamente horizontal no hay “mundo digital” entre ellos, no se da (es gibt) algo así como “Da-sein digital” -para colmo, aunque Skynet de repente tomara consciencia de sí mismo no podría propiamente pensar, porque según la filosofía del Segundo Wittgenstein, con la que yo al menos comulgo, no es posible concebir un lenguaje privado…
Y es que incluso las plantas de un bosque se comunican por el aire y por sus raíces (a ese peculiar Mit-sein los especialistas lo denominan “rizoesfera”[12]), de manera que podemos afirmar que los vegetales también están-ahí, pese a que no sea mediante esa “casa del ser” que es para el hombre el lenguaje, y pese a que no conozcan modificaciones en su modo de estar, es decir, en el Da– de su particular Da-sein. Deberíamos, creo, revisar nuestro concepto de la singularidad humana (que no superioridad, a no ser que hablemos de Voluntad de Poder), para así tener menos miedo a una ficticia singularidad maquínica, pues, como decía de nuevo Arendt respecto de las máquinas:
Si fuera cierto que el hombre es un animal rationale en el sentido que le da la Época Moderna, es decir, una especie animal que difiere de las restantes por estar dotada de un superior poder cerebral, entonces las recién inventadas máquinas eléctricas que, a veces para desaliento y otras para confusión de sus inventores, son tan espectacularmente más «inteligentes» que los seres humanos, serían homunculi. Tal como están las cosas, son, al igual que todas las máquinas, meros sustitutos y mejoradores de la fuerza de labor humana, que siguen el consagrado plan de toda división de la labor con el fin de fraccionar cada operación en sus más simples movimientos constitutivos, sustituyendo, por ejemplo, la suma repetida por la multiplicación. El superior poder de la máquina se manifiesta en su velocidad, que es mayor que la del cerebro humano; debido a esta mayor velocidad, la máquina puede prescindir de la multiplicación, que es el ingenio técnico preelectrónico para acelerar la suma. Lo que demuestran los gigantescos ordenadores es que la Época Moderna se equivocó al creer con Hobbes que la racionalidad, en el sentido de «tener en cuenta las consecuencias», era la más elevada y humana de las capacidades del hombre, y que los filósofos de la vida y de la labor, Marx, Bergson o Nietzsche, estaban en lo cierto al ver en este tipo de inteligencia, que confundían con la razón, una mera función del propio proceso de la vida o, como señaló Hume, un simple «esclavo de las pasiones». Claro está que el poder del cerebro y los apremiantes procesos lógicos que genera no son capaces de erigir un mundo; son tan sin mundo como los apremiantes procesos de la vida, de la labor y del consumo. (La condición humana, 189).
“Sin-mundo” es una expresión que ya había empleado Heidegger más de veinte años antes. Si la Tecnociencia fuera capaz de atorgar “mundo”, en el sentido preciso del “ahí” histórico y contingente de un ser caracterizado por la cura —Sorge en Ser y tiempo—, entonces quizá tuviéramos Skynet (o, en sentido positivo, la Jane de la saga de Ender de Orson Scott Card[13]), robots como los de Asimov que en el proverbial último momento salvan la galaxia conforme a las Tres Leyes de la Robótica (el maravilloso Hacia la Fundación publicado tras la muerte del genio), o, más modestamente, un repertorio de Inteligencias Artificiales especializadas, como Deep blue, que pudieran dar la sensación de ser mejores que nosotros en algo, cuando todo lo que saben se lo hemos enseñado nosotros y únicamente saben hacer una cosa, mientras que un niño de un año ya hace, y padece, un millar[14]. Por eso insisto en que es ridículo, como cuando, no hace mucho, Eliezer Yudkowsky anunció que el riesgo de hegemonía de las máquinas estaba a la vuelta de la esquina y que había que comenzar a bombardear los centros de datos ya mismo. O la moratoria exigida por centenares de desarrolladores de Silicon Valley antes de ponerse a entrenar en serio al GPT4, no vaya a ser que nos colonice en un abrir y cerrar de ojos. O un tal Sam Altman, que llegó a pedir ese periodo de reflexión al comité del senado de los Estados Unidos, panorama, todo él, que recuerda bien a la retransmisión radiofónica de Orson Welles de La guerra de los mundos del otro gran Wells, o bien que no son más que cortinas de humo para enredos geoestratégicos… No sucederían estas cosas, a mi juicio, si los científicos tuvieran familiaridad con las Humanidades y viceversa. La Filosofía, sin ir más lejos, lleva siglos indicando que una percepción sin concepto (o, si se quiere, sin pre-juicio o ante-juicio) es imposible y opaca, y sin embargo los promotores de la IA llevan décadas dándose cabezazos contra ese muro y dilapidando dólares sin obtener nada. Larson dixit:
Un célebre teorema conocido como «no free lunch» demuestra con exactitud lo que observamos de manera anecdótica al diseñar y construir un sistema de aprendizaje. El teorema sostiene que, al aplicarse sobre un problema arbitrario, cualquier sistema de aprendizaje libre de sesgo no obtendrá resultados mejores que los que proporciona el azar. Es una manera elegante de decir que los diseñadores de sistemas deben conferir a estos un sesgo de manera deliberada, para que aprendan su propósito. Tal y como señala el teorema, un sistema en verdad libre de sesgo no sirve para nada. Hay técnicas complicadas, como la del «preentrenamiento» con datos, que se sirven de métodos no supervisados que exponen los rasgos de los datos que hay que aprender. Todo ello forma parte integral de un aprendizaje automático exitoso. Lo que queda fuera del debate, no obstante, es que ajustar un sistema para que aprenda su propósito inculcándole el sesgo deseado implica que se vuelva restrictivo, en el sentido de que ya no podrá generalizarse a otros dominios. En parte, construir e implementar con éxito un sistema de aprendizaje automático lleva a que este no se encuentre libre de sesgo y no sea general, sino que se centre en un problema de aprendizaje particular. Visto así, la restricción se encuentra integrada hasta cierto punto en esos enfoques. El éxito y la restricción son las dos caras de una misma moneda.
ChatGPT no es una mente pensante (“decir que los ordenadores piensan es como decir que los submarinos nadan”, apunta Larson), ChatGPT es, como dice Luciano Florido, no más que un motor sintáctico, una máquina estadística de enorme potencia que funciona efectivamente como la habitación china de Searle, pero a toda pastilla y saqueando las fuentes que estén a su alcance. Su revolucionaria tecnología se debe al uso de unos clasificadores llamados tokens y a su gestión por parte de unos operativos estadísticos llamados “transformers” que desde el punto de vista del universo digital son sin duda una virguería admirable, pero que desde el sentido de la Tierra no se pueden comparar con el crecimiento de una uña (la analogía es mía, al igual que la siguiente: los transformers, si lo he entendido bien, actúan conforme a una mecánica estricta a la que se añade un efecto de clinamen que recuerda a la física atomística de Epicuro[15]). Por todo ello, la aspiración no a encontrar, sino a crear -aunque el mito abarca ambas cosas: crear como encontrar y encontrar al crear…– una Inteligencia Artificial General que emule las destrezas no de un genio, sino sólo las de un niñ@ de un año, es enteramente disparatada, si no fuera alarmista y peligrosa. La “comprensión” (Verstehen) a la que se refería Heidegger no tiene nada que ver, pero nada, con una suerte de Inteligencia General. Pese al “desnivel prometeico” de Gunter Anders, todos comprendemos cómo usar el ChatGPT para fabricar un informe falso que tenga los suficientes errores como para parecer verdadero y no tener que trabajar ese día, y en cambio al ChatGPT le llevaría eones asimilar un chiste o el concepto de “procastinar”, por no decir que está más allá de su función, como está mucho más allá de la función de un martillo el obtener decimales del número Pi. Que las máquinas no tengan mundo, sean “sin-mundo”, como las piedras pero sorbiéndonos el seso, también implica que no poseen una consistencia corporal propiamente dicha, mientras que las plantas y seguramente los minerales sí. ¿Y para qué vamos a exprimirnos tanto la cabeza acerca de la presunta inteligencia de las máquinas, si no tienen ni comprensión, ni mundo, ni cuerpo, ni cuenta corriente, y para colmo las hemos construido nosotros? En mi opinión, acierta el filósofo Santiago Sánchez-Migallón cuando dice, con cierta burla pero con perspicacia[16] :
No quiero parecer chauvinista con respecto al pensamiento humano. Creo que los hombres somos muy torpes y quién sabe si nuestra falta de capacidades sea la responsable de que gran parte de los enigmas del universo permanezcan irresueltos pero, por favor, creo que somos muchísimo más que un modelo de lenguaje que juega a un corta-pega estadístico con millones de tokens, sin comprender absolutamente nada de lo que hace. Lo siento pero me niego a aceptar que estos loros estocásticos puedan compararse con nosotros y que sean, además, la causa de un gran optimismo hacia que nuevos modelos nos superen en muy poquitos años. Creo que todavía estamos muy lejos de entender cómo funciona nuestra mente, tanto más para construir una artificial.
Con todo este argumentario no estoy negando tajantemente la posibilidad de que llegara un momento de la historia en que apareciera la susodicha súper inteligencia artificial que terminará por exterminarnos, no se me entienda mal, solo estoy sosteniendo que su posibilidad es, a día de hoy, tan sumamente remota que no debe interceder en nuestra forma de legislar actual. Hacerlo sería algo así como prohibir el cultivo y la venta de setas porque sería posible una rebelión de los hongos tal y como se nos describe en la serie The Last of Us. También habría entonces que comenzar las prevenciones contra un apocalipsis zombi, una rebelión de los simios, invasión extraterrestre, glaciación repentina, muerte temprana del sol… ¡Todo esto también entra en el rango de la posibilidad!
Sigmund Freud habló, con soberbia infinita, acerca de las tres heridas del narcisismo humano (por cierto, una IA también carecería de Inconsciente, ¿cómo un ingeniero podría diseñar nunca un chip del Inconsciente?), poniéndose a sí mismo, parvenu del saber, en el tercer lugar de los humilladores del egocentrismo humano. Yo creo que se equivoca de medio a medio, puesto que tal egocentrismo en cualquier caso sería todavía muy joven cuando escribía Freud, pero lo que sí que me parece es que lo que los teóricos de la singularidad, y los profetas del apocalipsis digital, están aguardando es precisamente eso: la cuarta y definitiva herida, esta ya por fin mortal, al “narcisismo humano”. Mi impresión es que ven las cosas al revés. Debemos, muy al contrario, valorar como nunca la capacidad humana, dado que ha sido capaz de forjar homunculi dispuestas a servirla, porque si algo demuestra el no muy remoto fracaso en los proyectos por generar Inteligencias Artificiales Generales (IAG) es que aquella que ha sido ocasión de dar a la luz a los homunculi es un don sin parangón, es la Luz de un Universo en su mayor parte oscuro y vacío en su incalculable inmensidad. La inteligencia humana, que no es más que una pequeña parte de lo que Heidegger entendía por “comprensión”, y que sin duda ha sido capaz de cosas completamente inimaginables para el reino animal que van desde hallar la correcta mezcla de gases que nos libran del dolor en una anestesia[17] hasta colocar satélites artificiales en la órbita terrestre que convierten a nuestro planeta en un patio perfectamente comunicado y vigilado, jamás podrá ser no ya derrotada, sino siquiera alineada en la misma liga junto a algo que si lo sacas de su única tarea milimétricamente ceñida ya no le cabe la camisa en el cuerpo, por así decirlo. De ahí que, en mi opinión, la Búsqueda —Quest, en sentido épico medieval— por la IAG es la gran oportunidad que tenemos por delante de combatir el nihilismo de las sociedades avanzadas y volver a encontrarnos a nosotros mismos como la excepcional fauna que somos, sin querer implicar con ello especismo alguno. De nuevo Larson:
En retrospectiva, la preocupación que Lanier expresó en 2010 con su «You Are Not a Gadget» [«No eres ningún dispositivo»] fue clarividente, pero llegó demasiado tarde: «Una nueva generación ha alcanzado la mayoría de edad con menos expectativas de lo que puede ser cada persona, y de aquello en lo que puede llegar a convertirse».
Es cierto que Larson cifra toda la aporía de la Inteligencia Artificial General en el problema de la abducción[18], pero en eso Larson resulta algo estrecho de miras. La abducción es esa clase de inferencia que se distingue de la deducción y la inducción clásicas en que precisa de la experiencia, pero que juzga sobre ella en base a reglas de caso único. También para C. S. Pierce, sobre quien Larson se explaya no sólo por ser un genio, sino ante todo por ser un genio norteamericano, la abducción parecía algo así como la “inferencia propia del alma” —expresión mía—, ya que parece involucrar una intuición inventiva que es estrictamente imposible transferir a un código informático porque ni siquiera sabríamos decir cómo funciona en nosotros[19]. No obstante, no sólo funciona, sino que la abducción es totalmente cotidiana y continua en un individuo humano, mientras que la deducción es muy infrecuente y la inducción a menudo una correa de trasmisión de prejuicios, en el mal sentido del término. El tonto más tonto del pueblo tiene en su interior todo un mundo imaginario con el que conversa sin parar, al tiempo que pasea o hace pactos constantes con el mundo exterior. Me cuesta alcanzar cómo una investigación neurocientífica o un análisis informático podría aprehender toda esa riqueza, aunque sea, en efecto, una riqueza horadada por sufrimiento y Mal. El Dasein es el único organismo vivo que no únicamente realiza estas u otras acciones, sino que a la vez tiene que justificarse a sí mismo sobre ellas, y resulta arduo agregar o atribuir esa cualidad a Deep blue cuando vence a Garri Kaspárov. Oigamos otra vez a Arendt:
El peligro de la futura automatización radica menos en la tan deplorada mecanización y artificialización de la vida natural, que en el hecho de que toda la productividad humana, a pesar de su artificialidad, quedara absorbida en un proceso de vida enormemente intensificado y siguiera de manera automática, sin dolor ni esfuerzo, su siempre repetido ciclo natural. El ritmo de las máquinas ampliaría e intensificaría grandemente el ritmo natural de la vida, pero no cambiaría, sino que haría más mortal, el principal carácter de la vida con respecto al mundo, que es desgastar la «durabilidad». (La condición humana, Austral, pág. 139).
De manera que, si la pretensión de que artefactos inteligentes puedan llegar a poseer tal capacidad de agencia propia que sustituyeran a sus constructores humanos termina por ser ridícula, en su otra cara también puede implicar algunos peligros. El peligro de que, como indica Arendt, pongamos nuestra fe en la artificialización de las tareas y en la tecnificación totalitaria de la existencia hasta el punto de entregar al ritmo productivo de la máquina la misión de organizar y orientar nuestra libertad (lo que Arendt llama “acción”, y que para ella es siempre acción de una pluralidad coordinada de seres humanos diversos que se valen del discurso), en vez someter a los homunculi a nuestra planificación y deliberación, que es para lo que fueron concebidos -es sabido que “robot” significa en el checo de Karl Capek “esclavo”[20]. Aristóteles escribió, en Peri Psyché (II, 1, 412a-413a), que el alma es, en cierto modo, todas las cosas, lo que yo traduciría más bien por “el alma, en cierto modo, hace suyas todas las cosas”, lo cual es cien por cien verdadero. Yo no necesito haber visitado la Antártida para hacerla mía, para tener la Antártida en cierto modo dentro de mí, así como no necesito experimentar lo que sería darse un chapuzón en la lava de un volcán para adivinar que no me iba a agradar… Es en este sentido preciso en el que se puede afirmar, sin caer en dualismos o en espiritualidades caducas, que las máquinas no tienen alma, y que la analogía del software como “alma” del hardware es antropomórfica y equívoca. Una IA de dibujo puede formar una imagen de una Antártida en la que corren ríos de lava en cuestión de segundos si se lo pides, pero no tiene ni el frío de un continente helado en su interior ni el pavor a abrasarse en la lava; quod natura non dat, Salmantica non præstat. Está bien decir, cariñosamente, que cuando metes tu coche en el garaje o apagas tu PC estás poniendo a dormir a tu amiguete artificial, pero la realidad es que cuando un niño de cuatro años duerme lo que metaboliza en su alma (o cerebro, o mente, o ψυχή, o núcleo procesador, es lo mismo…) es nada menos que todas las jodidas cosas…
Hemos perdido esa sabiduría tan básica de lo que para Aristóteles era puro sentido común a causa de la división alma/cuerpo de la religión cristiana y la subsecuente separación res cogitans/res extensa de René Descartes, y por eso tenemos la confusión metafísica que tenemos. Erik J. Larson propone que sustituyamos la locución Inteligencia Artificial, que tanto llama a engaño desde la aportación de Alan Turing, por la más humilde de “simulación de tareas humanas”, y de este modo no esperaríamos que de la noche a la mañana pudieran conversar con nosotros en pie de igualdad.[21] El problema, por tanto, como subrayaba Hannah Arendt al inicio, es político y no científico, político en su acepción más lata, aquella que concierne a todos los habitantes del planeta, presentes y futuros, cuya vida va a cambiar por la invasión de la Inteligencia Artificial, como cambió de modo irreversible, por ejemplo, con la invención y proliferación del automóvil de gasolina. Ya entonces no se nos preguntó si queríamos infestar nuestras calles de moles que echan humo y atropellan gatos, o si deseábamos trabajar a 30 kilómetros de nuestras casas, del mismo modo que ahora no se va a hacer un referéndum a escala global para dilucidar si nos apetece que una IA tome decisiones en orden a llenar el pasaje de un avión con los pasajeros que considere más recomendables o que, maximizando la apuesta, administre la seguridad y la paz mundial. Tampoco el modus operandi de una IA debería tornarse en normativo para juzgar la inteligencia de nuestros futuros estudiantes, porque no queremos —¿o sí lo queremos? ¿a qué aspira el proyecto Neuralink de Elon Musk?— computadoras vivientes, sino personas con una conciencia intencional y un uso pragmático del lenguaje, es decir, ese tipo de personas que, puesto que tienen discurso, nutrirían esa gran asamblea planetaria con la que soñaron Hannah Arendt y Jürgen Habermas. Porque las cosas no son lo que son, no tienen una esencia tal que pudieran responder a la admonición de Juan Ramón Jiménez (“¡Intelijencia, dame el nombre esacto de las cosas!”), sino que, eso que son o vayan a ser para nosotros, no en el vector de un presunto progreso universal, o en el marco de una noocracia intelectual o científica, sino en el mero y común mundo de la vida (el Lebenswelt de la Fenomenología o del propio Habermas), es algo de lo que muy seriamente tenemos que hablar…
El λóγος, creo yo, sigue perteneciendo por el momento únicamente al ámbito del Dasein…
NOTAS
[1] Que no es el único, por supuesto: https://elpais.com/tecnologia/2023-08-26/chatgpt-llama-bard-o-bing-quien-es-quien-en-la-carrera-de-los-chatbots-conversacionales.html
[2] Hoy en día la única forma posible de anarquía es lo que yo denominaría “anarquía digital”: no tener móvil, ni perfil en las redes, ni certificado electrónico, etc. Pero dentro de poco hasta ese robinsonismo tan inocente se va a tornar inviable, cuando hasta la cuenta corriente, el funcionamiento de nuestros electrodomésticos en el IoT, el seguimiento de nuestra salud e incluso el DNI y toda la documentación estén alojadas también en el chisme.
[3] Y no es para menos. Pese a las afirmaciones de quienes piensan que precisamente la posibilidad de la mutua destrucción asegurada (MAD) acabará con toda opción de una guerra total futura, el sólo hecho de que tal posibilidad exista ya instala en la conciencia de la humanidad un sentimiento de su propia contingencia absoluta que jamás había existido anteriormente —ni siquiera en los milenarismos, que siempre postulaban un después del gran final—, y con el que ciertamente se hace penoso vivir, y lo que es peor: que encierra un miedo que nos hace esclavos.
[4] Entrevista: sobre Tecnodiversidad: una conversación con Yuk Hui – Research Network for Philosophy and Technology.
[5] Contra el futuro, Debate, 2022: Futuro Peirano – Reseña al libro «Contra el futuro» – Dialektika.
[6] O Arthur C. Clarke en Cánticos de la lejana tierra, donde especula con un planeta habitado por máquinas.
[7] Para hacerse una idea de la complejidad del cerebro humano, sin tocar siquiera directamente el tema del cerebro humano, el suyo, el mío y hasta el de Trump, un dato aportado por el propio Larson: Medir tan solo una fracción de las neuronas del cerebro de un ratón podría generar casi la misma cantidad de datos que los veintisiete kilómetros de largo del Gran Colisionador de Hadrones o los más avanzados observatorios astronómicos.
[8] La filosofía griega entendía que en la relación causa-efecto, objeto de la abducción, la causa es siempre de modo eminente eso que pone en el efecto, de tal manera que el fuego es caliente de modo supremo, y el contenido de una olla tan sólo por delegación. Así, la fantasía de que una Inteligencia Artificial vaya a ser más lista que nosotros únicamente por su fuerza bruta de computación es tan absurda como decir que una grúa es más eficaz que el brazo humano por levantar pesos mucho mayores; sin duda, pero no es capaz de tocar el piano ni diseñar grúas…
[9] También una apreciación semejante en Julio Camba, La ciudad automática,1934, Austral, último capítulo: En realidad, la inteligencia, que es lo que más diferencia a unos hombres de otros, está en contradicción con todo el espíritu de la civilización americana, y actualmente nadie quiere aquí encargarse de ella. No queda más remedio, por lo tanto, que recurrir a las máquinas y hacer que ellas piensen, calculen, dibujen, jueguen al ajedrez, canten y pronuncien discursos, mientras los hombres se pasan el día repitiendo el mismo lugar común en las oficinas y el mismo movimiento automático en las fábricas. Es decir, una anticipación del meme que me sirve de epígrafe.
[10] Glosada por el que esto suscribe en Búho número 25 | El Búho. Revista Filosófica (revistasaafi.es)
[11] Simone Weil dijo con mucha sencillez: También podemos discutir sin fin sobre la realidad del mundo exterior. Porque eso que llamamos mundo son los significados que leemos en él.
[12] Ver, y no poder evitar asombrarse por ejemplo en El curioso lenguaje de las plantas | Espores.
[13] A propósito de esto en La condición humana (Arendt Hanna – La Condicion Humana.pdf – Google Drive), prólogo: (…) que hasta entonces había pertenecido a la escasamente respetada literatura de ciencia-ficción (a la que, por desgracia, nadie ha prestado la atención que merece como vehículo de sentimientos y deseos de la masa).
[14] También en Larson, obra citada: Tal y como concluyó Bar-Hillel en su célebre informe de 1966 para el NRC, la idea de que las computadoras pudieran ser programadas con el conocimiento del mundo de los seres humanos era «una completa quimera y difícilmente merece un debate mayor».
[15] Algo que hace tiempo me tiene un poco nervioso tontamente es el tratar de explicarme por qué lo que para Bergson, en La risa, era motivo de eso, de hilaridad, el hecho de que una dimensión de la duración creativa se tornase mecánica y repetitiva, sin embargo ya no nos hace gracia, sino que más bien nos suscita envidia. Hoy, repetirse, ir a piñón fijo, no pararse a pensar, es objeto de deseo, no de condescendencia, como ese epíteto admirativo nuestro en castellano, “¡máaaaaquina!”, que David Bisbal ha elevado a popularidad mediática. ¿Soy yo muy impresionable o significa eso que ya estamos listos para el dichoso matadero cibernético…?
[16] En Contra el riesgo existencial de la IA – Hyperbole.
[17] Verdaderamente apasionante El siglo de los cirujanos, Jürgen Thorwald, Ariel, 2016.
[18] Larson, acerca de las relaciones causa-efecto: Si la deducción es inadecuada, y si la inducción es inadecuada, pasamos a necesitar una teoría de la abducción. Puesto que no disponemos de ella (aún), podemos concluir desde ya que no nos encontramos en la senda de la inteligencia artificial general.
[19] Charles Sanders Pierce, ese gran desconocido de la Lógica y la Ontología occidentales del otro lado del charco: Realizo una abducción cada vez que expreso cualquier cosa que haya visto en una frase. La verdad es que el entramado al completo de nuestro conocimiento es un fieltro opaco de hipótesis puras confirmadas y refinadas a través de la inducción. No se puede realizar el menor avance en términos de conocimiento más allá de la fase en que nos quedamos con la mirada perdida sin realizar una abducción a cada nuevo paso.
[20] A quien me acuse de moralizar que lea a Yuk Hui, en la entrevista antes mencionada: El pensamiento occidental siempre traza una distinción entre el bien y el mal, y busca remover lo que se considera malo. Queremos implementar por todas partes sólo el lado bueno de la tecnología. Peter Sloterdijk distingue entre una peligrosa “alotecnología” que manipula la naturaleza y una buena “homeotecnología” que coopera con ella. Bernard Stiegler dice que la tecnología es siempre al mismo tiempo veneno y cura, y quiere separar el buen pharmakon del mal pharmakon. La división entre el bien y el mal es un gesto filosófico que se remonta a Platón. Él presenta al filósofo como el juez cuya tarea consiste en determinar qué es bueno para el pueblo.
[21] A este respecto, Larson, en obra citada y bien exprimida en estas líneas, recuérdese El mito de la Inteligencia Artificial, Shackleton, 2022: Por ejemplo, en los años cincuenta se pensó que, dedicándole el esfuerzo de investigación y los dólares suficientes, se podría resolver el problema de la Máquina Traductora Completamente Automatizada de Alta Calidad. En los sesenta, tras una sucesión de fracasos, la inversión gubernamental en traducción había desaparecido. La esperanza de construir robots dotados de sentido común (pongamos que de la capacidad para entender el inglés y hablarlo) también se había evaporado -o al menos se había visto drásticamente reducida por aquella oleada de decepciones tempranas. Los sistemas conversacionales que debían pasar el test de Turing de manera realista lograban burlar a los interrogadores humanos solo gracias a sus trucos y sus engaños -no a una comprensión real de la lengua-, problema que continúa haciendo mella hoy en día en los trabajos en pos de un lenguaje natural en la IA. Esta aparecía inevitablemente en las notas de prensa y en las charlas sobre el futuro, pero no sucedía lo mismo cuando la atención se centraba en el trabajo real de los laboratorios de investigación. Programar una máquina que fuera inteligente de verdad resultó ser difícil. Muy difícil.
