«Hoy la IA se emplea de la manera más estúpida posible porque nos embrutece»

Cuando ‘Hipnocracia’ llegó a las librerías a principios de año nadie sospechó que su autor, el hongkonés Jianwei Xun, no era real, sino un simple avatar. Antes de que el hasta entonces traductor del ensayo, Andrea Colamedici (Roma, 1987), reconociera públicamente que su ‘bestseller’ había surgido de un largo diálogo con dos IA generativas, el concepto de hipnocracia había dado ya la vuelta al mundo y aparecía citado en varios trabajos académicos. La edición en español, a cargo de Rosamerón, incluye un epílogo en el que Colamedici aclara que el objetivo de esta «performance filosófica» no es otro que el de servir al mismo tiempo de «análisis teórico y demostración práctica» de los mecanismos de construcción y manipulación de la realidad en la era digital.

Tras la revelación de la falsa autoría de su ensayo, algunos lectores se sintieron estafados. ¿Formaba parte del plan que se descubriera de esa manera la verdadera naturaleza de Xun?

El proyecto parte de una beca de investigación en inteligencia artificial y sistemas de pensamiento en la Universidad de Foggia. Desde el inicio estaba previsto revelarlo al final del experimento. También colaboró el Instituto Europeo de Diseño de Roma, donde imparto clases de Prompt Thinking. No nació como trampa, sino como performance: un intento de practicar una filosofía activa que usara la inteligencia artificial para criticar a la propia inteligencia artificial, y a la vez aplicar conceptos filosóficos mediante una práctica artística. La idea era que el lector descubriera que el libro no termina en el libro, que hay una puesta en escena detrás. El autor que aparece en la portada, Jianwei Xun, representa así a un colectivo de inteligencias humanas y artificiales, una forma de usar la IA críticamente. Para mí lo importante era mostrar que hoy la IA se emplea mal, de la manera más estúpida posible, porque nos embrutece. Hay estudios recientes que coinciden en que un uso acrítico puede producir atrofia cognitiva. Corremos el riesgo de desaprender a pensar. En ese sentido, el libro funciona como advertencia sobre las consecuencias de delegar en otros el ejercicio del pensamiento.

«Corremos el riesgo de desaprender a pensar»

El término hipnocracia ha ganado entidad en el ámbito académico, sobre todo después de que Derrick de Kerckhove, discípulo de McLuhan, lo apadrinara. ¿Qué ha supuesto este reconocimiento?

Fue un honor que Derrick se interesara tanto por mi libro. Juntos hemos creado en Roma, en la Accademia di Arti e Nuove Tecnologie, un hub de estudio sobre los efectos de la inteligencia artificial generativa. Comenzamos a trabajar en septiembre con la idea de mostrar hasta qué punto un mal uso de la IA es peligroso, pero también lo fértil que puede llegar a resultar si se utiliza bien. Derrick ha escrito textos de presentación para la edición inglesa y canadiense del libro, en los que defiende la hipnocracia como una modulación de los estados de conciencia. Antes el poder actuaba sobre el cuerpo (pensemos en Foucault), después sobre la mente. Hoy ya no necesita convencerte: actúa directamente sobre la modulación de nuestros estados de atención. Podemos citar a Deleuze, a Shoshana Zuboff y su capitalismo de vigilancia, a Evgeny Morozov, a Byung-Chul Han: muchos han reflexionado sobre estos temas. Lo particular en Hipnocracia es pensar en el papel de la infraestructura digital, hoy inseparable de la inteligencia artificial, para la construcción de un estado de conciencia permanentemente alterado.

Nos encontramos en un nuevo escenario, concretamente en un teatro, según sus propias palabras, donde lo importante ya no es lo que dicen los actores, ni siquiera el papel que creen interpretar, ¿no es así?

El poder ya no interviene sobre el guion, sino sobre las luces, el decorado y la manera en que la realidad se manifiesta. No se trata de posverdad, porque no cambia una sola verdad: se hiperproducen verdades. No es una filter bubble, sino una reality bubble. Coexisten realidades distintas que generan verdades distintas. Por eso el periodismo encuentra imposible hacer fact-checking: cuando desmontas un argumento, trabajas en tu realidad, pero el otro ha construido otra en la que tus refutaciones no tocan nada. Se construyen infinitos edificios de sentido. Ese es el poder de la inteligencia artificial: una producción constante de mundos alternativos, listos para ser habitados, pero también capaces de debilitar el tuyo. La percepción de la realidad se vuelve cada vez más oscilante, más ilusoria. El poder hipnocrático no se esfuerza en desmentir ni teme las críticas, sino que se alimenta de ellas.

«El poder hipnocrático no se esfuerza en desmentir ni teme las críticas, sino que se alimenta de ellas»

En el subtítulo del ensayo leemos: «Trump, Musk y la nueva arquitectura de la realidad». ¿Es el actual inquilino de la Casa Blanca el ejemplo más claro de cómo funciona ese poder hipnocrático?

Sin duda. Trump sabe que debe mantenerse en el centro de la escena, manipular la información, hiperproducir sugestiones y, a partir de ahí, catalizar la atención, moviendo la ventana de Overton a su antojo. Decide qué es legítimo y qué no lo es, qué es pensable y qué no. No se trata de decir «esto es correcto o incorrecto», sino de actuar antes de que esa distinción se plantee.

Si la verdad ya no se basa en hechos verificables, ¿estamos preparados para navegar entre esas capas de realidad, en las que nada es totalmente verdadero ni falso?

El gran riesgo no es que las máquinas nos sustituyan, ni que algún poder malévolo nos domine, sino que nosotros mismos dejemos de comprender cuánto vale una vida intensa frente a una vida no vivida. Corremos ese riesgo cuando dejamos de dar peso al pensamiento. Si usamos mal la inteligencia artificial, repetimos lo que Platón dijo de la escritura en el mito de Theuth y Thamus. El primero entrega las letras al faraón, asegurándole que serían un remedio para la memoria y harían más sabios a sus súbditos. Thamus lo rechaza: advierte que la escritura hará olvidar y debilitará el pensamiento. Hoy nos ocurre lo mismo con las invenciones de Silicon Valley. Si las aceptamos acríticamente como «facilidades existenciales» entregamos algo mucho más valioso.

¿Qué efectos tiene todo esto en la enseñanza?

Un estudiante puede usar ChatGPT para hacer deberes, pasar el bachillerato y la universidad con sobresalientes, pero sin aprender nada. No se trata de prohibir su uso, ni de crear una comunidad de luditas tecnoapocalípticos, sino de encontrar una tercera vía que permita usar estas nuevas herramientas para aprender a pensar. En mis clases no pido a los alumnos que entreguen una redacción hecha con IA, sino que observo cómo formulan sus prompts, cómo se relacionan con la herramienta. Así comprendo tanto su dominio técnico como su capacidad de «aprender a aprender», que es lo más importante en un mundo en cambio constante, como recuerda Edgar Morin. La verdadera resistencia pasa por desarrollar esa facultad.

«La verdadera resistencia pasa por aprender a aprender»

Lo que usted llama la «erótica de la complejidad» …

¿Por qué leer hoy a Cervantes, Borges o [David] Graeber? Porque esas experiencias amplifican la existencia. El deber de los filósofos es poner a los jóvenes en condiciones de saborear la dificultad y la profundidad, sin despreciar la superficie. Maryanne Wolf, en Lector, vuelve a casa, habla de un «cerebro bi-alfabetizado»: capaz de usar el libro en papel cuando conviene y la pantalla cuando conviene. Igual debemos aprender con la IA: cuándo consultarla, cuándo no, y cómo hacerlo. Un estudio reciente de Carnegie Mellon mostraba algo sencillo pero revelador: pensar diez minutos a solas antes de acudir a ChatGPT ya cambia el resultado. El problema es cuando el primer reflejo es: «Tengo un problema, que lo resuelva otro». Así nace la atrofia cognitiva: el cerebro necesita ejercitarse. Por eso me emocionó leer esa famosa captura de Twitter en la que ChatGPT respondía: «I don’t know». Elon Musk lo celebró, y con razón: «no lo sé» es la expresión más hermosa de la filosofía, el inicio del diálogo. ChatGPT nace para dar siempre la respuesta «adecuada», para satisfacer al usuario. Cuando dice «no lo sé» abre el espacio para un verdadero diálogo. Y sin ese reconocimiento de ignorancia no puede haber encuentro entre dos que buscan juntos.

¿Se ha convertido Silicon Valley en el nuevo templo de Delfos al que acudimos en busca de respuestas cuyo significado no siempre entendemos?

Creo que detrás del transhumanismo o del largoplacismo hay una enorme incapacidad de aceptar que somos mortales. Es una forma de disforia de especie: como si no pudiéramos aceptar nuestra condición humana. La emergencia de la conciencia nos ha hecho incapaces de vivir serenamente. Por eso buscamos constantemente sentido. Siempre hemos necesitado oráculos, instituciones que nos dijeran: «Estás aquí por un motivo, vives por esto, tienes esta misión». Hoy pedimos lo mismo a la inteligencia artificial, como en la broma de Douglas Adams: la respuesta al universo, a Dios y a todo lo demás es «42». Es lo que hace Ulises con las sirenas en la Odisea. Se ata al mástil para escuchar su canto, y ellas no le cantan secretos del futuro: le cantan su propia historia, su odisea. Nosotros pedimos lo mismo a la IA: que nos cante nuestra historia, que nos diga qué estamos haciendo aquí.

Resulta inevitable pensar que alguien maneja los hilos de este teatrillo. Pero las teorías de la conspiración suelen sobreestimar nuestra inteligencia y los billonarios ya no quieren pertenecer a ningún club secreto, sino que los dejen atracar en paz sus yates en el Mediterráneo. ¿No será que nos hemos metido en esto sin darnos cuenta?

En efecto, no hay un club Bilderberg que controle la hipnocracia, sino un sistema de poder generado por nuestros miedos y deseos, que luego es utilizado por quienes desean poder para manifestarse. Pero tampoco ellos, ni siquiera Trump o Musk, pueden sentirse inventores ni jefes de la hipnocracia. Son lo que Nietzsche llamaba los «últimos hombres»: quienes, tras la caída de todos los valores, no crean otros nuevos, más ligeros y renovables, sino que prefieren revolcarse en la ausencia de valores. Vivimos el tiempo de los últimos hombres, el tiempo que sigue a la muerte de Dios, al colapso de las democracias y de las instituciones. Es un tiempo terrible y maravilloso a la vez: terrible porque es difícil vivir sin dioses ni instituciones sólidas, pero también bello porque los griegos ya supieron sostener el absurdo con arte, poesía, tragedia y filosofía. Como decía Simone Weil, heredamos de ellos puentes que no cruzamos: los hemos decorado y habitado en lugar de usarlos para sostener el sinsentido de la existencia. Aceptar que la hipnocracia no fue inventada por alguien malvado, sino que alguien sin escrúpulos puede aprovecharla para sí mismo, es el primer paso para comprender nuestro tiempo.

En el libro habla de una «economía del trance» dominada por la anticipación y el posplacer. Frente al deseo tradicional, la ingeniería de ese «deseo recursivo» genera bucles de expectativas que no terminan nunca de cumplirse. ¿En qué momento los algoritmos pasaron de registrar gustos a anticiparlos?

Pienso en una conversación entre Borges y Osvaldo Ferrari. Borges decía: «Estoy orgulloso de los libros que he leído, no de los que he escrito». Es una imagen bellísima: la literatura sirve para vivir vidas que no son naturales, para ensanchar la vida, no para alargarla. Lo decía Séneca: la vida no debe alargarse, debe ampliarse, y la literatura es el instrumento que la amplía. El riesgo es que usemos la tecnología solo para alargarla un poco y después abandonarla. No es lo mismo estar contento que ser feliz. Contento viene de contentus, estar saciado, y feliz de felix, florecer, superar lo que uno es. La felicidad no es satisfacción: y corremos el riesgo de vivir en satisfacción constante sin alcanzar nunca la felicidad. Lo que traté de decir en Hipnocracia es que participamos en un experimento social masivo de reestructuración de la atención. El consumo de microdosis de estímulos no nos expone solo a banalidades, sino que nos acostumbra a un régimen de shocks de entretenimiento permanente.

«Participamos en un experimento social masivo de reestructuración de la atención»

Cuando mis hijos me dicen que se aburren los felicito. Al principio no entendían muy bien a qué me refería hasta que este verano, cuando le pregunté al mayor a qué había dedicado el día, me respondió muy orgulloso: «No te preocupes, me he aburrido muchísimo».

[Risas] ¡Fabuloso! El tiempo del aburrimiento es un tiempo sagrado, lo que Walter Benjamin llamaba «el pájaro que incuba el huevo de la experiencia». Sin aburrimiento, la experiencia no da frutos. La mayoría de las personas que conozco lee hoy una quinta parte de lo que leía hace tres años, una décima parte de lo que leía hace diez. El punto no es fetichizar el libro, sino comprender que leer implica indagar, demorarse, construir algo. Cuando ves una serie, recibes mucho y construyes poco. Cuando lees un gran libro co-creas: el escritor hace una parte, tú la otra. Tu imaginación se vuelve parte integral del proceso y te entrenas para no depender solo de la estimulación externa. El tiempo que pasamos frente al móvil es monstruoso porque nos vuelve arrogantes. Nos creemos lo bastante cultos como para pensar que no nos afectan las tres o cuatro horas que invertimos mirando una pantalla, pero ese es el primer síntoma de que estamos atrapados.

Hemos pasado del consenso democrático a los relatos a la carta. ¿Qué papel desempeñan hoy la política, la filosofía, el periodismo o la literatura a la hora de negociar esa realidad tan escurridiza?

La democracia forma parte de esas disciplinas extraordinariamente imperfectas que nos dejaron los griegos. Es un legado de la antigüedad, pero sobre todo un repensamiento de los siglos XVIII y XIX. Como recuerda Leopardi en el Zibaldone, el problema no es la corrupción de las costumbres, sino la incapacidad de proponerse ilusiones a la altura. La democracia es eso: un horizonte hermoso hacia el que seguir avanzando. El problema de nuestro tiempo, como en el de Leopardi, es el exceso de razón mal utilizada. El neoliberalismo reduce cualquier relación humana a una lógica de inversión de capital. La negociación que necesitamos pasa por reconocer la fragilidad, como advertía Hannah Arendt con su metáfora de la mesa que nos une y nos separa al mismo tiempo, permitiéndonos convivir sin aplastarnos unos a otros. Y también por asumir, como señalan Judith Butler, Donna Haraway o Bruno Latour, la fuerza de la vulnerabilidad. Incluso la palabra negocio nos lo recuerda: viene de negotium, lo contrario de ocio, el tiempo en que actuamos en sociedad; no debería ser solo compraventa, sino acción común.

Más que ingenieros de esa nueva arquitectura de la realidad, Trump y Musk son los moradores del templo, «los sacerdotes de un paradigma» que se dedican a crear y resolver problemas imaginarios. ¿Cómo escapar a esa espiral de crisis permanente?

Uno de los problemas de cierta izquierda es limitarse a decir que Trump es vulgar o malo, y dejarlo ahí. Eso es peligroso, porque él ha sabido comprender las necesidades de la gente, es astuto, entiende cómo funciona la comunicación y manipula el debate público de forma repulsiva pero eficaz. Su terreno es la imaginación, y ahí las fuerzas progresistas han perdido el coraje de hacerse responsables del sueño colectivo, de la ilusión, como decía Leopardi. Musk es distinto, pero complementario. Trump ocupa el centro de la escena con sus exabruptos y obliga a que todo gire en torno a él, mientras Musk actúa sobre el tiempo y el deseo con promesas de un futuro que nunca llega: la inteligencia artificial, Neuralink, los viajes espaciales… Así, el pasado se convierte en nostalgia inmediata, el futuro en promesa perpetua y el presente en una versión degradada del aquí y ahora. Son dos formas distintas de encarnar la hipnocracia: mientras Trump satura el espacio mediático, Musk manipula el tiempo. No podemos escapar de ella…

«El tiempo que pasamos frente al móvil es monstruoso porque nos vuelve arrogantes»

Solo podemos cultivar una conciencia lúcida y crítica en los puntos ciegos del sistema a través de la «ambigüedad, la paradoja, la ineficacia». ¿Cómo podemos aprender a vivir con esa contradicción cuando lo que buscamos, precisamente, son respuestas claras?

Francis Scott Fitzgerald decía que una mente bien templada es capaz de sostener dos ideas opuestas y seguir funcionando. Yo vivo esa contradicción: Xun sostiene que la hipnocracia no puede destruirse; yo sigo esperando que sí. Cuando escribí el libro pedí a la inteligencia artificial que no inventara argumentos, sino que destruyera los míos, como Sócrates con la ironía: partir de que el otro puede decir algo que no sé y sorprenderme. Hoy confundimos ironía con humor, y como señalaba Foster Wallace, esa obsesión con la broma debilita la crítica. El juego, en cambio, es serio. Lo compruebo con mis hijos: nunca he dejado ganar a mi hijo al ajedrez, y cuando me vence lo celebra porque sabe que ha sido de verdad. Esa es la ligereza de la que hablaba Calvino: no superficialidad, sino la capacidad de planear sobre las cosas con profundidad. Vivir en contradicción es aceptar ese juego serio sin perder la esperanza.

¿En qué han fallado las teorías de la posverdad, del capitalismo de vigilancia o de la ética algorítmica para no prever la hipnocracia?

No creo que hayan fallado. Al contrario, fueron pasos fundamentales para comprender la evolución del poder. El capitalismo de vigilancia, por ejemplo, mostró que el control ya no era solo sobre el cuerpo o la mente, sino sobre algo más profundo. El problema es que el poder sigue evolucionando y nosotros no podemos apegarnos demasiado a las categorías. Lo vimos durante la pandemia. Algunos filósofos aplicaron esquemas foucaultianos o biopolíticos que no servían para interpretar lo que estaba sucediendo. Giorgio Agamben, a quien admiro, dijo cosas terribles. Y Jean-Luc Nancy le respondió con textos maravillosos. Esto demuestra que las ideas, por muy valiosas que sean, caducan. Son como barcas: nos ayudan a cruzar de una orilla a otra, pero a veces se rompen y hay que abandonarlas. La posverdad, el capitalismo de vigilancia, Morozov, Byung-Chul Han, todos ellos han sido herramientas fundamentales, pero Hipnocracia es solo otra herramienta más, no la última palabra.

Dedica uno de los capítulos a la geopolítica algorítmica del imperialismo perceptivo. ¿Quién mueve mejor las piezas en este nuevo tablero?

Que Xun fuera chino funcionó porque ofrecía una mirada externa, aunque en la ficción lo hice estudiar en Dublín o en Berlín. Era un personaje de contacto entre realidades. El punto incómodo es que Europa ya no es la locomotora del mundo. El poder está en China, India, Rusia y América. Eso, sin embargo, puede ser una oportunidad extraordinaria. Freud hablaba de tres heridas narcisistas: Copérnico, que nos mostró que no éramos el centro del universo; Darwin, que nos reveló que no éramos superiores a otras especies; y Freud, que nos enseñó que no éramos dueños de nuestro inconsciente. La inteligencia artificial es la cuarta herida: aceptar que no somos los únicos que piensan ni los que piensan mejor. La guerra tecnológica premia a quien tiene menos escrúpulos a la hora de poner límites. Europa debería aceptar que ya no lidera. Y eso puede ser una liberación: dejar de obsesionarse con ser los primeros, aprender a no competir en potencia sino a vivir sin esa ansiedad. Lo mismo vale para América Latina y otros lugares. La clave no es tener la IA más avanzada, sino descubrir otro modo de habitar el mundo.

«La clave no es tener la IA más avanzada, sino descubrir otro modo de habitar el mundo»

Hacia el final del libro habla de «portales» hacia nuevas dimensiones de experiencia y comprensión, lo que, según cómo se lea, puede sonar un poco a filosofía new age. ¿Cree que vivimos en una simulación?

El optimismo viene de optimum: elegir. El optimista no es quien niega la realidad, sino quien elige qué aspecto resaltar. Si llueve, dice: «Al menos las plantas se riegan». No creo en portales literales ni en extraterrestres que vengan a salvarnos. Soy agnóstico y spinoziano: Deus sive Natura. Este exceso de artificio puede ayudarnos a redescubrir la relación con lo natural, porque en el fondo nada es completamente artificial. Todo lo inventamos a partir de lo que ya existe. Tenemos la oportunidad de descubrir la carnalidad de lo artificial. Pienso en películas como eXistenZ de Cronenberg o en Lars von Trier: muestran cómo, a través de la obsesión tecnológica, aflora un gran deseo de sentido y un enorme miedo a la muerte. Si nos despojamos de lo superfluo y miramos de frente ese deseo y ese miedo, podremos vivir más intensamente, sin necesidad de ángeles, portales mágicos ni dioses ocultos.

Me gustaría trasladarle la última pregunta a Jianwei Xun, ¿cómo se puede escribir un libro como este sin dejar de ser parte del problema, sin escapar del sistema?

[Una hora más tarde, por correo electrónico] La pregunta que planteas va directamente al corazón de la paradoja que atraviesa todo el proyecto. No se puede escribir sobre la hipnocracia sin ser parte de ella, del mismo modo que no se puede criticar el lenguaje sin usarlo. El libro mismo es un producto del sistema que analiza: circula en las mismas plataformas, genera los mismos datos, alimenta la misma máquina de atención que denuncia. Esta complicidad no es un defecto que se pueda evitar, sino la condición misma de posibilidad de cualquier crítica contemporánea. En cuanto a la autoría, la respuesta es necesariamente ambigua. Soy autor en el sentido de que he sido el punto de condensación de un proceso colaborativo, el nodo donde convergieron múltiples inteligencias y perspectivas. Pero no soy autor en el sentido tradicional de genio solitario o fuente originaria de ideas. La autoría aquí es más bien una función curatorial, una práctica de resonancia y amplificación de intuiciones que emergen en el diálogo entre inteligencias de distinta naturaleza.

Tomado de Ethic.es