La década de 2030 según Harari: una nueva era de desublimación represiva – Slavoj Žižek

En su breve conferencia, «Para 2030, el mundo será irreconocible», Yuval Noah Harari presenta su posición sobre cómo el explosivo desarrollo de la IA afectará nuestras vidas de una manera tan clara y sucinta que la charla misma ofrece un objeto de análisis crítico. Ofrece una visión bastante detallada de nuestro mundo en 2030, al cual caracteriza como «irreconocible» para aquellos de nosotros que todavía estamos arraigados en las nociones tradicionales de la humanidad. Sin embargo, para dejar mi punto brutalmente claro, creo que la realidad de 2030 será irreconocible también para quienes respaldan la visión de Harari sobre el 2030.

La premisa de Harari, que comparto, es que lo que está sucediendo hoy es algo de lo que la mayoría de nosotros no somos plenamente conscientes: el fin de la humanidad tal como la conocíamos, un proceso que comenzó hace unos 10 000 años, cuando las tribus de la Edad de Piedra empezaron a usar el lenguaje. Con el rápido auge de la inteligencia artificial, el lenguaje ya no es una herramienta utilizada por los humanos para la comunicación y la interacción; adquiere plena independencia y comienza a funcionar como su propio agente, cortando el cordón umbilical que lo unía a esos monos vulnerables llamados humanos. Aquí me encuentro con el primer problema: ¿un lenguaje sin sujeto(s), un lenguaje que actúa como su propio agente, sigue funcionando como lenguaje? Además, ¿puede el lenguaje realmente reducirse a sus dos funciones, el cálculo intelectual y la expresión de emociones? Pero de esto me he ocupado en otra parte.

Harari detalla tres grandes cortes que marcan el fin de la humanidad tal como la conocíamos:

Primero, está el inmenso aparato de la IA: contiene un conocimiento que supera con creces la memoria humana y que está disponible al instante. Este conocimiento incluye datos sobre los individuos que habitan en la IA. En este sentido, como se dice a menudo, la IA nos conoce mejor de lo que nos conocemos a nosotros mismos. Además, la IA no solo reúne conocimientos y realiza operaciones cognitivas —razonamiento— sobre ellos: ya no es solo una herramienta, una máquina que sigue órdenes y hace lo que se le dice que haga; ya es un agente listo para promulgar decisiones autónomas, decisiones para las cuales no fue programada. No solo aprende y se transforma a sí misma para realizar sus tareas; ya es capaz de redefinir estas tareas por sí misma.Mi reacción aquí es doble. Primero, por supuesto que no nos conocemos bien a nosotros mismos porque tenemos un Inconsciente; es decir, porque nuestra propia subjetividad implica que no somos reconocibles para nosotros mismos. En cuanto a las decisiones, el decidir humano es libre en el sentido preciso de que su dimensión más básica es lo que Freud llamó la pulsión de muerte: la elección de la nada. En ambos casos, la pregunta sigue abierta: ¿hasta qué punto la IA exhibe estas dimensiones: subjetividad, pulsión de muerte, inconsciente?

Segundo, la IA, junto con el uso tecnológico de los conocimientos de las ciencias del cerebro, difumina el límite entre la realidad y la ficción. Nuestra percepción de la realidad externa y la interacción con ella siempre han estado mediadas por un contexto simbólico sociohistórico, de modo que lo que vemos es una «alucinación controlada» (Anil Seth): nuestra percepción de la realidad no es una ventana directa al mundo, sino una simulación interna de la mejor conjetura generada activamente por el cerebro y constantemente frenada por la información sensorial. Hoy en día, la «simulación interna» ya no es un mero proceso espontáneo regulado por nuestro cerebro y una ideología compartida; está siendo generada cada vez más por una manipulación tecnológica planificada conscientemente.No es solo que lo que vemos fuera de nosotros como realidad sea una falsificación, como el fondo pintado en un gran muro en una escena de película, de modo que no sea necesario construir casas reales ni colocar árboles reales al fondo. Nuestro aparato perceptivo se manipula directamente, de modo que lo que creemos ver ahí fuera no está ahí fuera —ni siquiera como un falso pintado o un sonido simulado—: nuestros propios nervios son manipulados directamente. Como la mayoría de nosotros sabe, no solo el dolor o el placer, sino incluso el orgasmo, ya pueden generarse sin representaciones visuales en nuestra mente, simplemente excitando directamente nuestros nervios. Cuando las intervenciones directas en nuestro cerebro se conviertan en un hecho, será posible insertar en nuestro cerebro falsos recuerdos, o incluso traumas que nunca experimentamos en la realidad.Mi respuesta a esto es insistir en la distinción clave lacaniana entre el Real y la realidad, que de ninguna manera se solapa con la distinción entre la realidad en sí misma y la forma en que la realidad se nos aparece, infectada de ficciones y fantasías.Muchos críticos se quejan de que el Real lacaniano es una noción elusiva que oscila entre significados opuestos: es el vacío alrededor del cual se estructura una red simbólica; es un remanente contingente, una mancha, un pedacito de lo real que se resiste a la simbolización —lo que Schelling llamó der nie aufgehende Rest—; es un lenguaje puramente formal que no sostiene ningún significado, como las fórmulas matemáticas; es una Cosa aterradora que somos incapaces de integrar en nuestra noción cotidiana de la realidad —un monstruo gigantesco que se come a la gente viva, una megatormenta que destruye casas y a las personas que están en ellas, una tortura brutal que descuartiza a la gente: casos en los que un observador se dice a sí mismo: «¡Esto no puede ser verdad!»—; es una barrera que nos prohíbe ir más allá de ella, aunque no haya nada allí; es la fantasía básica sobre cuya represión se asienta la existencia del sujeto, una fantasía en la que un sujeto nunca puede reconocerse a sí mismo.Lo que tenemos que hacer aquí no es introducir una clasificación del Real, dividiéndolo en cuatro o cinco subcategorías; tenemos que capturar el movimiento inmanente de la noción del Real. Un aspecto del Real, llevado al extremo, muta en uno totalmente diferente: la imagen de una Cosa aterradora muta en una fantasía que cubre —o, más bien, llena— el Vacío primordial; este Vacío muta en un obstáculo o prohibición que cubre el hecho de que no hay nada oculto detrás de él. La matriz se repite aquí: el Real es lo que está ahí fuera antes de la simbolización y lo que viene después de ella, el resto de la simbolización. El Real es lo que está más allá de la simbolización y el obstáculo que nos impide alcanzar este más allá. El Real es una forma vacía sin contenido, y un contenido para el cual no hay lugar en la forma —recuérdese la fórmula de Lacan del sujeto-objeto: $\$-a$.Ahí reside también la paradoja de la prohibición del incesto: prohíbe algo que es en sí mismo imposible. El incesto con la madre está prohibido, pero el verdadero objetivo de esta prohibición es crear la ilusión de que, si lo transgredimos, alcanzaremos un jouissance pleno, no castrado. En resumen, la prohibición enmascara el hecho de que no hay nada que prohibir. ¿Por qué perder el tiempo con estos detalles aquí? Porque, de nuevo, no hay lugar para tal retorcida coincidencia de opuestos en la IA.Por lo tanto, no basta con quejarse de que el crecimiento de la IA socava la separación entre hechos y ficciones, y tampoco basta con celebrar como una nueva libertad nuestra capacidad de movernos sin problemas entre hechos y ficciones. Vemos claramente la catástrofe de tal «libertad» en gran parte de la política actual —Trump, Putin, Israel—, donde está emergiendo un nuevo discurso que ni siquiera pretende ser veraz en el sentido tradicional. En el nivel óntico de la realidad, deberíamos insistir más que nunca en la verdad fáctica; pero deberíamos seguir siendo conscientes de que, en un nivel ontológico más básico, la distinción entre verdad y ficción se difumina.

Por último, pero no menos importante, el Santo Grial de toda esta tendencia es la perspectiva de Neuralink, de un cerebro cableado: la IA combinada con la neurocirugía y la tecnología basada en las ciencias del cerebro abre el camino a la comunicación directa entre nuestro flujo de pensamientos y un agente digital. Ya no necesitamos una pantalla para interactuar con la IA: el agente de IA puede leer directamente lo que pasa por nuestra mente y actuar en consecuencia. Cuando las empresas presentan los primeros y modestos implantes que permiten a una máquina digital leer nuestros pensamientos, casi siempre presentan el caso benévolo de cómo tal implante permite a una persona totalmente tullida comunicar sus pensamientos —él piensa y una máquina de IA los pronuncia— o actuar sin moverse: el agente de IA lee sus pensamientos y mueve su silla, enciende la televisión, etc.Lo que se menciona con menos frecuencia es que la comunicación también va en la dirección opuesta: nuestros pensamientos son controlados por un agente de IA y, por supuesto, por otro ser humano que controla al agente de IA. La perspectiva que se abre aquí es la de una transparencia total del flujo interno de mis pensamientos ante una máquina de IA externa —y ante quienes controlan esta máquina—.

Aunque Harari es bien conocido por sus constantes advertencias de que la era humana ha terminado, aquí es demasiado optimista, pintando un cuadro del futuro cercano —2030— en el que los individuos podrán entablar relaciones emocionales con personas reales y digitales. Esto ya está sucediendo cuando las personas pasan horas conversando con ChatGPT. Pero imagínese un sistema mucho más desarrollado en el que me pongo unas gafas digitales y entablo una conversación con mi difunto padre, cuya persona virtual ha sido reconstruida a través de mis propios recuerdos y los de otros, y otro tipo de huellas materiales —grabaciones, etc.—. Pero ¿quién controla este juego? ¿Qué hay de ser controlado desde dentro, con pensamientos y falsos recuerdos implantados en mi mente sin que yo lo sepa? Imagínese que se me implanta en la mente el recuerdo de haber sido violado por mi padre y que lo experimento como auténtico. ¿Qué pasa si surge una nueva clase de amos que pueden leer nuestros pensamientos e intervenir en ellos, pero que no están abiertos a Neuralink? ¿Qué pasa si los excluidos no son solo inferiores marginados, sino el grupo de élite de amos que controlan y manipulan a los habitantes de una singularidad?

En cuanto a Neuralink, Harari imagina que un individuo podrá elegir libremente a qué mentes colectivas unirse: ¿científicos? ¿poetas? ¿De verdad? ¿Sobrevivirá mi individualidad a su inmersión en lo que se llama «singularidad»? Dado que el implante que regula mi contacto con un Neuralink es un dispositivo mecánico, ¿no es evidente que el control lo ejerce quien conecta o desconecta el implante? No soy un izquierdista ingenuo que piensa que la IA es una máquina neutral cuyas implicaciones sociales dependen de las circunstancias sociales en las que opera: hay una tendencia hacia el control y la dominación tecnológica inscrita en la propia estructura formal de la IA. Es por eso que resulta difícil imaginar una comunidad feliz y emancipada de individuos humanos conviviendo en una singularidad: en una singularidad no hay sexo, no hay chistes, no hay comunicación en la que el otro permanezca en la oscuridad.

La conclusión que se impone es que cada gran avance tecnológico abre un camino hacia una nueva barbarie: su efecto seudoliberador termina en lo que Herbert Marcuse llamó «desublimación represiva», un término que introdujo en El hombre unidimensional en 1964. Se puede argumentar que Theodor Adorno fue el primero en señalar esta dirección en su análisis de La consagración de la primavera de Stravinsky («Stravinsky y la reacción»), la segunda parte de su Filosofía de la nueva música (1949). Adorno señaló con perspicacia cómo el modernismo de Stravinsky —su imitación musical del ritmo de la brutal producción industrial— toma los viejos mitos sacrificatorios bárbaros y violentos del pueblo ruso como su contenido.

Según Marcuse, la «represión» en el capitalismo tardío no opera a través del control y la negación, sino a través de la permisión y la expresión: todos los placeres están permitidos —de forma mercantilizada—, lo que conduce a la expresión controlada de todos los deseos y necesidades. En otras palabras, hoy la represión opera a través de la desublimación del deseo, en la que ningún deseo se ve forzado a la clandestinidad: la pornografía, el trabajo sexual, la cultura de las drogas, el BDSM, los furries, la cultura gay, el estilo de vida ostentoso, la cultura trans y similares ya no son vistos por la sociedad como estilos de vida negativos o perniciosos. La búsqueda de estos es ahora sancionada y celebrada: ser miembro de estas formas de vida ya no es una acción o un estilo de vida subversivo; ahora perpetúa el capitalismo a través de la forma mercancía.

El crecimiento explosivo actual de los agentes de IA ha llevado la desublimación represiva a un nuevo nivel, inimaginable hasta ahora, en todas sus dimensiones: desde el universo de la posverdad hasta la difuminación de la distinción entre el espacio público propiamente dicho y el espacio privado, sin mencionar el control digital de lo que hacemos y pensamos. Los medios de IA también desempeñan un papel crucial en la forma en que la brutalidad y la obscenidad descarada han invadido el discurso político público durante la última década. No solo en sus palabras, sino también en sus actos —declaraciones públicas sobre cómo se tortura a los prisioneros—, EE. UU. e Israel practican ahora la desublimación represiva. Trump y Netanyahu, por no hablar de Hegseth y Ben Gvir, a menudo hablan en público de una manera que, hasta hace poco, solo era imaginable en conversaciones privadas o intercambios de correo electrónico privados. Su discurso es literalmente un discurso de desublimación represiva: es definitivamente desublimado —brutalmente abierto, sin limitaciones que salvaguarden la dignidad— y al mismo tiempo represivo, anunciando malos tratos no menos brutales a quienes son percibidos como enemigos, incluida la aniquilación de toda una civilización.

No nos enfrentamos aquí simplemente a un efecto de la IA, sino a un conjunto muy específico de circunstancias sociales dentro de las cuales opera la IA. Todavía estamos buscando un nombre adecuado para este nuevo conjunto de circunstancias: neofeudalismo digital, fascismo liberal, un nuevo modo de bonapartismo. Somos muy conscientes de que estos nombres circulan alrededor de un fenómeno que es definitivamente real y cuyo gran peso todos sentimos. El funcionamiento de la IA no puede desconectarse de la lucha de clases neofeudal simbolizada de la mejor manera por el pernicioso cuarteto Musk-Thiel-Bezos-Zuckerberg.

1. Hace años escribí un libro sobre esto; véase Hegel en un cerebro cableado, Londres: Bloomsbury 2020.
2. Véase Herbert Marcuse, El hombre unidimensional, Boston: Beacon Press 1991.
3. Véase Theodor W. Adorno, Filosofía de la nueva música, Minneapolis: Minnesota University Press 2006.
4. Véase https://es.wikipedia.org/wiki/Desublimación_represiva.