ChatGPT dice lo que nuestro inconsciente reprime
Analizando los impactos de la inteligencia digital, Slavoj Žižek afirma que los chatbots son máquinas de perversión que manipulan el inconsciente más que cualquier otra cosa.
Por Slavoj Žižek para Revista Jacobin
No hace mucho, describí un incidente que me ocurrió una vez: un amigo negro estaba tan encantado con lo que yo acababa de decir que me abrazó y exclamó: «Ahora puedes llamarme «n…r»».
Recientemente, un crítico afirmó que quienes están de acuerdo conmigo aquí están «locos»: «El problema es que el argumento de Žižek se basa en su libertad para utilizar términos racistas. Žižek utiliza la palabra N como argumento contra lo políticamente correcto, dando a entender que las personas negras que no quieren que la gente les llame con nombres racistas son políticamente correctas. Y, por tanto, poco razonables. Y claro, puede que al hombre con el que hablaba no le importara en absoluto. Pero el que digas o no la palabra con N como persona no negra no debería depender de que encuentres a una sola persona negra que te lo «permita». La forma en que utilizas las palabras debería basarse en cómo entiendes el mundo. La palabra N es una palabra que se ha utilizado para justificar directamente la propiedad de una raza por la propiedad de otra. Eso es lo que me preocupa».
Era una expresión de amistad
Permíteme dejar las cosas absolutamente claras: al igual que un chatbot, mi crítico ignora el contexto obvio de mi ejemplo. Yo no utilicé (ni utilizo nunca) la palabra con N en ninguna comunicación y la persona negra que me dijo: «¡Ahora puedes llamarme «N…r»!» obviamente no quería decir que lo hiciera. Era una expresión de amistad basada en el hecho de que las personas negras utilizan ocasionalmente esta palabra entre ellas de forma irónicamente amistosa.
Estoy bastante seguro de que si realmente me dirigiera a él como «n…r», reaccionaría con enfado en el mejor de los casos, como si no hubiera entendido lo evidente. Su comentario obedecía a la lógica de una «oferta a rechazar», que he explicado detalladamente en otro lugar. Ejemplo: si digo algo como «¡Lo que has hecho ahora por mí ha sido tan bonito que podrías matarme y no me importaría!», desde luego no espero que mi contraparte diga: «¡De acuerdo!», y saque un cuchillo.
La estupidez de los chatbots es precisamente su valor
Mi opinión es que los chatbots, al menos por ahora, no pueden responder a tales ofertas de rechazo. (Ignoremos aquí los raros casos en los que, en un contexto muy específico, no solo la palabra con N puede ser utilizada por una persona no negra sin ofender a una persona negra, sino —lo que es más importante— en los que no utilizar esa palabra, sino insinuarla sutilmente mediante expresiones asociadas, puede ser casi más hiriente. Lo mismo se aplica, por cierto, a la expresión «¡Que Dios me ayude!». Si en ese momento apareciera Dios e interviniera realmente en el mundo por mí, me quedaría totalmente sorprendido).
Pero aún así, ¿no me he apoyado demasiado en la reacción académica habitual ante los chatbots, burlándose y denunciando las imperfecciones y errores que comete ChatGPT? Frente a esta opinión predominante, compartida por Chomsky y sus oponentes conservadores, Mark Murphy, en un diálogo con Duane Rousselle, defiende la afirmación de que «la inteligencia artificial no funciona como sustituto de la inteligencia/sensibilidad como tal».
Por tanto, «las estupideces, deslices, errores y atajos imbéciles que comete un chatbot —sus constantes disculpas cuando hace algo mal— son precisamente su valor», lo que nos permite (a las personas «reales» que interactúan con un chatbot) mantener una falsa distancia con él y afirmar cuando el chatbot dice algo estúpido: «No soy yo, es la IA».
ChatGPT es un inconsciente
Rousselle y Murphy justifican esta afirmación con una compleja línea de razonamiento cuya premisa inicial es que «ChatGPT es un inconsciente». Los nuevos medios digitales externalizan nuestro inconsciente en máquinas de IA, de modo que quienes interactúan con la IA ya no son sujetos compartimentados, es decir, sujetos sometidos a una castración simbólica que hace que su inconsciente les resulte inaccesible. En palabras de Jacques-Alain Miller, con estos nuevos medios hemos entrado en una psicosis universalizada, ya que la castración simbólica queda ahora excluida.
Un sujeto dividido horizontalmente se sustituye así por un paralelismo vertical (ni siquiera dividido), una yuxtaposición de sujetos y el inconsciente maquínico/digital externalizado: los sujetos narcisistas intercambian mensajes a través de sus avatares digitales, en un medio digital plano en el que sencillamente no hay lugar para la «monstruosidad opaca del prójimo».
El inconsciente digital es «un inconsciente sin responsabilidad»
El inconsciente freudiano implica responsabilidad, señalada por la paradoja de sentirnos fuertemente culpables sin saber siquiera de qué somos culpables. El inconsciente digital, por el contrario, es «un inconsciente sin responsabilidad y esto supone una amenaza para el vínculo social». Un sujeto no está implicado existencialmente en su comunicación, ya que esta la lleva a cabo la IA y no el propio sujeto.
«Del mismo modo que creamos un avatar online para interactuar con los demás y unirnos a grupos online, ¿no podríamos utilizar de forma similar personalidades de IA para asumir funciones de riesgo cuando nos cansemos?», dijo. «¿Así como se podrían utilizar bots para hacer trampas en videojuegos competitivos en línea o un coche sin conductor podría recorrer el trayecto crítico hasta nuestro destino? Nos sentamos y animamos a nuestra IA digital hasta que dice algo que es totalmente inaceptable. Entonces intervenimos y decimos: “¡No he sido yo! Ha sido mi IA”».
Para Freud, el sueño es el camino real hacia el inconsciente
Por tanto, la IA «no ofrece ninguna solución a la segregación y al aislamiento y antagonismo fundamentales que aún padecemos, pues sin responsabilidad no puede haber posdonación» [en el original: post-givenness]. Rousselle introdujo el término «posdonación» para referirse a «la zona de ambigüedad e incertidumbre lingüística que hace posible un acercamiento al otro en la zona de la llamada no-referencia. Se trata, pues, directamente de la cuestión de la imposibilidad de cómo nos relacionamos con el otro. Se trata de tratar con la monstruosidad opaca de nuestro prójimo, que nunca podrá borrarse aunque le ofrezcamos las mejores condiciones».
Esta «monstruosidad opaca del prójimo» también nos afecta a nosotros mismos, pues nuestro inconsciente es un otro opaco en el núcleo del sujeto, un amasijo de placeres sórdidos y obscenidades. Para Freud, el sueño es la vía real al inconsciente, por lo que, lógicamente, la incapacidad de considerar la monstruosidad opaca del sujeto significa también la incapacidad de soñar.
Las payasadas características del père-verse-ity (dirigiéndose al Padre)
«Hoy soñamos fuera de nosotros mismos y, por eso, sistemas como ChatGPT y el Metaverso funcionan ofreciéndose el espacio que hemos perdido al caer en el olvido los viejos modelos castrativos». Con el inconsciente digitalizado, obtenemos una in(ter)vención directa del inconsciente, pero entonces, ¿por qué no nos abruma la insoportable cercanía del goce (disfrute) como ocurre con los psicóticos?
Aquí estoy tentado de discrepar con Murphy y Rousselle cuando se centran en el modo en que, con las máquinas de IA, «el placer puede ser diferido y negado: cómo podemos crear algo total y horriblemente obsceno, y no responsabilizarnos de ello». La genialidad está en imitar al sujeto escindido de tal modo que aún podamos decir abiertamente: «Eso no es mío». El placer proviene precisamente de negar la agencia en este punto: señalas a la IA y dices: «Mira qué idiota es».
«El rasgo payasesco de la père-verse-idad (vuelta al padre) de gran parte del conservadurismo online es precisamente la necesidad de resucitar al padre. Desde Trump hasta diversos gurús triunfalistas del estilo de vida de autoayuda, los vemos actuar como figuras paternas protésicas. En estos acontecimientos, vemos los intentos de una resurrección reaccionaria de la lógica fálica protésica de «todo» y una era de invención para mantener esa lógica. (…) Al no manifestarse una figura castradora, ahora hay una invención directa del inconsciente sin el punto estructurador paterno».
El perverso retorno del padre obsceno
Así pues, es la perversión (o père-version, «versión del padre», como dice Lacan) y no la compartimentación psicótica lo que caracteriza al IA. El inconsciente no es en primer lugar lo real del «goce» reprimido por una figura paterna castradora, sino la propia castración simbólica en su forma más radical, que significa la castración de la propia figura paterna, encarnación del gran Otro (castración que significa que el padre como persona nunca está al nivel de su función simbólica).
El retorno perverso del padre obsceno (Trump en política) no es el mismo que el del paranoico psicótico. ¿Por qué? Con los chatbots y otros fenómenos de la IA, estamos ante una deformación inversa: no es (repitiendo la fórmula clásica de Lacan) que la función simbólica excluida (nombre-del-padre) reaparezca en lo real (como agente de la alucinación paranoica); es, por el contrario, lo real de la monstruosidad opaca del prójimo, la imposibilidad de alcanzar a un Otro impenetrable, lo que reaparece en lo simbólico, bajo la forma del espacio «libre», que funciona sin problemas, del intercambio digital.
El inconsciente se reprime
Esta compartimentación inversa no caracteriza la psicosis, sino la perversión; es decir que cuando un chatbot produce una estupidez obscena, no es simplemente que pueda disfrutar de ella sin responsabilidad porque «fue la IA la que lo hizo, no yo». Más bien, lo que ocurre es una forma de negación perversa: aunque sé perfectamente que es la máquina, y no yo, la que está haciendo el trabajo, puedo disfrutarlo como si fuera mío.
La característica más importante a tener en cuenta aquí es que la perversión está lejos de mostrar abiertamente el inconsciente (previamente reprimido): como dijo Freud, en ninguna parte está el inconsciente tan reprimido, tan inaccesible, como en una perversión. Los chatbots son máquinas de perversión y disfrazan el inconsciente más que ninguna otra cosa: precisamente porque nos permiten vomitar todas nuestras sucias fantasías y obscenidades, son más represivos que incluso las formas más estrictas de censura simbólica.
Este artículo fue publicado originalmente por Berliner Zeitung bajo el título «Slavoj Žižek: Chatgpt sagt das, was unser Unbewusstes radikal verdrängt».
*Por Slavoj Žižek para Revista Jacobin / Imagen de portada: A/D.
