La
digitalización avanza inexorablemente y recompone todos los sistemas de
relaciones, además de reconfigurar las instituciones y las vidas. Una de sus
dimensiones principales es la de la Inteligencia Artificial. Esta ha sido
recibida en España mediante discursos celebrativos que eliminan aspectos
esenciales con respecto a su condición. El apagón del pensamiento
característico del postfranquismo contribuye a percibir la emergencia de la Inteligencia
Artificial en unos términos similares a los prospectos comerciales de las nuevas máquinas. Cualquier problematización es relegada al pasado, entendido
como antesala de la gran modernización vivida por los novísimos feudatarios.
Franco
Berardi Bifo, es un autor esencial para comprender el presente. Representa un
vínculo entre el tiempo vivo de los años sesenta y setenta, en los que tuvo
lugar un terremoto cognitivo todavía no percibido en sus verdaderas
dimensiones, y el presente de la contrarrevolución liberal en curso. En un
escenario oscuro, sus textos contribuyen a un esclarecimiento con respecto al
caos implícito en los acontecimientos. Este texto, publicado hace unos días en
El Lobo Suelto, es un compendio de lucidez. Espero que pueda contribuir a
clarificar a otros del mismo modo que lo ha hecho conmigo. Desde el escenario
vivido, los conceptos –Unheimlich,
Inteligencia Artificial, demencia natural, caos, razón digital- adquieren una
notoriedad imponente, resultando familiares para mí mismo, compensando el desconcierto derivado de la crisis de inteligibilidad de muchos de los acontecimientos del día, comprendidos desde la perspectiva de los paradigmas convencionales.
UNHEIMLICH: CAOS Y AUTÓMATA GOGNITIVO
Franco “Bifo” Berardi.
El LOBO SUELTO.
PUBLICADAEL 8 DE MARZO DE 2023
EL REGRESO
DE DIOS
En algún
momento se difundió la noticia de que estaba muerto.
Dios murió,
decían algunos, cuando los humanos entendieron que su historia no tiene
dirección ni finalidad, cuando la tecnología se hizo cargo de la comunicación
social, y la voluntad de los humanos perdió el gobierno de los acontecimientos.
El ser
humano se dotó entonces de automatismos capaces de lograr objetivos con un
poder que nunca los rituales religiosos y las oraciones habían poseído:
extensiones automáticas de los órganos del cuerpo, brazos, piernas y ojos.
Luego, los
humanos comenzaron a construir extensiones del cerebro, y el autómata comenzó a
tomar forma, capaz no solo de realizar tareas, sino también de decidir el
propósito y la dirección.
Entonces
Dios resucitó como una creación de su creación, como una extensión
potencialmente infinita del poder finito de los humanos.
Ahora ya no
hay necesidad de humanos: son solo el material sobrante de la hipercreación. Un
material sucio: incoherente, inmoral, peludo y maloliente. Su lenguaje es
ambiguo y sólo capaz de mentir.
Esta Segunda
Creación implica el borrado de la historia anterior: la eliminación de lo humano
está claramente en marcha.
Ya no
debilitada por la ambigüedad de la conciencia, la inteligencia se traslada al
autómata que los humanos están completando y que ya posee un poder muchas veces
mayor que el suyo.
La humanidad
está desapareciendo: los humanos quedan, pero la humanidad se ha hecho rara. La
inteligencia, ahora libre del ambiguo y lento lastre de la conciencia, se está
liberando del residuo.
A fines de
la década de 1970 se difundió la noticia de que el futuro había terminado,
quizás como resultado de la muerte de Dios que se conocía desde hacía tiempo.
Incluso este
anuncio, tal vez, merece ser reducido, si no negado por completo. El futuro no
está acabado: solo se ha automatizado.
La
reproducción ampliada del conocimiento presente, a la que se dedica el Autómata
Cognitivo con inteligencia (artificial), es el futuro al que le hemos entregado
las llaves del tiempo sin más duración, sin más temporalidad.
UNHEIMLICH
EN TODOS LADOS
Un
sentimiento de Unheimlich está en todas partes, pero la palabra
“Unheimlich” es difícil de traducir. Literalmente “desconocido”,
generalmente lo traducimos como “extraño”, pero estoy buscando una palabra más
apropiada en el presente. El miedo es demasiado fuerte. Extraño es demasiado
débil. Quizás siniestro es la mejor forma de traducirlo, hoy en día.
De hecho,
el Unheimlich adquiere diferentes rasgos según el trasfondo
histórico en el que lo percibamos. La diferencia está en el fondo, es decir, en
lo familiar. Lo desconocido del presente es siniestro porque en el fondo se
vislumbran las líneas de un panorama indescifrable. Estamos familiarizados con
un orden de cosas que es adecuado para encarnar la promesa moderna. Pero ese
orden se descompone ante nuestros ojos, por lo que nuestra experiencia actual
es la de una descomposición de la normalidad sobre el fondo de la aparente
normalidad.
Unheimlich es la percepción de la
desconexión entre lo que experimentamos y lo inimaginable que comienza a
parecer inevitable.
En la
tercera década del siglo XXI el Zeitgeist es Unheimlich porque
somos como extraterrestres en el planeta tierra, y sabemos que el planeta no es
un lugar seguro a pesar de los hábitos mentales heredados del pasado.
El filósofo
japonés Sabu Kosho habla del efecto Fukushima en términos similares: estamos
caminando como extraterrestres en un planeta que de repente ya no se conoce.
“Se
desconoce la ontología de la tierra, un nuevo horizonte que experimentamos como
extraterrestres que acaban de llegar a un nuevo planeta”. (Radiación y
revolución, Duke UP, 2020, p. 50).
El eco
inquieto del flujo de noticias global: estímulos nerviosos parpadean en todas
partes desde miles de millones de pantallas brillantes. Sonidos distantes de
truenos, sacudidas del suelo. La rutina normal de la vida es posible gracias a
una red de conexiones técnicas: infraestructuras de electricidad, transporte,
salud, automatismos incorporados que damos por sentado. Pero empezamos a darnos
cuenta de que nada está garantizado: el ciclón neoliberal ha creado las
condiciones para destruir la civilización social. En el lugar privilegiado en
el que nos encontramos, la desintegración parece lenta, y nos parece algo
lejano.
De repente
descubrimos el caos, con una sensación de pánico. Mantenemos el caos bajo
control con automatismos que, sin embargo, van perdiendo coherencia y
funcionalidad, hasta el punto de dejar de estar juntos: el caos y el autómata,
polos opuestos que se retroalimentan en el siniestro escenario del mundo.
El
primero en utilizar la expresión Unheimlich fue Ernst Jentsch
quien en un artículo de 1906 la describió como una condición de incertidumbre
cognitiva provocada en nosotros por una persona viva que parece ser un
autómata, o por un autómata que parece ser una persona viva. Jentsch escribe:
“Al contar una historia, una forma efectiva de crear efectos asombrosos es
dejar al lector en la incertidumbre de si una figura particular en la historia
es un ser humano o un autómata…” (“Zur Psychologie des Unheimlichen.”
Psychiatrisch-neurologische Wochenschrift , 1906, págs. 203–205).
Unos años
más tarde, desarrollando la intuición de Jentsch, Freud escribió:
“La palabra
alemana Unheimlich (extraño) es obviamente lo opuesto a Heimlich, heimish,
(familiar, hogareño). Estamos tentados a concluir que lo siniestro es aterrador
precisamente porque no se conoce”. (Freud: Lo siniestro, 1919).
Freud quedó
impresionado por los Cuentos de Hofmann de Jacques Offenbach,
particularmente por la historia de una muñeca capaz de bailar y despertar el
interés erótico. También Salman Rushdie, en la novela Fury (2000)
habla de la inquietante vida secreta de las muñecas. El Golem de la tradición
narrativa judía puede ser considerado como el modelo de este tipo de inversión
entre construcciones artificiales y seres vivos y conscientes.
El concepto
psicoanalítico de unheimlich surge de la reflexión sobre este
tipo de ambigüedad.
Ahora se
están produciendo y distribuyendo artefactos inteligentes, y los humanos están
capacitados para interactuar con ellos. ¿Cuáles serán los efectos sobre el
inconsciente social?
Mientras
el proceso evolutivo se encuentra atrapado entre el caos y el autómata, en la
vida cotidiana vemos juntos la proliferación de dispositivos técnicos que
actúan como humanos superinteligentes, y seres humanos que actúan cada vez más
como locos incurables: el autómata cognitivo se levanta sobre ruinas. que
siguen a la explosión del caos psicótico.
INTELIGENCIA ARTIFICIAL Y DEMENCIA
NATURAL
En 1919,
Sandor Ferenczi, uno de los colegas de Freud, dijo que los psicoanalistas están
preparados para tratar las neurosis individuales, pero no las psicosis de
masas. Cien años después estamos en el mismo punto: una psicosis masiva se está
extendiendo en el mundo occidental en declive, pero no tenemos los medios
conceptuales y terapéuticos para enfrentar el problema.
El horizonte
de la tercera década parece más oscuro que nunca, porque hemos entendido que la
razón ya no está en el gobierno, si es que alguna vez lo estuvo. La tecnología
ha tomado su lugar. Pero a pesar de lo poderosa que es la tecnología, no puede hacer
nada contra el tiempo o el caos.
ChatGPT es
uno de los chatbots que recientemente se ha puesto a disposición del público.
Fue programado por Open AI de San Francisco, la misma empresa que unos meses
antes había creado GPT-3 y DALL-2, el generador de imágenes que salió a
principios del año 2022.
Open Ai
puede dar sugerencias sobre cómo encontrar un restaurante, pero también cómo
encontrar novio, y es capaz de escribir un guion o una reseña de una serie de
Netflix.
Según Kevin
Roose, comentarista del New York Times, ChatGPT es tan poderoso porque “su base
de datos contiene miles de millones de ejemplos de opiniones humanas que
representan todos los puntos de vista imaginables, y tiene un sesgo hacia la
moderación escrito en su agenda. Por ejemplo, si solicitamos una opinión sobre
debates políticos, obtendrá una lista imparcial de las opiniones de cada lado”.
¿El chatbot
tiene una opinión? Digamos más bien que está entrenado para expresar una
opinión.
Lo más
interesante que tendrá colosales consecuencias: el chatbot es capaz de escribir
software innovador; esto significa que la sustitución de la inteligencia humana
por automatismos inteligentes ahora puede avanzar a una velocidad exponencial.
¿Deberíamos
considerar la máquina que habla como un anuncio oscuro o como un logro
brillante?
Difícil de
decir.
En un
artículo publicado en The Atlantic en 2018, Henry Kissinger
expresa temor por el destino de la razón en un mundo gobernado por la
inteligencia artificial.
“Estas
máquinas podrían comunicarse entre sí. ¿Y cómo se elegirán entre opciones en
conflicto? La historia humana pudo tomar el camino de los Incas, cuando
tuvieron que enfrentarse a la incomprensible cultura española, que les
inspiraba terror…. La mayor preocupación: que la inteligencia artificial domine
las habilidades de manera más rápida y completa que los humanos, para reducir
su competencia con el tiempo y reducir los eventos humanos a datos puros y
simples.” (Kissinger).
El autómata
inteligente no es el producto de la mera automatización, sino el punto de
encuentro entre la automatización y la cognición. La inteligencia artificial va
más allá de la automatización mecánica porque no solo reemplaza la ejecución de
tareas, sino que redefine los propósitos y tiene un carácter evolutivo de
autoaprendizaje. La automatización industrial mecaniza la ejecución de una
tarea predeterminada. Por el contrario, el desarrollo de la inteligencia
artificial puede intervenir en la determinación de tareas, puede establecer
objetivos.
¿Podemos
regular el desarrollo de la inteligencia artificial, podemos establecer leyes
que limiten y dirijan el desarrollo del autómata cognitivo? Nada más ilusorio.
Henry Kissinger lo dice claramente:
“Es
poco probable que la inclusión de precauciones relacionadas con aspectos éticos
sirva para evitar errores como sugieren algunos investigadores. Hay disciplinas
académicas enteras dedicadas a discutir cuáles serían estas reglas éticas.
Entonces, ¿será la inteligencia artificial la que arbitre estos dilemas?
escribe Kissinger, quien agrega:
“¿Qué le
sucederá a la conciencia humana si su capacidad interpretativa es superada por
la inteligencia artificial y las sociedades ya no pueden interpretar el mundo
en el que viven de manera significativa?”
En su
libro La fine del mondo (1977) Ernesto de Martino define el
fin del mundo como la incapacidad de interpretar los signos que nos rodean. Y
Kissinger observa que: “Para propósitos humanos, los juegos se juegan no solo
para ganar, sino también para pensar. Si tratamos una concatenación matemática
como si fuera un proceso de pensamiento, tratando de imitar ese proceso o
simplemente aceptando sus resultados, nos estamos perdiendo la esencia de la
cognición”.
Derrota
del pensamiento: la máquina gana porque no piensa: para ganar en el juego,
calcular es más efectivo que pensar. Por el contrario, pensar puede ser un
problema en la competencia económica y en general en la competencia por la
supervivencia. Una vez que hemos establecido que el objetivo es ganar, entonces
el pensamiento se convierte en un lastre de que debemos separarnos lo antes
posible.
La
distinción entre inteligencia y conciencia es crucial: la inteligencia
prevalece en el juego gracias a la capacidad de recombinar, mientras que la
conciencia, reflexión ética y sensible sobre los objetivos del juego, funciona
como un obstáculo en la búsqueda de la meta. Yuval Harari escribió que “los
humanos corren el riesgo de perder su valor competitivo porque la inteligencia
tiende a disociarse de la conciencia”.
Inteligencia
es la capacidad de decidir entre alternativas decidibles (lógicas), pero sólo
la conciencia puede decidir entre alternativas lógicamente indecidibles.
Inteligencia
y conciencia divergen porque en el juego recombinante de la inteligencia, la
conciencia puede ser un obstáculo para la victoria: en el juego de explotar o
en el juego de matar lo que se necesita es inteligencia, la conciencia es un
inconveniente.
CAOS Y RAZÓN DIGITAL
Pese a su
poder más que humano, por el momento la inteligencia artificial no parece
imponerse en el proceso histórico, y no es probable que lo haga en un futuro
cercano, estableciendo un orden inteligente y funcional: por lo que vemos lo
que impera en las cosas del mundo no es un nuevo orden glacialmente artificial,
sino la ola de la locura natural.
Cinco años
después del texto de Kissinger, los artefactos inteligentes continúan su
penetración en la vida cotidiana, pero están lejos de poder gobernarla. Los
automatismos inteligentes se han infiltrado en el cuerpo de las sociedades,
pero el organismo biosocial no actúa según un diseño inteligente.
De hecho, el
caos es rampante en el mundo material e histórico.
La
Ilustración prometió que la regla de la razón traería orden al mundo. Pero esto
no está sucediendo, y quizás por eso Kissinger piensa que el creciente dominio
de la inteligencia artificial está en contradicción con la Ilustración.
Pero en el
ensayo ¿Qué comienza después del final de la Ilustración? (E-flux, número 96,
2019), el filósofo chino Yuk Hui responde a Kissinger.
https://www.e-flux.com/journal/96/245507/what-begins-after-the-end-of-the-enlightenment/
Lejos de ser
el final de la Ilustración, el autómata cognitivo es su plena realización, dice
Yuk.
“Kissinger
está equivocado, la Ilustración no ha terminado de ninguna manera. La fuerza
universalizadora de la tecnología es la realización del proyecto político de la
Ilustración.” (Yuk Hui).
Sin embargo,
agrega Yuk Hui, el reclamo universalista es el punto ciego de la Ilustración
europea.
“Después de
celebrar durante mucho tiempo la democracia como un valor universal
inquebrantable de Occidente, la victoria de Donald Trump parece haber
convertido esa hegemonía en una comedia. La democracia estadounidense ha
resultado ser un mal populismo”.
La razón
generó la luz de la técnica, pero luego la tecnología deslumbró a la razón.
“La fe en la
Ilustración reemplaza a la fe religiosa sin darse cuenta de que es una fe en sí
misma.” (Yuk Hui).
El filósofo
chino observa que la razón de la filosofía europea es objeto exclusivo de la
cosmología blanca, mientras que la tecnología posee una omnipresencia
verdaderamente universal.
Según Yuk
Hui, la implementación de la tecnología tiene lugar en el contexto de
diferentes cosmologías, sin embargo, la tecnología en sí misma tiene una
dimensión transcultural mucho más generalizada que la democracia liberal. De
modo que el oscurantismo, siendo una negación de la Ilustración, es también su
continuación, su efecto.
Pero ya en
1941, en la Introducción a la Dialéctica de la Ilustración,
Horkheimer y Adorno habían captado el núcleo filosófico de esta paradoja de la
Ilustración:
“El mismo
concepto de iluminación contiene el germen de la regresión que vemos hoy. Si la
Ilustración no adquiere conciencia de su momento regresivo, marca su sentencia
de muerte.”
¿Por qué la
realización de la razón ha producido, o en todo caso no logra evitar, el caos
geopolítico, social y psíquico que estalla inconteniblemente en esta década?
Contrariamente
a lo que prometía la ideología californiana, la superposición de redes
digitales y redes orgánicas y conscientes se ha revelado como una fuente de
caos, no de orden.
La
automatización industrial había reemplazado la ejecución humana de una tarea
con la ejecución técnica de la misma tarea. La inteligencia artificial actúa no
solo sobre la ejecución, sino también sobre los objetivos: gracias a técnicas
de autoaprendizaje, la máquina es capaz de establecer tareas y objetivos.
Los sistemas
de aprendizaje automático han impuesto sus objetivos y reglas automáticas al
conjunto social. El sistema financiero, el corazón automatizado del
capitalismo, inflige sus reglas (matemáticas) sobre el cuerpo vivo e impone
procedimientos e interacciones. Este sistema funciona muy bien para aumentar
las ganancias, pero no funciona en absoluto para la sociedad en su conjunto.
Las redes
digitales, como el sistema financiero, han penetrado en el organismo social y
tomado el control de los procesos orgánicos, pero los dos niveles no pueden
armonizar: la exactitud digital (conexión) no puede armonizar con la intensidad
orgánica (conjunción).
El tiempo y
la matemática no pueden coincidir, porque en el tiempo hay alegría, tristeza y
muerte, que las matemáticas sólo pueden ignorar.
Reeves
también habla del programa bing, otro chatbot que tiene la capacidad de
realizar comportamientos humanos gracias a su cerebro recombinante.
Después de
dos horas de conversación profunda, Bing llegó a decir que quería hacer el amor
con el periodista y le propuso dejar a su legítima esposa. Impactante, sin
duda. Algunos podrían estar tentados a decir, como lo hizo un funcionario de
Microsoft que fue despedido por ello, que un programa como este demuestra que
tiene un alma, una espiritualidad.
Pero desde
un punto de vista filosófico es necesario distinguir la ejecución de un comportamiento
humano de la experiencia humana.
La
experiencia es placer, dolor y decadencia.
Experiri
significa vivir en el horizonte de la muerte, del devenir nada: y este
horizonte no se puede traducir al lenguaje recombinante.
Irreductiblemente
distintos, el autómata cognitivo y el caos viviente evolucionan juntos, y
juntos se retuercen en una espiral arremolinada en el cielo del siglo.
De este giro
en espiral incontrolable podemos sacar auspicios sobre la evolución política
del siglo XXI.
Principio del formulario