Desde hace
tres años leo y releo a Eric Sadin, un filósofo francés cuyos libros ayudan a
la comprensión de las últimas versiones del mundo que habitamos. Dada la
posición de mayoritaria de la inteligencia española, que actúa como vendedores de
las nuevas tecnologías, limitándose a elogiar sus prestaciones y eliminando
cualquier interrogación o cuestionamiento, me he decidido a publicar aquí una
entrevista clarividente y esclarecedora, realizada por Eduardo Febbro y
publicada en el periódico argentino Página 12 en 2020 y que podéis leer aquí
Este es el
texto
Por Eduardo Febbro
Desde
París. Desafiar
la modernidad es un gesto reservado a muy pocos. Algunos lo hacen desde la
nostalgia del pasado porque son como viudos de un tiempo ido, otros, en cambio,
deslindan los engaños, desarman las narrativas y los espejismos con los cuales
los sistemas someten al presente del mundo. Eric Sadin pertenece a la segunda
dinastía. Este filósofo francés forma parte del muy estrecho grupo de
pensadores que sustentan una reflexión crítica sobre las nuevas tecnologías.
Sadin tiene un pensamiento propio, una reflexión auténtica sobre lo que está
realmente en juego dentro de la tecno ideología. Sus libros son una fuente
imperdible de denuncia y reflexión y no uno de esos tediosos inventarios sobre
tecnología que se limitan a enumerar sin entender el fenómeno. La elegancia de
Eric Sadin está, entre muchos atributos, en que sus ensayos son en tiempo real
y no un posteriori crítico, un diagnóstico post morten. Sadin desliza su
reflexión en el momento más excesivo de la fascinación humana por las nuevas
tecnologías. Lo hizo en 2011 con el libro "La société de l'anticipation :
Le Web Précognitif ou la rupture anthropologique"(La sociedad de
anticipación: investigación sobre las nuevas formas de control). El libro se
publicó en francés dos años antes de que se conociera el espionaje mundial
orquestado por los servicios secretos norteamericanos y revelado por el ex
agente de la CIA y de la NSA Edward Snowden. En 2013 publicó "La Humanidad
aumentada" (Editorial Caja Negra), donde exponía cómo las capacidades
cognitivas de los sistemas digitales estaban gobernando los seres y las cosas.
En 2015, apareció "La Vida Algorítmica, Crítica de la razón digital",
un ensayo donde Sadin abordaba el proceso de captación y explotación de los
datos digitales con el único fin de identificar correlaciones y
comportamientos. En 2016, Caja Negra tradujo otro de sus libros más
contundentes, La siliconización del mundo. El libro era una suerte de alegato
desconstructivo de uno de los mitos más mastodónticos de la modernidad: la
Silicon Valley. Allí se forjó el modelo técnico-económico dominante aceptado
con una mansedumbre global espeluznante. Era, en ese momento, un contrataque
feroz contra un modelo que se presentaba a sí mismo como un buen operador del
progreso de la condición humana, pero que, al final, como con el conjunto de
las tecnologías de la información, sólo maniobraba en beneficio de intereses
privados. En 2020 Caja Negra publica en las próximas semanas otro ensayo de
Sadin donde el pensador francés desmonta otra gran mentira del siglo XXI: la
Inteligencia Artificial. El título del ensayo declara sin rodeos sus
intenciones: "La Inteligencia Artificial o el desafío del siglo. Anatomía
de un antihumanismo radical" (traducción de Margarita Martínez).
Allí donde
los medios baten la crema de un nuevo ser humano reparado de todas sus
imperfecciones, Sadin le sigue la pista pasando del otro lado del espejo.
Encuentra una impostura monumental cuyos contenidos desgrana en esta entrevista
realizada en París. Se ha deslizado una tragedia global muy enriquecedora que
da la razón a los análisis de Eric Sadin. La pandemia del coronavirus desarmó
todas las retóricas sobre la utilidad humana de las nuevas tecnologías. No
sirvieron ni para identificar el virus, ni para los pasos posteriores de la
infección.
--La
Inteligencia Artificial es, en los medios, poco menos que el nuevo El Dorado
del horizonte humano. Sin embargo, usted ve en ella un proceso de
deshumanización al mismo tiempo que un engreído discurso salvador y un
trastorno mayor de los comportamientos humanos
Desde hace
algunos años se expandió la idea de que la nueva lucha económica mundial se
concentraba en la Inteligencia Artificial. Había dos ideas implícitas. La
primera es que la Inteligencia Artificial era el horizonte económico
ineluctable. La otra, que la IA ofrecería un montón de soluciones a muchísimos
problemas individuales y colectivos. Esta idea se convirtió, entre 2015 y 2020,
en la nueva doxa mundial que era preciso respaldar de forma masiva. Se produjo,
en suma, una suerte de excitación colectiva a partir de la cual se estableció
como una suerte de verdad probada, como un horizonte obligado. Nada puede ser
menos verosímil. Son discursos entusiastas y luminosos muy alejados de la
realidad. Se trata de una impostura. Desde el año 2010 estamos viviendo un
cambio de estatuto. Las tecnologías digitales dejaron de ser un útil destinado
a conservar, indexar o manipular la información para tener otra misión: se
encargan de hacer un peritaje de lo real. Es decir que tienen por vocación
revelarnos, a menudo en tiempo real, dimensiones que dependían de nuestra
conciencia. Podemos recurrir al ejemplo de la aplicación Waze que se encarga de
señalar el mejor recorrido para desplazarse de un lado a otro. Esa capacidad de
hacer peritajes a velocidades infinitamente superiores a nuestras capacidades
humanas caracteriza la Inteligencia Artificial. El sentido escondido de esto
está en que la IA es como una instancia que nos dice la verdad. Y la verdad
siempre reviste una función performática. Por ejemplo, la verdad religiosa
enuncia dogmas e interpela a obedecerlos. La Inteligencia Artificial enuncia
verdades con tal fuerza de peritaje que nos interpela a obedecerlas. Estamos
entonces viviendo un momento donde las técnicas se dotan de un poder de mando.
El problema radica en que nos plegamos al peritaje, nos conformamos con eso y
ejecutamos las acciones correspondientes. Es la primera vez en la historia de
la técnica que existen sistemas con el poder de mandar. Lo que ocurre de
gravísimo es que esto tiene como objetivos responder a intereses privados u
organizar a la sociedad de forma más optimizada.
-Este
poder es, no obstante, apenas una etapa de ese proceso que funciona como una
cadena de mando.
--Sí, el
primero es el que acabo de describir: la técnica que da órdenes. Existe también
el estado incitativo, que es como un primer nivel blando, digamos. Ese estado
incitativo empezó a desarrollarse con la aparición de los Smartphones y las
aplicaciones que nos aconsejaban sobre cosas cada vez más amplias de la realidad.
Haga esto y no lo otro, vaya a este lugar que es mejor que el otro. Esto empezó
con el IPhone y estaba ligado a la geolocalización. Su misión consistía en
incitar a la gente a consumir. Es lícito reconocer que toda la esfera tecno
industrial dio muestras de una genialidad sin igual. Inventaron constantemente
nuevas cosas, forjaron discursos, supieron difundirlos y fueron y son una
instancia de seducción desproporcionada. Algunos años después aparecieron los
asistentes digitales virtuales, es el caso de Siri por ejemplo. Luego
irrumpieron los altoparlantes conectados cuya particularidad es la de mantener
una relación casi natural, intima, corpórea, con los usuarios gracias al
conocimiento evolutivo de nuestros actos. Es turbador. La base de estos sistemas
es el mismo: conducirnos a decidir esto o lo otro en función de la verdad
enunciada. Encima, desde no hace mucho, esos sistemas hablan. La potencia de
influencia de estos dispositivos es impresionante. Hablan, hacen peritajes,
formulan, sugieren y dan órdenes. El grupo L’Oreal produce espejos conectados
que, según el análisis de un rostro en el espejo, aconseja ponerse este
producto, consumir este otro o ir a descansar a la montaña. La primera
consecuencia de estas tecnologías es la mercantilización general de la vida.
Esto le permite al liberalismo económico no verse confrontado por ninguna
barrera y poder mercantilizar sin trabas el conocimiento de nuestros
comportamientos. Casi a cada segundo y a escala planetaria, el liberalismo nos
sugiere la mejor acción posible, es decir, la operación mercantil más
pertinente. Vemos muy bien que el milagro de la Inteligencia Artificial no es
para nosotros sino para la industria.
--Es, en
suma, un gran mercado regulado por la tecnología y la información que estos dispositivos
nos roban.
--Todos
estos aparatos incitativos están destinados a que el liberalismo se desarrolle
sin trabas. En la misma lógica, del estado incitativo pasamos al estado
imperativo. En campos como el de los recursos humanos ya existen robots que
dialogan con los candidatos a un puesto y que luego deciden entre cuatro o
cinco quiénes son los mejores en función de criterios de optimización:
obedientes, creativos, trabajadores, etc, etc, etc. Otro problema radica en que
estos sistemas no son estáticos, aprenden y se desarrollan y, por consiguiente,
tendrán más poder. Ese estado imperativo lo encontramos igualmente en los
bancos o los seguros. Nadie cree hoy que son los seres humanos quienes deciden
sobre las tarifas o el otorgamiento de un crédito. Después hay otro estado que
debería ser objeto de muchos más estudios y movilizaciones: se trata del estado
coercitivo. Este estado se despliega sobre todo en el mundo del trabajo
mediante el desarrollo de sensores que supervisan y evalúan a la persona constantemente
y, en tiempo real, miden las situaciones y aconsejan sobre los gestos que deben
hacerse. En Amazon, por ejemplo, el personal no recibe órdenes de un jefe sino
señales provenientes de estos sistemas que no sólo reducen la subjetividad
humana, sino que, encima, reducen a los trabajadores a la categoría de robots
de carne y sangre. Esta Inteligencia Artificial no sólo posee capacidades de
análisis sino también de retroacción, es decir, indicar, sugerir, ordenar,
prescribir.
--Gracias
al canto de las sirenas de ciertos medios –el caso de El País en
España es vergonzoso—estas dimensiones perversas son invisibles. La gente sigue
creyendo que la Inteligencia Artificial es un útil de progreso humano cuando,
en lo esencial, es un instrumento de explotación al servicio de las empresas.
--Efectivamente,
todo esto no no ve…no se ve la extensión de la Inteligencia Artificial en
nuestras sociedades. Desde 2010 se habla mucho acerca de cuántos empleos o
profesiones se destruirán con la Inteligencia Artificial, pero se habla muy
poco de las nuevas modalidades de gestión que la IA ha introducido en las
prácticas de hoy en el seno de las empresas. La velocidad exponencial en la que
todo esto se desarrolla no sólo quiere decir que se va cada vez más rápido,
sino, ante todo, que se nos niega el derecho de determinarnos libremente en la
pluralidad de la contradicción. Estamos inmersos en un movimiento exponencial
de todas las cosas. En los años 70, la automatización de las fábricas se
desarrolló en los puestos de trabajo muy expuestos o nocivos. Se podía decir
que, al menos, era por una buena causa: la salud, la preservación de los
operadores del peligro y la protección de la psicología de las personas. En
cambio, la sustitución que se expande actualmente concierne a oficios o
profesiones donde se requieren muchas competencias. La gente tuvo que estudiar
durante años y años, con pasión. Hoy las reemplazan por sistemas de
Inteligencia Artificial.
--Hay
entonces una dimensión mítica que resulta de una hábil construcción del
liberalismo y no de una necesidad o de un progreso humano.
---Sí. La
Inteligencia Artificial vehicula la promesa de estar llamada a substituir
nuestras inteligencias naturales. No, es un abuso de lenguaje. Lo que se busca
aquí es poner los asuntos humanos bajo el doble imperativo de la
mercantilización integral de la vida y de una optimización continúa de nuestras
vidas colectivas. Eso es lo que se está implementando. Yo convoco a que se
hagan valer otros modos de racionalidad frente a este modelo. Con el modelo de
racionalidad de la Inteligencia Artificial se promueve un anti humanismo
radical con el cual se quiere instalar una suerte de utilitarismo generalizado
y de higienismo social. La Inteligencia Artificial nos deshumaniza porque
limita nuestra capacidad a juzgar y elegir libremente, traba la libre expresión
y la autonomía humana en beneficio de sistemas que propagan su propia luz, muy
distinta a la idea de soberanía y autonomía del individuo que surgió durante el
Siglo de las Luces. Ese es el corazón del anti humanismo reinante.
--Sin
embargo, un cataclismo ha ocurrido, y ahora bien real: la expansión de la
pandemia de coronavirus vino a decapitar todas las mitologías de la
Inteligencia Artificial y las tecnologías de la información. No sirvieron para
nada, en ninguna de las fases de la crisis sanitaria mundial.
--¡
Absolutamente ! Justo cuando hay organismos de seguridad que lo vigilan todo
por todas partes, cuando estamos supuestamente al corriente de todo de forma
inmediata, hemos asistido a la vulnerabilidad de la información. Lo sabíamos
todo al instante gracias a un sistema de vigilancia y de alarma planetario pero
el virus sorprendió a todas las potencias. Se produjo un colapso del mito. La
voluntad de controlar la información sobre todas las cosas fracasó. La pandemia
fue como una burla a la vez absurda y trágica a nuestra voluntad de controlarlo
todo que impera desde finales de la Segunda Guerra Mundial. El desarrollo de
las tecnologías digitales apuntaba a amplificar nuestro control, pero el coronavirus
demostró su estado de invalidez, demostró que las soluciones no se originan en
el control absoluto de las cosas sino en la atención a las fallas, con una
sensibilidad en la relación con las cosas. Otro de los mitos que se quiebran es
el de ese delirio que circula desde hace unos cuantos años sobre el
transhumanismo. El sentimiento de híper potencia que ha caracterizado a las
industrias digitales en los últimos 10 años quedó reducido a la nada. La
tecnología no puede reparar todos los defectos humanos. Se creó el mito en
torno a los empresarios ligados a las nuevas tecnologías como si fueran
capaces, por si solos, de modificar el curso de la vida terrestre. Eso es lo
que hemos visto. El transhumanismo promovido por Silicon Valley debía crear un
súper hombre a partir de tecnologías milagrosas. Esos discursos delirantes no
merecían que se les diera tanta importancia.
--El
transhumanismo y los evangelios tecnológicos fueron fagocitados por el estado
más elemental de la condición humana: la enfermedad.
--La
velocidad con la cual se irradiaron las tecno ideologías nos prohibió
prácticamente formular una crítica, como si fuera un destino ineluctable de la
condición humana. El transhumanismo postula la idea de que Dios no terminó la
creación, que el mundo está lleno de defectos y que el primer vector de esos
defectos somos nosotros, usted, yo, los seres humanos, que no serían más que
desechos, que estarían constituidos por una falibilidad fundamental. Las
tecnologías exponenciales tienen entonces esa misión: reparar los defectos. Ese
es el sueño del hombre perfecto. Pero nuestra misión no es ésa sino, más bien,
no negar lo real y tratar de elaborar una armonía justa. El coronavirus nos
enseña que ha llegado la hora de dejar de estar buscando someter la realidad.
Debemos partir de la existencia y no querer controlarla todo el tiempo, debemos
apreciarla en función de nuestros principios, es decir, la dignidad, la
solidaridad. Las proyecciones futurológicas no tienen cabida. Hay que terminar
de una buena vez por todas con esa insoportable ideología del futuro que ocupó
todos los espacios. Hay que terminar con el discurso de las promesas y ocuparse
más de una política del presente, una política de lo real, de lo que se
constata. A partir de estas condiciones y de nuestros principios decidimos cómo
construir mejor y con incertidumbres nuestro porvenir común. No es lo mismo un
porvenir común que un futuro de fantasías que no hace más que responder a
intereses tan estrechos como privados.
efebbro@pagina12.com.ar
No hay comentarios:
Publicar un comentario