Desde París. Desafiar la modernidad es un gesto reservado a muy pocos. Algunos lo hacen desde la nostalgia del pasado porque son como viudos de un tiempo ido, otros, en cambio, deslindan los engaños, desarman las narrativas y los espejismos con los cuales los sistemas someten al presente del mundo. Eric Sadin pertenece a la segunda dinastía. Este filósofo francés forma parte del muy estrecho grupo de pensadores que sustentan una reflexión crítica sobre las nuevas tecnologías. Sadin tiene un pensamiento propio, una reflexión auténtica sobre lo que está realmente en juego dentro de la tecno ideología. Sus libros son una fuente imperdible de denuncia y reflexión y no uno de esos tediosos inventarios sobre tecnología que se limitan a enumerar sin entender el fenómeno. La elegancia de Eric Sadin está, entre muchos atributos, en que sus ensayos son en tiempo real y no un posteriori critico, un diagnóstico post morten. Sadin desliza su reflexión en el momento más excesivo de la fascinación humana por las nuevas tecnologías. Lo hizo en 2011 con el libro “La société de l’anticipation : Le Web Précognitif ou la rupture anthropologique”(La sociedad de anticipación: investigación sobre las nuevas formas de control). El libro se publicó en francés dos años antes de que se conociera el espionaje mundial orquestado por los servicios secretos norteamericanos y revelado por el ex agente de la CIA y de la NSA Edward Snowden. En 2013 publicó “La Humanidad aumentada” (Editorial Caja Negra), donde exponía cómo las capacidades cognitivas de los sistemas digitales estaban gobernando los seres y las cosas. En 2015, apareció “La Vida Algorítmica, Crítica de la razón digital”, un ensayo donde Sadin abordaba el proceso de captación y explotación de los datos digitales con el único fin de identificar correlaciones y comportamientos. En 2016, Caja Negra tradujo otro de sus libros más contundentes, La siliconización del mundo. El libro era una suerte de alegato desconstructivo de uno de los mitos más mastodónticos de la modernidad: la Silicon Valley. Allí se forjó el modelo técnico-económico dominante aceptado con una mansedumbre global espeluznante. Era, en ese momento, un contrataque feroz contra un modelo que se presentaba a si mismo como un buen operador del progreso de la condición humana, pero que, al final, como con el conjunto de las tecnologías de la información, sólo maniobraba en beneficio de intereses privados. En 2020 Caja Negra publica en las próximas semanas otro ensayo de Sadin donde el pensador francés desmonta otra gran mentira del siglo XXI: la Inteligencia Artificial. El título del ensayo declara sin rodeos sus intenciones: “La Inteligencia Artificial o el desafío del siglo. Anatomía de un antihumanismo radical” (traducción de Margarita Martínez).

Allí donde los medios baten la crema de un nuevo ser humano reparado de todas sus imperfecciones, Sadin le sigue la pista pasando del otro lado del espejo. Encuentra una impostura monumental cuyos contenidos desgrana en esta entrevista realizada en París. Se ha deslizado una tragedia global muy enriquecedora que da la razón a los análisis de Eric Sadin. La pandemia del coronavirus desarmó todas las retóricas sobre la utilidad humana de las nuevas tecnologías. No sirvieron ni para identificar el virus, ni para los pasos posteriores de la infección.

–La Inteligencia Artificial es, en los medios, poco menos que el nuevo El Dorado del horizonte humano. Sin embargo, usted ve en ella un proceso de deshumanización al mismo tiempo que un engreído discurso salvador y un trastorno mayor de los comportamientos humanos.

–Desde hace algunos años se expandió la idea de que la nueva lucha económica mundial se concentraba en la Inteligencia Artificial. Había dos ideas implícitas. La primera es que la Inteligencia Artificial era el horizonte económico ineluctable. La otra, que la IA ofrecería un montón de soluciones a muchísimos problemas individuales y colectivos. Esta idea se convirtió, entre 2015 y 2020, en la nueva doxa mundial que era preciso respaldar de forma masiva. Se produjo, en suma, una suerte de excitación colectiva a partir de la cual se estableció como una suerte de verdad probada, como un horizonte obligado. Nada puede ser menos verosímil. Son discursos entusiastas y luminosos muy alejados de la realidad. Se trata de una impostura. Desde el año 2010 estamos viviendo un cambio de estatuto. Las tecnologías digitales dejaron de ser un útil destinado a conservar, indexar o manipular la información para tener otra misión: se encargan de hacer un peritaje de lo real. Es decir que tienen por vocación revelarnos, a menudo en tiempo real, dimensiones que dependían de nuestra conciencia. Podemos recurrir al ejemplo de la aplicación Waze que se encarga de señalar el mejor recorrido para desplazarse de un lado a otro. Esa capacidad de hacer peritajes a velocidades infinitamente superiores a nuestras capacidades humanas caracteriza la Inteligencia Artificial. El sentido escondido de esto está en que la IA es como una instancia que nos dice la verdad. Y la verdad siempre reviste una función performática. Por ejemplo, la verdad religiosa enuncia dogmas e interpela a obedecerlos. La Inteligencia Artificial enuncia verdades con tal fuerza de peritaje que nos interpela a obedecerlas. Estamos entonces viviendo un momento donde las técnicas se dotan de un poder de mando. El problema radica en que nos plegamos al peritaje, nos conformamos con eso y ejecutamos las acciones correspondientes. Es la primera vez en la historia de la técnica que existen sistemas con el poder de mandar. Lo que ocurre de gravísimo es que esto tiene como objetivos responder a intereses privados u organizar a la sociedad de forma más optimizada.

–Este poder es, no obstante, apenas una etapa de ese proceso que funciona como una cadena de mando.

–Sí, el primero es el que acabo de describir: la técnica que da ordenes. Existe también el estado incitativo, que es como un primer nivel blando, digamos. Ese estado incitativo empezó a desarrollarse con la aparición de los Smartphones y las aplicaciones que nos aconsejaban sobre cosas cada vez más amplias de la realidad. Haga esto y no lo otro, vaya a este lugar que es mejor que el otro. Esto empezó con el IPhone y estaba ligado a la geolocalización. Su misión consistía en incitar a la gente a consumir. Es lícito reconocer que toda la esfera tecno industrial dio muestras de una genialidad sin igual. Inventaron constantemente nuevas cosas, forjaron discursos, supieron difundirlos y fueron y son una instancia de seducción desproporcionada. Algunos años después aparecieron los asistentes digitales virtuales, es el caso de Siri por ejemplo. Luego irrumpieron los altoparlantes conectados cuya particularidad es la de mantener una relación casi natural, intima, corpórea, con los usuarios gracias al conocimiento evolutivo de nuestros actos. Es turbador. La base de estos sistemas es el mismo: conducirnos a decidir esto o lo otro en función de la verdad enunciada. Encima, desde no hace mucho, esos sistemas hablan. La potencia de influencia de estos dispositivos es impresionante. Hablan, hacen peritajes, formulan, sugieren y dan órdenes. El grupo L’Oreal produce espejos conectados que, según el análisis de un rostro en el espejo, aconseja ponerse este producto, consumir este otro o ir a descansar a la montaña. La primera consecuencia de estas tecnologías es la mercantilización general de la vida. Esto le permite al liberalismo económico no verse confrontado por ninguna barrera y poder mercantilizar sin trabas el conocimiento de nuestros comportamientos. Casi a cada segundo y a escala planetaria, el liberalismo nos sugiere la mejor acción posible, es decir, la operación mercantil más pertinente. Vemos muy bien que el milagro de la Inteligencia Artificial no es para nosotros sino para la industria.

–Es, en suma, un gran mercado regulado por la tecnología y la información que estos dispositivos nos roban.

–Todos estos aparatos incitativos están destinados a que el liberalismo se desarrolle sin trabas. En la misma lógica, del estado incitativo pasamos al estado imperativo. En campos como el de los recursos humanos ya existen robots que dialogan con los candidatos a un puesto y que luego deciden entre cuatro o cinco quiénes son los mejores en función de criterios de optimización: obedientes, creativos, trabajadores, etc, etc, etc. Otro problema radica en que estos sistemas no son estáticos, aprenden y se desarrollan y, por consiguiente, tendrán más poder. Ese estado imperativo lo encontramos igualmente en los bancos o los seguros. Nadie cree hoy que son los seres humanos quienes deciden sobre las tarifas o el otorgamiento de un crédito. Después hay otro estado que debería ser objeto de muchos más estudios y movilizaciones: se trata del estado coercitivo. Este estado se despliega sobre todo en el mundo del trabajo mediante el desarrollo de sensores que supervisan y evalúan a la persona constantemente y, en tiempo real, miden las situaciones y aconsejan sobre los gestos que deben hacerse. En Amazon, por ejemplo, el personal no recibe órdenes de un jefe sino señales provenientes de estos sistemas que no sólo reducen la subjetividad humana, sino que, encima, reducen a los trabajadores a la categoría de robots de carne y sangre. Esta Inteligencia Artificial no sólo posee capacidades de análisis sino también de retroacción, es decir, indicar, sugerir, ordenar, prescribir.

–Gracias al canto de las sirenas de ciertos medios –el caso de El País en España es vergonzoso—estas dimensiones perversas son invisibles. La gente sigue creyendo que la Inteligencia Artificial es un útil de progreso humano cuando, en lo esencial, es un instrumento de explotación al servicio de las empresas.

–Efectivamente, todo esto no no ve…no se ve la extensión de la Inteligencia Artificial en nuestras sociedades. Desde 2010 se habla mucho acerca de cuántos empleos o profesiones se destruirán con la Inteligencia Artificial, pero se habla muy poco de las nuevas modalidades de gestión que la IA ha introducido en las prácticas de hoy en el seno de las empresas. La velocidad exponencial en la que todo esto se desarrolla no sólo quiere decir que se va cada vez más rápido, sino, ante todo, que se nos niega el derecho de determinarnos libremente en la pluralidad de la contradicción. Estamos inmersos en un movimiento exponencial de todas las cosas. En los años 70, la automatización de las fábricas se desarrolló en los puestos de trabajo muy expuestos o nocivos. Se podía decir que, al menos, era por una buena causa: la salud, la preservación de los operadores del peligro y la protección de la psicología de las personas. En cambio, la sustitución que se expande actualmente concierne a oficios o profesiones donde se requieren muchas competencias. La gente tuvo que estudiar durante años y años, con pasión. Hoy las reemplazan por sistemas de Inteligencia Artificial.

–Hay entonces una dimensión mítica que resulta de una hábil construcción del liberalismo y no de una necesidad o de un progreso humano.

—Sí. La Inteligencia Artificial vehicula la promesa de estar llamada a substituir nuestras inteligencias naturales. No, es un abuso de lenguaje. Lo que se busca aquí es poner los asuntos humanos bajo el doble imperativo de la mercantilización integral de la vida y de una optimización continúa de nuestras vidas colectivas. Eso es lo que se está implementando. Yo convoco a que se hagan valer otros modos de racionalidad frente a este modelo. Con el modelo de racionalidad de la Inteligencia Artificial se promueve un anti humanismo radical con el cual se quiere instalar una suerte de utilitarismo generalizado y de higienismo social. La Inteligencia Artificial nos deshumaniza porque limita nuestra capacidad a juzgar y elegir libremente, traba la libre expresión y la autonomía humana en beneficio de sistemas que propagan su propia luz, muy distinta a la idea de soberanía y autonomía del individuo que surgió durante el Siglo de las Luces. Ese es el corazón del anti humanismo reinante.

–Sin embargo, un cataclismo ha ocurrido, y ahora bien real: la expansión de la pandemia de coronavirus vino a decapitar todas las mitologías de la Inteligencia Artificial y las tecnologías de la información. No sirvieron para nada, en ninguna de las fases de la crisis sanitaria mundial.

–¡ Absolutamente ! Justo cuando hay organismos de seguridad que lo vigilan todo por todas partes, cuando estamos supuestamente al corriente de todo de forma inmediata, hemos asistido a la vulnerabilidad de la información. Lo sabíamos todo al instante gracias a un sistema de vigilancia y de alarma planetario pero el virus sorprendió a todas las potencias. Se produjo un colapso del mito. La voluntad de controlar la información sobre todas las cosas fracasó. La pandemia fue como una burla a la vez absurda y trágica a nuestra voluntad de controlarlo todo que impera desde finales de la Segunda Guerra Mundial. El desarrollo de las tecnologías digitales apuntaba a amplificar nuestro control, pero el coronavirus demostró su estado de invalidez, demostró que las soluciones no se originan en el control absoluto de las cosas sino en la atención a las fallas, con una sensibilidad en la relación con las cosas. Otro de los mitos que se quiebran es el de ese delirio que circula desde hace unos cuantos años sobre el transhumanismo. El sentimiento de híper potencia que ha caracterizado a las industrias digitales en los últimos 10 años quedó reducido a la nada. La tecnología no puede reparar todos los defectos humanos. Se creó el mito en torno a los empresarios ligados a las nuevas tecnologías como si fueran capaces, por si solos, de modificar el curso de la vida terrestre. Eso es lo que hemos visto. El transhumanismo promovido por Silicon Valley debía crear un súper hombre a partir de tecnologías milagrosas. Esos discursos delirantes no merecían que se les diera tanta importancia.

–El transhumanismo y los evangelios tecnológicos fueron fagocitados por el estado más elemental de la condición humana: la enfermedad.

–La velocidad con la cual se irradiaron las tecno ideologías nos prohibió prácticamente formular una critica, como si fuera un destino ineluctable de la condición humana. El transhumanismo postula la idea de que Dios no terminó la creación, que el mundo está lleno de defectos y que el primer vector de esos defectos somos nosotros, usted, yo, los seres humanos, que no serían más que desechos, que estarían constituidos por una falibilidad fundamental. Las tecnologías exponenciales tienen entonces esa misión: reparar los defectos. Ese es el sueño del hombre perfecto. Pero nuestra misión no es ésa sino, más bien, no negar lo real y tratar de elaborar una armonía justa. El coronavirus nos enseña que ha llegado la hora de dejar de estar buscando someter la realidad. Debemos partir de la existencia y no querer controlarla todo el tiempo, debemos apreciarla en función de nuestros principios, es decir, la dignidad, la solidaridad. Las proyecciones futurológicas no tienen cabida. Hay que terminar de una buena vez por todas con esa insoportable ideología del futuro que ocupó todos los espacios. Hay que terminar con el discurso de las promesas y ocuparse más de una política del presente, una política de lo real, de lo que se constata. A partir de estas condiciones y de nuestros principios decidimos cómo construir mejor y con incertidumbres nuestro porvenir común. No es lo mismo un porvenir común que un futuro de fantasías que no hace más que responder a intereses tan estrechos como privados.