Clajadep :: Red de divulgación e intercambios sobre autonomía y poder popular

Vigilar y predecir

S?bastien Broca
Sin Permiso
16/03/2019

Acerca de: Shoshana Zuboff, The Age of Surveillance Capitalism. The Fight for a Human Future at the New Frontier of Power, Public Affairs

Se ha abierto una nueva era del capitalismo, donde las empresas buscan por todos los medios conocer, predecir y modificar el comportamiento de los individuos. S. Zuboff se?ala las amenazas resultantes para la autonom?a individual y la soberan?a democr?tica.

Desde la publicaci?n de un primer art?culo en 2013 en el Frankfurter Allgemeine Zeitung, Shoshana Zuboff, profesora em?rita de la Escuela de Negocios de Harvard, ha popularizado la noci?n de ?capitalismo de la vigilancia?, tanto en el mundo acad?mico como entre los defensores de las libertades digitales. Esta expresi?n se refiere a la nueva forma de capitalismo creada por las grandes compa??as de Silicon Valley, y m?s particularmente por Google y Facebook, cuyos ingresos dependen de la recolecci?n y el an?lisis de nuestros datos. El an?lisis de este fen?meno socioecon?mico est? en el centro de un libro voluminoso y ambicioso, publicado en los Estados Unidos el 15 de enero de 2019 y ya ampliamente comentado [1]. S. Zuboff entrelaza, en una prosa vigorosa y estimulante, una historia, una teor?a y una cr?tica de la direcci?n tomada por la acumulaci?n capitalista.

Una historia del ?capitalismo de la vigilancia?

Seg?n Zuboff, el ?capitalismo de la vigilancia? naci? en Google. En 2001, la empresa se encuentra en una situaci?n dif?cil. A pesar del ?xito entre los usuarios de su motor de b?squeda, todav?a no se ha encontrado un modelo de negocio rentable y los inversores est?n empezando a impacientarse. Inspirado por las ideas del economista Hal Varian, Google decide utilizar los datos y metadatos proporcionados por sus usuarios para ofrecer a los anunciantes una publicidad selectiva orientada individualmente. Esta decisi?n va en contra de las reservas que los fundadores de la compa??a, Sergey Brin y Larry Page, han mostrado hasta ahora hacia la publicidad. Pero los inversores no van a esperar sine die los beneficios y L. Page no tiene deseos de convertirse en un nuevo Nikola Tesla, el brillante ingeniero que muri? sin haberse beneficiado nunca de sus inventos. Adem?s, Google dispone de una gran cantidad de datos y de informaci?n cient?fica fuera de los registros para convertirlas en predicciones sobre qui?n podr?a hacer clic en los anuncios. Google inventa el ?capitalismo de la vigilancia?. ?Entre 2000 y 2004, sus ingresos aumentan un 3590%!

Este modelo resulta inmediatamente ganador y aventaja al resto de los actores importantes en la econom?a digital. Bajo el impulso de Sheryl Sandberg, transfuga de Google, Facebook se convierte desde 2008 en un gigante de la publicidad. La firma de Mark Zuckerberg aprovecha el activo ?nico de su profundo conocimiento de las relaciones de cada individuo: la denominada ?gr?fica social?. Tambi?n inventa muchas formas de aumentar y refinar su recopilaci?n de datos, por ejemplo, con la introducci?n del bot?n ?Me gusta? en abril de 2010. A partir de 2014, Microsoft tambi?n se convierte al ?capitalismo de la vigilancia? con el desarrollo del asistente virtual Cortana, una verdadera aspiradora de datos, y la adquisici?n de la red social profesional Linkedin, con sus 450 millones de usuarios. Amazon le sigue de cerca con su asistente virtual Alexa, igualmente hacen los gigantes de telecomunicaciones de EE. UU. Verizon, AT & T y Comcast.

Nacido en el mundo digital, el ?capitalismo de la vigilancia? tambi?n se extiende al mundo ?real?. A medida que las personas est?n geolocalizadas, sus procesos fisiol?gicos son medidos, sus emociones son inferidas, las ciudades se llenan de miles de sensores y las casas se pueblan de ?objetos inteligentes?, el mundo entero ese transforma en datos. El ?capitalismo de la vigilancia? inmediatamente despu?s incorporar? a nuevos sectores, tales como seguros, finanzas, salud o comercio minorista. El ejemplo del seguro del autom?vil es uno de los m?s llamativos. Dado que el comportamiento de conducci?n de cada conductor se puede medir con precisi?n, es posible calcular los riesgos con la mayor justeza posible, individualizar las condiciones del seguro o incluso modificar estas condiciones en tiempo real, de acuerdo con los datos de conducci?n recopilados. Para las compa??as de seguros, estos dispositivos est?n destinados a fomentar ciertos comportamientos de conducci?n, reducir la incertidumbre y… garantizar sus beneficios.

Otro ejemplo esclarecedor es el de Pok?mon Go. Incubado en Google, este juego es, seg?n S. Zuboff, el sue?o de cualquier ?capitalista de la vigilancia?. Permite recopilar datos en espacios p?blicos y privados, interiores y exteriores. El aspecto l?dico es especial y extraordinariamente efectivo para promover ciertos comportamientos en los jugadores: empujarlos, por ejemplo, a ir a un negocio que ha establecido una sociedad con la compa??a editorial del juego. De hecho, ha llegado r?pidamente a acuerdos con McDonald’s y Starbucks para ofrecerles potenciales consumidores. Este modelo de negocio de ?Lugares Patrocinados? funciona de la misma forma que el modelo de publicidad de Google. Los clientes empresariales pagan un ?costo por visita?, del mismo modo que los anunciantes pagan a Google un ?costo por clic? (316).

Una teor?a cr?tica del ?capitalismo de la vigilancia?

A partir de esta historia de los ?ltimos veinte a?os, S. Zuboff propone una teor?a general del ?capitalismo de la vigilancia?. Todo comienza a partir de la transformaci?n de la experiencia humana en ?datos de comportamiento?, gracias a las tecnolog?as digitales. Para la autora, hay un acto original de despojo: los actores del ?capitalismo de la vigilancia? se apropian de nuestra experiencia extray?ndola de los ?espacios no mercantiles de la vida cotidiana? (p.139). Como no solo sirven para mejorar el servicio proporcionado, estos datos constituyen un ?excedente de comportamiento?. Son la materia prima para producir, mediante procedimientos algor?tmicos, ?productos predictivos? cuyo valor proviene de anticipar el comportamiento futuro: la probabilidad de que un individuo haga clic en un anuncio, de tener un accidente de coche, etc. El ?capitalismo de la vigilancia? es, pues, el proceso que transforma nuestros comportamientos actuales en predicciones monetarias de nuestros comportamientos futuros.

El valor de mercado de los productos predictivos est? estrechamente relacionado con su grado de certeza. Para el comprador de estos productos, cuanto mayor sea la certeza, mas asegurado est? el beneficio. La garant?a de que un usuario haga clic en un anuncio es preferible a una alta probabilidad, que a su vez es preferible a una baja probabilidad, y as? sucesivamente. La l?gica de la acumulaci?n del ?capitalismo de la vigilancia? tiende as? a la b?squeda de la certeza. Pero la forma m?s segura de predecir el futuro es hacerlo modelando el comportamiento de los individuos. Imperceptiblemente, la fabricaci?n de ?productos predictivos? se transforma en dispositivos de modificaci?n de comportamiento, como en Pok?mon Go, donde los jugadores se ven obligados a ir a lugares espec?ficos. El destino del ?capitalismo de la vigilancia? es, por lo tanto, transformarse en un capitalismo de cambio de los comportamientos, mucho m?s all? de las fronteras de la econom?a digital.

Son estos dispositivos de manipulaci?n del comportamiento los que est?n en el coraz?n de la cr?tica de S. Zuboff, m?s que la ?vigilancia? en sentido estricto. Esta cr?tica se despliega con referencia a los valores fundamentales del liberalismo pol?tico: autonom?a individual y soberan?a democr?tica. La autora insiste en la forma en que el ?capitalismo de la vigilancia? pone en peligro las diversas conquistas asociadas con el surgimiento hist?rico del individuo: el respeto por la intimidad, la vida privada, pero tambi?n el libre albedr?o, la autodeterminaci?n y el derecho a decidir nuestro futuro. El ?capitalismo de la vigilancia? finalmente aparece como una nueva forma de ?tiran?a? (p.513), que anula la deliberaci?n pol?tica y destruye la autonom?a individual al manipular e instrumentalizar nuestro comportamiento.

La originalidad del libro es articular esta cr?tica, expuesta en los t?rminos cl?sicos del liberalismo, a la econom?a pol?tica expuesta anteriormente, o a un tipo de an?lisis generalmente m?s bien asociado con la cr?tica de la tradici?n marxista. La p?rdida de autonom?a individual y la erosi?n de la democracia se abordan as? como consecuencias de la l?gica de acumulaci?n caracter?stica del ?capitalismo de la vigilancia?. S. Zuboff, por otro lado, es m?s esquiva en cuanto a c?mo responder a estas amenazas, aunque est? a favor de que las leyes impidan ?la transformaci?n ileg?tima de la experiencia humana en datos de comportamiento? (344). El car?cter algo impreciso de sus recomendaciones se explica, me parece, por que escamotea dar una respuesta.

Un capitalismo como los dem?s

El an?lisis de Zuboff se centra casi exclusivamente en las relaciones entre las empresas del ?capitalismo de la vigilancia? y sus usuarios. Seg?n ella, no son ni consumidores (no pagan los servicios de Google o Facebook), ni trabajadores (?no hacen funcionar los medios de producci?n?, p?gina 69). Son fuentes de datos y objetivos para dispositivos de modificaci?n del comportamiento. En resumen, el ?capitalismo de la vigilancia? se basa en el despojo de la experiencia, no en la explotaci?n del trabajo.

Esta tesis explica por qu? las cuestiones relacionadas con el trabajo y el empleo est?n casi ausentes en el libro. Sin embargo, las empresas del ?capitalismo de la vigilancia? producen bienes y servicios que requieren mucho trabajo: el de sus empleados, obviamente, pero tambi?n todo un trabajo externalizado o asumido por los usuarios, desde la producci?n de los contenidos en l?nea en redes sociales hasta la puesta en pr?ctica de programas de inteligencia artificial [2]. De todo esto, hay poca menci?n en el libro, como tampoco se aborda la producci?n de mercanc?as incluida la de los ?productos predictivos? que est?n destinados en ?ltima instancia a garantizar el flujo. ?La existencia de una publicidad selectiva e individualizada, por mencionar solo este ejemplo, supone sin embargo la existencia previa de los productos que promueve!

Estas observaciones apuntan a una ambig?edad m?s fundamental, que se refiere al alcance exacto de la noci?n de ?capitalismo de la vigilancia?. ?Es este un subsector de la econom?a digital centrado en la extracci?n de datos? ?De la econom?a digital en su conjunto? ?De todo el capitalismo actual? El libro contiene argumentos en apoyo de cada una de estas propuestas. Sin embargo, la autora favorece la tercera, como lo demuestran las comparaciones recurrentes entre Google y Ford. As?, de la misma manera en que el fabricante de autom?viles habr?a inventado el capitalismo del siglo XX, ?capitalismo gerencial basado en el consumo masivo? (p.63), Google habr?a inventado el capitalismo del siglo XXI. ?sta ser?a una bifurcaci?n hist?rica importante que romper?a viejas formas de reciprocidad entre las empresas y los consumidores.

Esta tesis sobre el surgimiento de un ?nuevo capitalismo? est? fundamentada a duras penas. Uno de los defectos del libro es, de hecho, nunca cuestionar seriamente los intentos te?ricos, antiguos o m?s recientes, de periodizar la historia del capitalismo para distinguir sus diferentes variedades. Esta falta lleva a la autora a exagerar la novedad de los dispositivos que tienen como objetivo modificar comportamientos con fines comerciales. Las empresas han comprendido desde hace mucho tiempo que es esencial para ellas ganar cuota de mercado y garantizar la rentabilidad, manipular a las masas a trav?s de la publicidad o cualquier otro medio disponible. ?Basta con volver a leer los escritos de Edward Bernays, fundador de la industria moderna de relaciones p?blicas, para darse cuenta de que este proyecto ya exist?a en la d?cada de 1920 y que sus implicaciones para la autonom?a individual ya est?n perfectamente claras! En esa ?poca, E. Bernays describi? a los consumidores sujetos a la propaganda de las marcas como determinados ?por influencias externas que controlan [sus] pensamientos sin su conocimiento?. Son, seg?n ?l, ?movidos por un bot?n que alguien hubiera presionado? [3] …

Por lo tanto, parece m?s coherente abordar el ?capitalismo de la vigilancia? como una profundizaci?n de lo que ya exist?a que como una ruptura. Y si el problema fundamental radica en la tendencia de las empresas a querer alterar el comportamiento individual, ?la conclusi?n que se impone es que no es nada nuevo! El ?capitalismo de la vigilancia? no hace sino mejorar, gracias al big data y las herramientas algor?tmicas, una l?gica preexistente. El contenido normativo de la cr?tica de S. Zuboff deber?a, por lo tanto, conducir a una cr?tica m?s general del capitalismo. Esta cr?tica nunca llega. Obnubilada por su deseo de demostrar que el ?capitalismo de la vigilancia? es una perversi?n del capitalismo, Zuboff no ve que constituye m?s que nada su quintaesencia.

Los l?mites del ?conductismo radical?

Finalmente, uno puede preguntarse si la cr?tica propuesta en el trabajo no se confunde en gran medida de objetivo. En la tercera parte, el ?capitalismo de la vigilancia? se presenta como la puesta en pr?ctica de un ?conductismo radical? anteriormente defendido por el psic?logo B. F. Skinner, quien propuso modelar el comportamiento de las masas a trav?s de nuevas tecnolog?as conductuales. Seg?n S. Zuboff, este proyecto de ingenier?a social ahora est? reactivado por las nuevas posibilidades de configurar los datos del mundo. Bajo el nombre de ?f?sica social?, el investigador del MIT Alex Pentland se esfuerza por modelar, predecir y modificar el comportamiento humano. ?l cree, en efecto, que los datos de comportamiento ?cuentan una historia de nuestras vidas m?s precisa que cualquier otra cosa que podamos elegir revelar sobre nosotros mismos? (citado en 422) y pretende llegar a ?una explicaci?n matem?tica de las razones de por qu? la sociedad reacciona como lo hace?(citado en 434). Una de las compa??as que ha creado se jacta de ser capaz de ?explicar y predecir cualquier tipo de comportamiento humano? (citado en 425).

No hay duda de que este tipo de discurso ejerce una cierta fascinaci?n en Silicon Valley, pero ?es realmente necesario considerarlo, como lo hace S. Zuboff, una descripci?n exacta del ?capitalismo de la vigilancia?? Esto es olvidar que la econom?a digital es una econom?a de las promesas donde, para convencer a los inversores, es mejor prometer demasiado que quedarse corto. Es especialmente por dar a estos discursos un cr?dito que est?n lejos de merecer, por lo que su ingenuidad positivista solo puede afectar a aquellos con una cultura m?nima en ciencias humanas. S. Zuboff, sin embargo, valida las proclamaciones de A. Pentland, en la misma propuesta donde critica sus implicaciones sociales y pol?ticas. Ella tambi?n est? convencida de que el big data ofrece un amplio conocimiento del mundo social y que las empresas de la econom?a digital ?saben m?s sobre ti que t? mismo? (p.285) [4]. ]. Sostiene que B.F. Skinner y A. Pentland cuentan la verdad del ?capitalismo de la vigilancia? cuando simplemente est?n formulando ideolog?a.

Este malentendido explica el tono a menudo enf?tico del trabajo, as? como la idea muchas veces declarada de que la ?naturaleza humana? estar?a en peligro. La evaluaci?n de la efectividad real de las tecnolog?as de predicci?n y manipulaci?n probablemente inducir?a a un poco m?s de mesura. Esto llevar?a sobre todo a completar el an?lisis de Zuboff, o incluso a juzgar de manera diferente las principales amenazas planteadas por el ?capitalismo de la vigilancia?. M?s que el riesgo de una desaparici?n completa del individuo autodeterminado, ser?a necesario estudiar la precariedad del trabajo, los nuevos efectos de la estratificaci?n social [5] y las injusticias econ?micas propias de la situaci?n actual. Esto es lo que S. Zuboff no hace y lo que impide que The Age of Surveillance Capitalism, a pesar de sus tesis estimulantes, no consiga convencer por completo.

Notas:

[1] Entre los numerosos comentarios ya publicados en ingl?s se encuentran: Nicholas Carr, ?Thieves of Experience : How Google and Facebook Corrupted Capitalism?, Los Angeles Review of Books, 15 de enero de 2019; Evgeny Morozov, ? Capitalism?s New Clothes ?, The Baffler, 4 de febrero de 2019.

[2] Sobre este tema, v?ase Antonio A. Casilli, En attendant les robots, Paris, Seuil, 2019.

[3] Edward Bernays, Propaganda. Comment manipuler l?opinion en d?mocratie, La D?couverte, Paris, 2007, p. 62 et 68. En espa?ol: Edward Bernays, Propaganda. Melusina, Santa Cruz de Tenerife, 2008.

[4] Las obras de Antoinette Rouvroy, aunque tienen importantes similitudes con las de S. Zuboff, insisten precisamente en la forma en que el ?conductismo digital? nunca logra captar todo lo que constituye la vida de los individuos.

[5] Cf. Marion Fourcade y Kieran Healy, ?Classification Situations : Life-Chances in the Neoliberal Era?, Accounting, Organizations, and Society, vol. 38, p. 559?572.

S?bastien Broca Soci?logo, profesor de ciencias de la comunicaci?n en la Universidad Par?s 8. Autor de ‘Utopie du logiciel libre’ (Le passager clandestin, 2013).
Fuente:
https://laviedesidees.fr/Surveiller-et-predire.html#nb5
Traducci?n: Ana Jorge