'Indiferencia radical': cómo el capitalismo de vigilancia conquistó nuestras vidas

Cuando Shoshana Zuboff me devuelve la llamada con 15 minutos de retraso, es porque su llamada anterior con una organización en Israel se cortó a mitad de la llamada y tardaron un rato en reconectarse. Ese es el peligro de funcionar en cuarentena, incluso cuando las empresas tecnológicas ejercen más poder que nunca.

En lugar de tener tiempo durante el verano para reflexionar y planificar su próximo libro como pretendía, Zuboff ha estado muy ocupada con gente que quiere hablar con ella y participar en Eventos virtuales. Es en parte la razón por la que durante los últimos cuatro meses hemos intentado programar una llamada, pero la fecha se ha pospuesto repetidamente.

El canto de los pájaros se escucha de fondo mientras hablamos por teléfono, parte del ambiente de la casa de campo de Zuboff. Dice que tiene suerte de estar allí, considerando los desafíos que enfrentan sus amigos al compaginar la COVID-19 con la vida en las ciudades. Los pájaros acompañan el tintineo distópico de los camiones de helados mientras recorren la ciudad de Nueva York en busca de clientes en medio de la pandemia.

“La vida en pandemia requiere muchísimo tiempo”, dice. “Entre encontrar la manera de comprar comida y todo lo demás, es un trabajo arduo”.

Ver también:En Trump versus Twitter, la tecnología descentralizada podría WIN

Zuboff es el autor def "La era del capitalismo de vigilancia: La lucha por un futuro Human en la nueva frontera del poder", y la profesora emérita Charles Edward Wilson de la Escuela de Negocios de Harvard. Zuboff afirma que el libro (de 660 páginas) "sintetiza años de investigación y reflexión para revelar un mundo en el que los usuarios de la Tecnología no son clientes, empleados ni productos. En cambio, son la materia prima de nuevos procedimientos de fabricación y venta que definen un orden económico completamente nuevo: una economía de vigilancia".

Zuboff y yo hablamos sobre el marco del capitalismo de vigilancia. Pero me interesa mucho escuchar su opinión sobre las protestas en Estados Unidos y la postura del presidente Donald Trump.Orden ejecutiva sobre la Sección 230Una ley que otorga a las empresas de redes sociales inmunidad ante la responsabilidad por el contenido, con la que el presidente ha mostrado su desacuerdo. Parece un buen momento para reflexionar sobre el contexto que internet da a estos Eventos y quién lo controla.

Esta conversación ha sido editada para mayor brevedad y claridad.

Describe el capitalismo de vigilancia y lo que eso significa para las personas que podrían no estar familiarizadas con él.

El capitalismo de vigilancia se inventó en Google entre 2000 y 2001 como respuesta a la crisis financiera durante la crisis de las puntocom. Eran los más inteligentes, con el mejor motor de búsqueda y los inversores de capital riesgo más ostentosos. Pero incluso ellos se vieron presionados, pues sus inversores amenazaban con retirarse. En ese momento, decidieron que debían encontrar una vía rápida para la monetización, y esta tendría que ser a través de la publicidad, opción que habían rechazado previamente.

Descubrieron que los datos de comportamiento sobrantes en sus servidores, llamados datos de escape, estaban llenos de valiosas señales predictivas. Y esas señales predictivas simplemente estaban sin usar, más de lo necesario para mejorar productos o servicios. A estos datos los llamo "excedentes" de comportamiento. Al entrenar sus ya sofisticadas capacidades analíticas con estos flujos excedentes y extraer esas señales predictivas, utilizándolas para el análisis, descubrieron que podían predecir en qué tipo de anuncio es probable que alguien haga clic y si accederá al sitio web. Esto se convirtió en lo que ahora conocemos como "tasa de clics".

La tasa de clics es un producto computacional que predice un fragmento del comportamiento Human . Resultó que existía un mercado muy importante de clientes empresariales que deseaban saber qué harían los clientes y obtener predicciones del comportamiento de los clientes y usuarios.

Así, los anunciantes y sus clientes abandonaron la relación tradicional entre un producto y su anuncio, donde una empresa decide dónde colocar sus anuncios según su alineamiento con los valores de su marca. Incluso los primeros años de la publicidad online mantuvieron esa continuidad. Pero Google les hizo una oferta T , y la aceptaron tras BIT debate y conflicto. Accedieron a comprar el producto sin preguntar qué contenía la caja negra de Google y dejaron que las máquinas decidieran dónde colocar los anuncios.

¿Cómo se expande este modelo para abarcar casi toda Internet?

Esto no es solo un accidente ocurrido en Google. Es una lógica económica que tuvo tanto éxito en Google que, en tan solo unos años, se convirtió en el modelo por defecto en todo el sector tecnológico y luego se extendió a la economía convencional, convirtiéndose en la lógica económica dominante en nuestra época.

Entre 2001, cuando esta lógica empezó a aplicarse sistemáticamente, y 2004, cuando Google salió a bolsa (la primera vez que pudimos ver sus cifras), sus ingresos aumentaron un 3590 %. Ese aumento exponencial representa lo que yo llamo el dividendo de la vigilancia. En ese momento, habían descifrado el código y muchas empresas encontraron una vía para la monetización. Ahora, todo el mundo, desde el fabricante de televisores hasta Ford Motor Company, empezó a decir: «Al diablo con el producto, queremos los datos». Todos, en todos los sectores, buscan el dividendo de la vigilancia.

Hay una historia sobre los jóvenes más destacados de Google, sentados en una oficina en 2001, intentando responder a la pregunta: "¿Qué es Google?". Y nadie tenía una respuesta convincente. Larry Page finalmente comenzó a compartir información y dijo que si Google tuviera un negocio, sería información personal. La gente va a producir muchísimos datos. Habrá cámaras y sensores baratos por todas partes. Habrá tantos datos sobre la vida de las personas que toda la experiencia Human será buscable e indexable. Él tenía la visión de que la información personal era la clave. El capitalismo de vigilancia es una lógica económica basada en el robo unilateral y Secret de la experiencia privada como fuente ilimitada de materia prima gratuita, y esa materia prima gratuita se convierte en un activo de coste cero [lo que significa que, tras los costes de instalación, su producción es gratuita]. Puede traducirse en datos de comportamiento. Esos datos de comportamiento ahora se reclaman como propiedad exclusiva y se recopilan en nuevos y complejos ecosistemas de cadena de suministro.

Éste es el arco que está recorriendo el capitalismo de vigilancia: no sólo para saberlo todo y usarlo para hacer predicciones, sino para accionar el comportamiento Human .

Todo alimenta la cadena de suministro. No solo lo que haces en línea, sino todo lo que haces en tu teléfono, todas las aplicaciones y, como predijo Page, todas las cámaras y sensores recopilan datos. Todos los datos de comportamiento se consideran ahora propiedad exclusiva y fluyen hacia ecosistemas complejos antes de ser transmitidos a las fábricas computacionales del capitalismo de la vigilancia, llamadas inteligencia artificial. El resultado son productos computacionales que predicen el comportamiento Human y que se venden en los Mercados, al igual que existen Mercados para futuros de panceta de cerdo o futuros de petróleo.

¿Qué significa esto para la vida diaria de las personas?

Los Mercados de futuros Human tienen una dinámica competitiva. Los actores y vendedores de estos Mercados compiten por la certeza. Venden certeza a sus clientes y las mejores predicciones WIN. Hace un par de años, obtuvimos información sobre estos centros de fabricación con... documento filtrado de Facebook en 2018El documento reveló que, en el centro de inteligencia artificial de Facebook, se procesan billones de datos a diario y se generan 6 millones de predicciones de comportamiento cada segundo. Así que esta es la escala de la que hablamos. Al analizar la competencia en estos Mercados de predicción y analizarla en detalle, se empiezan a ver con mucha claridad los imperativos económicos en juego.

El ONE es la escala. Para que la IA sea eficaz en la producción de predicciones, necesita una gran cantidad de datos. El ONE es el alcance. Además del volumen, se necesita variedad. Esto implica sacar a la gente de su ordenador, de su portátil, y salir al mundo, movilizándolos por sus casas, coches y ciudades. Si les damos una pequeña computadora, que puedan llevar en el bolsillo, nos dirá todo lo que hacen. Lo llamaremos teléfono. Esas son economías de alcance.

El Explora final fue que los mejores datos predictivos provienen de la intervención digital en el comportamiento de las personas y del aprendizaje de cómo ajustar y guiar su comportamiento en la dirección que maximiza la solidez de sus predicciones y, por lo tanto, los resultados para los clientes. Esto se convirtió en una nueva área de experimentación. La escala de extracción es enorme, pero conceptualmente sencilla. El alcance es enorme, pero ha requerido mucha innovación. Facebook, por ejemplo, ahora está trabajando en cómo traducir ondas cerebrales en lenguaje.

¿Cómo modificamos realmente el comportamiento para optimizar los flujos de ingresos? No es tan sencillo. Se trata de un nuevo campo de experimentación, y por eso las empresas se pusieron manos a la obra. Ejemplos de ello son los experimentos de contagio masivo de Facebook y Pokémon Go de Google, el juego de realidad aumentada que experimentó cómo conducir a la gente por sus ciudades, pueblos y aldeas hacia establecimientos que pagaban a Niantic Labs, creador de Pokémon Go y una escisión de Google, por visitas garantizadas. Esta es exactamente la misma estructura que la de los Mercados publicitarios online, que pagan por la tasa de clics, y ahora tenemos un establecimiento real que paga por visitas garantizadas.

Ver también:Por qué es importante la «guerra cultural» de Bitcoin

Esto es lo que los científicos de datos llaman la transición de la monitorización a la actuación. Es entonces cuando se posee suficiente conocimiento sobre un sistema de máquina para poder controlarlo remotamente y automatizarlo. Se pueden modificar los parámetros o hacer lo que se necesite remotamente gracias a la gran cantidad de información disponible sobre el sistema que monitoriza la actuación. Este es el camino que recorre el capitalismo de vigilancia: no solo para saberlo todo y usarlo para predecir, sino para actuar sobre el comportamiento Human , social e individual, con el fin de orientarlo hacia la dirección óptima para obtener ingresos.

Vemos esto enmicrosegmentación basada en la psicologíaVemos esto en el uso de recompensas y castigos en tiempo real, que se entregan a través del teléfono. Lo vemos a través de la gamificación para guiar a las personas hacia la dirección que satisface los resultados comerciales. Pokémon Go fue un ejemplo de ello. La cuestión es que cuando la gente piensa en estos temas, solo piensa en anuncios dirigidos. Creen que se trata solo de publicidad. Ya no lo es. Se trata de que tu compañía de seguros te recompensa y castiga en tiempo real según la presión que ejerces sobre el GAS . En tiempo real, puede aumentar o disminuir tus primas según tu comportamiento inmediato.

¿Cuál es el objetivo final en este escenario? Haces referencia a la experimentación previa de Sidewalk Lab con Toronto como una "ciudad inteligente" que intercambia datos a cambio de todo tipo de privilegios. ¿Cómo se ve eso?

Este experimento reemplaza las decisiones que los ciudadanos toman sobre cómo quieren vivir juntos, que son los pilares de toda democracia. El ciudadano no tiene otro papel que el de formar parte de este sistema más amplio. Y estas empresas afirman que si aceptas compartir todos tus datos y hacer que tu vida sea completamente accesible para nosotros, podrás acceder a todos estos nuevos y geniales servicios.

Sin embargo, si elige la Privacidad y el anonimato, quedará excluido de los servicios ofrecidos. No podrá aprovechar los nuevos sistemas de transporte, seguridad ni entrega de alimentos. Estas son las recompensas y los castigos en tiempo real. GoogleHabló sobreUtilizando datos para construir puntuaciones de reputación. Las personas y empresas que se comportan dentro de los parámetros algorítmicos obtienen puntuaciones de reputación más altas, lo que les da privilegios al obtener préstamos bancarios u otros servicios. Quienes violan los parámetros algorítmicos son castigados, ya que se les excluye de este tipo de relaciones y servicios, y no pueden progresar en sus vidas por esta exclusión.

Ver también:La descentralización y lo que realmente significa la Sección 230 para la libertad de expresión

Esta es una visión de futuro: una corporación privada con poder irresponsable. Es un futuro donde no tenemos la gran democratización de la información que esperábamos en el siglo digital, sino todo lo contrario. Regresamos a un patrón feudal con estas enormes concentraciones de conocimiento y este nuevo tipo de poder.

Este poder no consiste en soldados que llegan a tu casa en plena noche y te llevan al gulag. No se trata de violencia, terror ni asesinato. Es un poder que opera a distancia mediante instrumentación digital. Para quien piense que estos sistemas solo son tema de episodios de "Black Mirror", lea la historia del siglo XX, donde se necesitó toda la alianza occidental para luchar contra otro tipo de poder totalizador que buscaba el control absoluto sobre los individuos y la sociedad: el totalitarismo. Este es diferente porque suele venir con un capuchino en lugar de una pistola.

La indiferencia radical consiste en maximizar los flujos de datos, no porque se trate de gente mala, sino porque esa es la compulsión de esta lógica económica.

¿Qué impacto podría tener en esto, si es que lo tiene, la orden ejecutiva de Trump que ataca la Sección 230 (que absuelve a las empresas de responsabilidad civil por el contenido en línea)?

La desinformación es una consecuencia rutinaria de la lógica económica que acabamos de analizar. Es consecuencia de los imperativos de las economías de escala y de alcance. Todos los sistemas han sido diseñados desde el principio para maximizar los flujos de la cadena de suministro. En el lenguaje eufemístico de los capitalistas de la vigilancia, es compromiso. En esta lógica económica no hay margen para juzgar la calidad del suministro. No importa. La escala importa. El alcance importa. La actuación que nos permite aumentar la precisión de las predicciones importa. Eso es todo.

Esto es lo que yo llamo indiferencia radical. No nos importa si estás feliz o triste. Solo nos importa obtener los datos. No nos importa si tienes cáncer, si te casas o si planeas un ataque terrorista; solo nos importa obtener los datos. La indiferencia radical consiste en maximizar el flujo de datos, no porque sean personas malvadas, sino porque esta es la compulsión de esta lógica económica. Hasta que interrumpamos y prohíbamos esa lógica económica, tendremos desinformación.

La naturaleza Human es que, si vas conduciendo por una carretera y hay un accidente de coche, te paras a mirar. Si vas conduciendo por la carretera y ves un hermoso sauce, KEEP conduciendo. Resulta que el contenido violento, polémico, odioso, provocador y mentiroso hace que la gente se detenga a mirar. Ese es el accidente de coche.

Dado que los sistemas están diseñados para maximizar la oferta, y dado que la gente se detiene a observar los accidentes de tráfico, se habilitan ejércitos de bots y trolls. Ese es el Sr. Trump.

La Sección 230 no tenía forma de anticipar el capitalismo de vigilancia. No hay incentivos para eliminar elementos dañinos, pero sí enormes incentivos para KEEP las cadenas de suministro llenas. Resulta que internet no es un tablón de anuncios, como imaginaron los creadores de la Sección 230. Internet es más bien el torrente sanguíneo del cuerpo político global. Gracias a los imperativos económicos del capitalismo de vigilancia, quienes poseen y operan internet están incentivados a permitir que cualquiera administre cualquier tipo de veneno sin antídoto. En eso estamos hoy.

¿Es necesario entonces analizar la Sección 230? Sí, pero debe analizarse en el marco de un debate más amplio sobre los marcos legislativos, los paradigmas regulatorios, las cartas de derechos o las instituciones necesarias para que internet sea compatible con la democracia.

Esta es la tercera década del siglo digital. Tenemos que resolver esto. El Sr. Trump está llegando y llamando la atención sobre la Sección 230, que ONE parecer buena, pero ahora tenemos el segundo latigazo. Ese latigazo es que el Sr. Trump lucha por el derecho a inyectar veneno a voluntad en el torrente sanguíneo mundial. Lucha por el derecho a mentir. Lucha por el derecho a introducir información contrafáctica en el cuerpo político.

Necesitamos construir un Estado de derecho compatible con la democracia que aborde estas cuestiones CORE del capitalismo de vigilancia y quién posee y opera internet. Necesitamos hacerlo para que internet sea un lugar seguro para la verdad, no para las mentiras. Hay ámbitos donde hay Opinión , pero hay ámbitos donde hay hechos. Actualmente, tenemos un flujo sanguíneo global en el que ninguna operación institucional está sujeta a la protección y supervisión democráticas. Esto ha vuelto insostenibles nuestras democracias.