"Indifferenza radicale": come il capitalismo della sorveglianza ha conquistato le nostre vite

Quando Shoshana Zuboff mi richiama con 15 minuti di ritardo, è perché la sua precedente chiamata con un'organizzazione in Israele è caduta a metà e ci hanno messo un po' a riconnettersi. Questo è il pericolo di funzionare in quarantena, anche se le aziende tecnologiche esercitano più potere che mai.

Invece di avere tempo durante l'estate per riflettere e pianificare il suo prossimo libro come aveva previsto, Zuboff è stata molto impegnata con persone che volevano parlare con lei e fare Eventi virtuali. È uno dei motivi per cui negli ultimi quattro mesi abbiamo cercato di programmare una chiamata, solo per vedere la data ripetutamente posticipata.

Mentre parliamo al telefono, gli uccelli cinguettano in sottofondo, parte dell'atmosfera della casa di campagna di Zuboff. Dice di essere fortunata a essere lì, date le sfide che i suoi amici devono affrontare per bilanciare il COVID-19 e la vita in città. Gli uccelli battono il tintinnio distopico dei camioncini dei gelati mentre vagano per New York City, alla ricerca di clienti in mezzo a una pandemia.

"La vita in pandemia richiede davvero tanto tempo", dice. "Tra capire come fare la spesa e tutto il resto, è davvero faticoso".

Vedi anche:Nella sfida Trump contro Twitter, la tecnologia decentralizzata potrebbe WIN

Zuboff è l'autore diF "The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power" e il Charles Edward Wilson Professor Emerita alla Harvard Business School. Zuboff afferma che il libro (che è lungo 660 pagine) "sintetizza anni di ricerca e riflessione per rivelare un mondo in cui gli utenti Tecnologie non sono né clienti, né dipendenti, né prodotti. Invece sono la materia prima per nuove procedure di produzione e vendita che definiscono un ordine economico completamente nuovo: un'economia di sorveglianza".

Zuboff e io parliamo del quadro del capitalismo della sorveglianza. Ma sono ansioso di sentire le sue opinioni sulle proteste in tumulto negli Stati Uniti e sul presidente Donald Trumpordine esecutivo sulla Sezione 230, una legge che garantisce alle aziende di social media l'immunità dalla responsabilità per i contenuti, con cui il presidente ha sollevato obiezioni. Sembra un buon momento per riflettere sul contesto che Internet dà a questi Eventi e su chi lo controlla.

Questa conversazione è stata modificata per motivi di lunghezza e chiarezza.

Descrivi il capitalismo della sorveglianza e cosa significa per chi non lo conosce.

Il capitalismo di sorveglianza è stato inventato da Google tra il 2000 e il 2001 come risposta all'emergenza finanziaria durante il crollo delle dot-com. Erano i ragazzi più intelligenti con il miglior motore di ricerca e gli investitori di capitale di rischio più eleganti. Ma anche loro sono finiti sotto tiro con i loro investitori che minacciavano di ritirarsi. A quel tempo decisero che dovevano trovare una scorciatoia per la monetizzazione, e questa doveva essere attraverso la pubblicità, che avevano precedentemente rifiutato.

Hanno scoperto che i dati comportamentali rimanenti sui loro server, chiamati data Exhaust, erano in realtà pieni di ricchi segnali predittivi. E quei segnali predittivi giacevano semplicemente inutilizzati, più di quanto fosse necessario per il miglioramento del prodotto o del servizio. Chiamo questi dati comportamentali "surplus". È stato allenando le loro capacità analitiche già altamente sofisticate su questi flussi in surplus ed estraendo quei segnali predittivi, mentre li usavano per l'analisi, che hanno scoperto di poter prevedere su quale tipo di annuncio qualcuno avrebbe probabilmente cliccato e se avrebbe cliccato per arrivare al sito web. Questo è diventato ciò che ora conosciamo come "tasso di clic".

Il tasso di clic è un prodotto computazionale che prevede un frammento del comportamento Human . Si è scoperto che esisteva un mercato molto consistente di clienti aziendali che volevano sapere cosa avrebbero fatto i clienti, che volevano previsioni comportamentali del comportamento dei clienti e degli utenti.

Così gli inserzionisti e i loro clienti hanno rinunciato alla tradizionale relazione tra un prodotto e il suo annuncio, in cui un'azienda decide dove posizionare i suoi annunci in base all'allineamento con i valori del suo marchio. Anche i primi anni di pubblicità online mantengono questa continuità. Ma Google ha fatto loro un'offerta che T potevano rifiutare e hanno accettato dopo un bel BIT' di dibattiti e conflitti. Hanno accettato di acquistare il prodotto senza chiedere di vedere cosa c'era dentro la scatola nera di Google e hanno lasciato che le macchine decidessero dove mettere gli annunci.

Come può questo modello espandersi fino a comprendere quasi tutta Internet?

Questo non è solo un incidente accaduto a Google. Questa è una logica economica che ha avuto così tanto successo a Google che nel giro di pochi anni è diventata il modello predefinito in tutto il settore tecnologico e poi si è diffusa nell'economia normale ed è diventata la logica economica dominante ai nostri tempi.

Tra il 2001, quando questa logica ha iniziato a essere applicata sistematicamente, e il 2004, quando Google è diventata pubblica (la prima volta che abbiamo potuto vedere i loro numeri), i loro ricavi sono aumentati del 3.590%. Quell'aumento esponenziale rappresenta quello che chiamo il dividendo della sorveglianza. A quel punto, avevano decifrato il codice e molte aziende hanno trovato una via per la monetizzazione. Ora tutti, dal produttore della tua TV alla Ford Motor Company, hanno iniziato a dire "al diavolo il prodotto, vogliamo i dati". Tutti in ogni settore stanno inseguendo il dividendo della sorveglianza.

C'è una storia sui giovani di punta di Google seduti in un ufficio nel 2001, che cercavano di rispondere alla domanda: "Cos'è Google?" E nessuno aveva un modo convincente per rispondere a questa domanda. Larry Page alla fine iniziò a condividere le cose e quello che disse fu che se Google avesse avuto un'attività, sarebbe stata un'informazione personale. Le persone produrranno così tanti dati. Ci saranno telecamere e sensori economici ovunque. Ci saranno così tanti dati sulla vita delle persone che tutta l'esperienza Human sarà ricercabile e indicizzabile. Aveva la visione che le informazioni personali fossero il gioco. Il capitalismo della sorveglianza è una logica economica fondata sul furto unilaterale e Secret dell'esperienza privata come fonte illimitata di materia prima gratuita, e quella materia prima gratuita diventa l'asset a costo zero [il che significa che, dopo i costi di installazione, è gratuita da produrre]. Può essere tradotto in dati comportamentali. Quei dati comportamentali sono ora dichiarati proprietari e vengono raccolti in nuovi complessi ecosistemi della supply chain.

Questo è l'arco che sta percorrendo il capitalismo della sorveglianza: non solo conoscere tutto e usarlo per fare previsioni, ma anche per attuare il comportamento Human .

Tutto alimenta la catena di fornitura. Non solo ciò che fai online, ma tutto ciò che è sul tuo telefono, tutte le app sul tuo telefono e, come previsto da Page, tutte le telecamere e i sensori raccolgono dati. Tutti i dati comportamentali sono ora dichiarati proprietari e confluiscono in ecosistemi complessi prima di essere trasmessi alle fabbriche computazionali del capitalismo della sorveglianza, chiamate intelligenza artificiale. L'[output] sono prodotti computazionali che prevedono il comportamento Human e che vengono venduti nei Mercati, proprio come abbiamo Mercati per i futures sulla pancetta di maiale o i futures sul petrolio.

Cosa significa questo per la vita quotidiana delle persone?

I Mercati dei futures Human hanno dinamiche competitive. Ciò su cui attori e venditori in questi Mercati competono è la certezza. Stanno vendendo certezza ai loro clienti e le previsioni migliori WIN. Abbiamo avuto qualche spunto su questi hub di fabbrica un paio di anni fa con un documento di Facebook trapelato nel 2018. Il documento ha rivelato che nell'hub AI di Facebook, ogni giorno vengono ingeriti trilioni di punti dati e ogni secondo vengono prodotte 6 milioni di previsioni di comportamento. Quindi questo è il tipo di scala di cui stiamo parlando. Quando pensiamo alla concorrenza in questi Mercati di previsione, e in un certo senso decostruiamo quella concorrenza, iniziamo a vedere molto chiaramente gli imperativi economici all'opera qui.

Il ONE è la scala. Affinché l'IA sia efficace nel produrre previsioni, ha bisogno di molti dati. Il ONE è la portata. Oltre al volume, hai bisogno di varietà. Ciò implica far uscire le persone dal loro desktop, dal loro laptop e farle uscire nel mondo e farle muovere in casa, nelle loro auto, attraverso le loro città. Date loro un piccolo computer, possono portarselo in tasca e ci dirà tutto quello che stanno facendo. Lo chiameremo telefono. Queste sono economie di portata.

La Da scoprire finale è stata che i migliori dati predittivi derivano dall'intervento digitale nel comportamento delle persone e dall'apprendimento di come sintonizzare e guidare il loro comportamento nella direzione che massimizza la forza delle loro previsioni e quindi massimizza i risultati dei clienti. Questa è diventata una nuova area di sperimentazione. La scala di estrazione è enorme, ma concettualmente semplice. La portata è enorme ma ha richiesto molta invenzione. Facebook, ad esempio, sta ora lavorando su come tradurre onde cerebrali in linguaggio.

Come modifichiamo effettivamente il comportamento nella direzione che ottimizza i flussi di entrate? Non è così semplice. Questa è una nuova zona di sperimentazione e quindi le aziende si sono messe al lavoro per sperimentarla. Cose come gli esperimenti di contagio su larga scala di Facebook e cose come Pokemon Go di Google, il gioco di realtà aumentata che ha sperimentato come radunare le persone attraverso le loro città, paesi e villaggi verso gli stabilimenti che pagavano Niantic Labs, che ha creato Pokemon Go e che è stato scorporato da Google, per un traffico garantito. Questa è esattamente la stessa struttura dei Mercati del mercato pubblicitario online che pagano per il tasso di clic e ora hai uno stabilimento del mondo reale che paga per un traffico garantito.

Vedi anche:Perché la "guerra culturale" di Bitcoin è importante

Questo è ciò che gli scienziati dei dati chiamano il passaggio dal monitoraggio all'attuazione. È quando hai effettivamente abbastanza conoscenza di un sistema macchina per poterlo controllare da remoto e automatizzarlo. Puoi cambiare i parametri o fare tutto ciò che devi fare da remoto perché ora hai così tante informazioni sul sistema che monitora l'attuazione. Questo è l'arco che sta percorrendo il capitalismo della sorveglianza: non solo per sapere tutto e usarlo per la previsione, ma per attuare il comportamento Human , il comportamento sociale e il comportamento individuale per guidare il comportamento nella direzione ottimale per i ricavi.

Lo vediamo inmicro targeting psicologico. Lo vediamo nell'uso in tempo reale di premi e punizioni, forniti tramite il tuo telefono. Lo vediamo attraverso l'importazione della gamification per indirizzare le persone nella direzione che soddisfa i risultati commerciali. Pokemon Go ne è stato un esempio. Il punto è che quando le persone pensano a questi problemi, pensano solo a pubblicità mirate. Pensano che si tratti solo di pubblicità. Non lo è più. Si tratta della tua compagnia assicurativa che ti premia e ti punisce in tempo reale per la quantità di pressione che il tuo piede esercita sul pedale GAS . In tempo reale può aumentare o diminuire i tuoi premi in base al tuo comportamento immediato.

Quindi qual è il gioco finale in questo scenario? Fai riferimento alla precedente sperimentazione di Sidewalk Lab con Toronto come "città intelligente" che scambia dati per ogni sorta di privilegio. Come si presenta?

Un simile esperimento sostituisce le decisioni che i cittadini prendono su come vogliono vivere insieme, che sono i mattoni di ogni democrazia. Il cittadino non ha altro ruolo se non quello di essere parte di questo sistema più ampio. E queste aziende affermano che se accetti di fornirci tutti i tuoi dati e di rendere la tua vita completamente accessibile a noi in ogni modo, allora sarai idoneo per tutti questi fantastici nuovi servizi.

Se scegli la Privacy e l'anonimato, però, sarai escluso dalle offerte di servizi. T potrai usufruire dei nuovi sistemi di trasporto o dei nuovi sistemi di sicurezza o dei sistemi di consegna del cibo. Queste sono le ricompense e le punizioni in tempo reale in azione. Googleha parlato diutilizzando i dati per costruire punteggi di reputazione. Le persone e le aziende che si comportano all'interno dei parametri algoritmici ottengono punteggi di reputazione più elevati e questo li privilegia quando si tratta di prestiti bancari o altri tipi di servizi. Le persone che violano i parametri algoritmici vengono punite perché vengono escluse da questo tipo di relazioni e servizi e T possono progredire nella loro vita perché sono escluse.

Vedi anche:Decentramento e cosa significa realmente la Sezione 230 per la libertà di parola

Questa è una visione di un futuro: una corporazione privata con un potere non responsabile. È un futuro in cui T abbiamo la grande democratizzazione dell'informazione che ci aspettavamo nel secolo digitale, ma esattamente il contrario. Torniamo a un modello feudale con queste enormi concentrazioni di conoscenza e questo nuovo tipo di potere.

Questo potere non è soldati che vengono a casa tua nel cuore della notte e ti portano via al gulag. Questa non è violenza, terrore e omicidio. Questo è un potere che opera da remoto attraverso l'ambiente della strumentazione digitale. Per chiunque pensi che tali sistemi siano solo l'argomento degli episodi di "Black Mirror", andate a leggere la storia del XX secolo, dove ci è voluta l'intera alleanza occidentale per combattere un altro tipo di potere totalizzante che voleva il controllo totale sugli individui e sulla società, ovvero il totalitarismo. Questo è diverso perché tende a presentarsi con un cappuccino piuttosto che con una pistola.

L'indifferenza radicale consiste nel massimizzare i flussi di dati, non perché queste persone siano malvagie, ma perché questa è la costrizione di questa logica economica.

In che modo l’ordine esecutivo di Trump che attacca la Sezione 230, che assolve le aziende dalla responsabilità civile per i contenuti online, potrebbe avere un impatto su questo, se lo ha?

La disinformazione è una conseguenza di routine della logica economica che abbiamo appena discusso. È una conseguenza degli imperativi delle economie di scala e delle economie di scopo. Tutti i sistemi sono stati progettati fin dall'inizio per massimizzare i flussi della supply chain. Nel linguaggio eufemistico dei capitalisti della sorveglianza, è coinvolgimento. Non c'è spazio in questa logica economica per giudicare la qualità della fornitura. T importa. La scala conta. L'ambito conta. L'attuazione che ci consente di aumentare l'accuratezza della previsione conta. Tutto qui.

Questo è ciò che chiamo indifferenza radicale. T ci interessa se sei felice o triste. Ci interessa solo che possiamo ottenere i dati. T ci interessa se hai il cancro, se ti sposi o se stai pianificando un attacco terroristico, ci interessa solo che possiamo ottenere i dati. L'indifferenza radicale riguarda la massimizzazione dei flussi di dati, non perché queste siano persone malvagie, ma perché questa è la costrizione di questa logica economica. Finché non interrompiamo e mettiamo fuori legge questa logica economica, avremo disinformazione.

La natura dell'essere Human è che se stai guidando lungo una strada e c'è un incidente d'auto, ti fermerai e guarderai. Se stai guidando lungo una strada e c'è un bellissimo salice, KEEP a guidare. Si scopre che i contenuti violenti, polemici, odiosi, che istigano alla rivolta e mendaci spingono le persone a fermarsi e guardare. Questo è l'incidente d'auto.

Poiché i sistemi sono progettati per massimizzare l'offerta, e poiché le persone si fermano a guardare gli incidenti d'auto, ciò consente eserciti di bot e troll. Questo è il signor Trump.

La Sezione 230 non aveva modo di anticipare il capitalismo della sorveglianza. Non c'è alcun incentivo a eliminare le cose cattive e incentivi enormi per KEEP piene le catene di fornitura. Si scopre che Internet non è una bacheca, come avevano immaginato i creatori della Sezione 230. Internet è più simile al flusso sanguigno del corpo politico globale. Grazie agli imperativi economici del capitalismo della sorveglianza, le persone che possiedono e gestiscono Internet sono incentivate a consentire a chiunque di mettere qualsiasi tipo di veleno nel flusso sanguigno senza un antidoto. Ecco dove siamo oggi.

Quindi la Sezione 230 ha bisogno di essere esaminata? Sì, ma ha bisogno di essere esaminata come parte di una discussione più ampia sui quadri legislativi, i paradigmi normativi, le carte dei diritti o le istituzioni di cui abbiamo bisogno per rendere Internet compatibile con la democrazia.

Questo è il terzo decennio del secolo digitale. Dobbiamo capirlo. Il signor Trump sta arrivando e sta puntando l'attenzione sulla Sezione 230, che ONE potrebbe pensare fosse una buona cosa, ma ora abbiamo il secondo colpo di frusta. Quel colpo di frusta è che il signor Trump sta lottando per il diritto di mettere veleno a piacimento nel flusso sanguigno globale. Sta lottando per il diritto di mentire. Sta lottando per il diritto di mettere informazioni controfattuali nel corpo politico.

Dobbiamo costruire uno stato di diritto compatibile con la democrazia che affronti queste questioni CORE del capitalismo della sorveglianza e di chi possiede e gestisce Internet. Dobbiamo farlo in modo da rendere Internet sicuro per la verità. Non sicuro per le bugie. Ci sono aree in cui c'è Opinioni ma ci sono aree in cui ci sono fatti. Ora abbiamo un flusso sanguigno globale in cui non c'è alcuna operazione istituzionale che rientri nella protezione e nella supervisione democratica. Ciò ha reso le nostre democrazie insostenibili.