A vida algorítmica não vale a pena ser vivida

É a Semana da Política de Privacidade aqui na CoinDesk e temos mergulhado em uma variedade de ângulos tecnológicos e legais sobre as consequências da vigilância digital. A ansiedade sobre o aumento da espionagem onipresente pode muitas vezes parecer uma questão de princípio acadêmico ou uma série de advertências sobre casos extremos importantes, mas incomuns: o cônjuge espancado sendo perseguido por malware, o dissidente rastreado e assassinado por um governo, o consumidor com informações legais mas gostos socialmente marginalizados . Estes cenários de comprometimento da Política de Privacidade têm sérias implicações, é claro, para aqueles que são vítimas e para cada um de nós.

Mas o uso mais difundido da vigilância digital pode parecer muito mais mundano do que estes exemplos de manchetes, embora seja potencialmente muito mais insidioso.

Este artigo faz parte da série Política de Privacidade Week da CoinDesk .

A segmentação algorítmica de conteúdo é a base de empresas de informação onipresentes, como Google e Facebook, e afeta você a cada momento que você está online. Pode torná-lo menos informado, menos único, menos atencioso e menos interessante, de forma tão sutil que você T percebe.

A pesquisadora de Harvard, Shoshana Zuboff, descreve o impacto da segmentação algorítmica como “a privatização da divisão da aprendizagem”. Cada vez mais entregamos nossas decisões sobre tudo a softwares de reconhecimento de padrões, argumenta ela. Orienta as nossas interações com as redes sociais, sites de encontros, motores de busca, publicidade programática e feeds de conteúdo – e baseia-se quase inteiramente em modelos de comportamento Human passado. Na sua raiz estrutural, é hostil à novidade, à inovação e à independência. E os seus pioneiros beneficiaram enormemente com isso – de acordo com Zuboff, o Google tem agora uma “concentração histórica mundial de conhecimento e poder”.

Tenho um nome um pouco mais rápido para isso do que Zuboff: Loop Algorítmico. Como a maioria dos loops, é fácil ficar preso porque ele coleta nossas preferências e depois usa esses dados para nos KEEP presos – e assumir o controle. Claro que ele nos mostra datas em potencial, títulos de filmes ou sinopses de notícias nas quais provavelmente clicaremos. Mas essas sugestões, por sua vez, moldam o nosso desejo pela próxima coisa que consumiremos.

O ciclo algorítmico, em suma, T apenas prevê os nossos gostos, atitudes e crenças, mas também os cria. E porque os molda com base apenas naquilo que já sabe e pode compreender, está a tornar-nos menos criativos e menos individuais de formas que mal começámos a compreender.

Com o tempo, os efeitos individuais e coletivos podem ser devastadores.

Menor denominador comum

Como o ciclo algorítmico está estreitando o alcance do pensamento e da criatividade Human ?

A dinâmica varia, mas considere o básico. Empresas como Facebook, Amazon e Google acabam ganhando dinheiro mostrando coisas que você pode querer comprar. Um nível acima, as plataformas sociais, de pesquisa e de streaming KEEP sua atenção, mostrando conteúdo que você provavelmente achará “envolvente”. Eles alcançam esses objetivos observando seu comportamento, comparando-o com o comportamento de pessoas semelhantes e, em seguida, mostrando outras coisas que essas pessoas gostaram.

Às vezes, esses sistemas são elogiados por sua capacidade de ajudar usuários com gostos de nicho a encontrar exatamente o que procuram, e há alguma verdade nisso. Mas a dinâmica mais ampla é fácil de detectar: ​​o ciclo algorítmico opera com base na suposição fundamental de que o seu gosto é intercambiável com o de outras pessoas. O algoritmo não pode prever nem criar personalidade, inovação ou encontros casuais – o que significa que é, em última análise, hostil ao empoderamento pessoal e à individualidade.

Como um experimento mental, imagine um usuário realmente comum do YouTube ou Amazon PRIME Video. O que você sugere para alguém que alugou cinco filmes convencionais de Hollywood porque foi só disso que ouviu falar? Bem, você oferece a eles mais do mesmo conteúdo convencional, intermediário e descontraído. Mesmo quando o conteúdo é verdadeiramente adaptado a um nicho demográfico, o processo criativo tornou-se um exercício de verificação de caixas: a Netflix, notoriamente, utiliza o seu ciclo algorítmico para “optimizar” uma peça de conteúdo para o sucesso antes de ser produzida. Se a arte, no seu melhor, é um processo de autodescoberta e aprendizagem, o ciclo algorítmico está a afastar-nos disso e a simplesmente repetir-nos indefinidamente.

Essa tendência algorítmica para a banalidade, juntamente com outras forças, já emburreceu a nossa cultura de formas mensuráveis. Nos cerca de 20 anos desde que os mecanismos de recomendação algorítmica surgiram – primeiro em livrarias on-line como a Amazon, depois no serviço de DVD da Netflix e depois nas plataformas de streaming de vídeo e música – a cultura popular global passou por uma contração radical centrada nos produtos mais populares. e sucessos de bilheteria inofensivos.

Por exemplo, o Spotify, uma plataforma de música centrada em algoritmos, concentra streams e ganhos entre um punhado de artistas de topo, muito mais do que o sistema físico de media e transmissão que o precedeu. Isto é particularmente surpreendente porque o conglomerado de rádio terrestre ClearChannel foi muitas vezes um bicho-papão para os fãs de música na década de 1990, antes da Internet, acusado de silenciar artistas aventureiros ou controversos. Vivemos agora na era da “jukebox infinita”, com praticamente toda a música já gravada a apenas um clique de distância – mas fundir isso com o loop algorítmico parece ter tornado o consumo de música mais monolítico, e não menos.

Os estúdios de cinema de Hollywood, as grandes editoras de livros e as editoras musicais responderam a este modelo em que o vencedor leva tudo. Mudaram em massa para se concentrarem quase inteiramente em sucessos de bilheteira e estrelas, dedicando recursos apenas a artistas que produzem o produto mais apreciado – e mesmo assim apenas aos seus êxitos mais evidentes . Esta ampla mudança tornou muito mais difícil, mesmo para músicos e cineastas pouco convencionais, aqueles capazes de introduzir ideias novas e excitantes, apoiar financeiramente o seu trabalho (para não falar dos escritores, que sempre tiveram dificuldades). Em vez disso, temos uma série interminável de filmes da Marvel.

Para ser justo, existem outros fatores importantes por trás dessas mudanças. Hollywood, por exemplo, está a debater-se com um declínio secular na frequência ao teatro, o que cria pressão para produzir conteúdos menos desafiantes porque precisa de rabos nos assentos. A cultura política dos EUA era cada vez mais partidária muito antes de o ciclo algorítmico transformar as pessoas em colmeias opostas e igualmente obstinadas num processo tão inconsciente como respirar. Ao mais alto nível, a tendência para uma “economia em que o vencedor leva tudo” começou com a invenção do telégrafo: a melhoria da Tecnologia de comunicação permite que os melhores desempenhos, negócios e produtos dominem fatias cada vez maiores do mercado global por apenas sobre tudo.

Mas o ciclo algorítmico é o que permite que a dinâmica do vencedor leva tudo se infiltre em todos os aspectos das nossas vidas, online e, cada vez mais, offline. É o que nos tenta constantemente com notícias, produtos ou tweets que podem não nos tornar mais atenciosos, empáticos ou bem informados – mas que todos os outros, como o algoritmo sabe, parecem estar a gostar.

Rejeite a tradição, abrace-se

O loop algorítmico é a versão ciberneticamente aprimorada de um problema com o qual os humanos têm lutado desde antes da existência do aprendizado de máquina, da Internet ou dos computadores.

Antigamente, o problema era conhecido por nomes como tradição, hierarquia, superstição, sabedoria convencional ou apenas “o modo como as coisas são”. Há três décadas, o jurista Spiros Simitis previu quão poderosos estes sistemas poderiam ser para moldar o comportamento das pessoas em formas aceitáveis, tal como as hierarquias tradicionais. Numa passagem citada por Zuboff, Simitis argumentou que os algoritmos preditivos estavam a “desenvolver-se… num elemento essencial de estratégias de manipulação a longo prazo destinadas a moldar e ajustar a conduta individual”.

Tais forças têm sido vistas com suspeita há milhares de anos. Você provavelmente já ouviu a frase: “A vida não examinada não vale a pena ser vivida”, um dos aforismos mais famosos de Sócrates, o filósofo fundacional do mundo ocidental (conforme transmitido por seu aluno Platão e pelo aluno de Platão, Aristóteles - Sócrates não). T escrevo, muito menos código). O sentimento geral é bastante claro e óbvio: passe algum tempo refletindo sobre si mesmo. É bom Para Você.

Mas Sócrates também quis dizer algo muito mais específico: para examinar verdadeiramente a si mesmo, é preciso interrogar todas as normas sociais, suposições tácitas e condições históricas que o moldaram. Até então, você é essencialmente o fantoche das pessoas que vieram antes de você e estabeleceram as normas, quer estejamos falando de doutrina da Igreja ou de julgamento estético.

Alguns milhares de anos depois, o psicanalista pioneiro Sigmund Freud reafirmou isso um BIT mais explicitamente, em um slogan que também tem a vantagem de soar totalmente durão no alemão nativo de Freud: “Wo ist war, soll ich verden”. Onde estiver, lá estarei.” O “isso” a que Freud se refere é a mente inconsciente, que ele via como moldada pelas tradições e normas sociais incutidas em todos nós desde o nascimento. Na época de Freud, a modernidade e a Tecnologia ajudaram a tornar essas normas cada vez mais difundidas, uniformes e. rígido, particularmente durante a era vitoriana de repressão sexual da juventude de Freud.

Freud acreditava que o conflito entre as normas sociais e os desejos individuais era uma fonte de problemas de saúde mental. Ele esperava que a sua “cura pela fala” pudesse ajudar os pacientes que se sentiam estranhamente deslocados na sua sociedade repressiva, tornando visíveis tanto as normas que tantas vezes não são ditas, como os desejos que as pessoas por vezes escondem até de si mesmas. Poderíamos compreender as descobertas perturbadoras sobre os impactos das redes sociais na saúde mental em termos semelhantes: um fluxo constante do conteúdo mais popular pode, por vezes, equivaler a uma erosão psiquicamente prejudicial da individualidade pela ordem social dominante.

O ciclo algorítmico pode não parecer tão severo como as normas sociais da Europa vitoriana – mas é muitas vezes mais insidioso. As normas sociais repressivas que são visivelmente aplicadas por um polícia ou padre podem ser mais fáceis de desafiar do que o ciclo algorítmico, porque agora somos nós que fazemos o clique, o streaming, a rolagem. Certamente parece que estamos fazendo escolhas individuais, afirmando nossa singularidade e nos expressando.

Mas isso ocorre apenas porque a curva em direção ao pensamento de grupo é muito sutil. Visto como um sistema total, o ciclo algorítmico degrada inevitavelmente a diversidade e a singularidade daquilo que a maioria das pessoas vê, Aprenda e desfruta. Mesmo quando a quantidade de “conteúdo” que consumimos dispara (uma tendência perturbadora por si só), parece que cada vez menos consequências reais são oferecidas – menos coisas que podem desafiá-lo, ajudá-lo a crescer, torná-lo uma pessoa melhor.

Não importa o quanto rolamos, enviamos ou tweetamos, podemos começar a suspeitar que nossas escolhas são ilusórias.

Escapando do ciclo

Como, então, você se liberta de uma videira estranguladora que lê seu futuro em sua própria luta? Como você reafirma o controle sobre suas próprias escolhas e seu próprio cérebro?

É claro que existem práticas individuais que exigem vários graus de comprometimento. Uma ONE simples, se não totalmente fácil, é abandonar o Facebook e o Google na medida do possível. Especialmente o Facebook – a empresa que agora se autodenomina Meta não é confiável de maneira simples e uniforme. (E sim, o Facebook pode rastreá-lo mesmo quando você não está usando o Facebook.com . Veja como mudar isso .)

Use DuckDuckGo para pesquisa. ProtonMail é uma alternativa popular ao Gmail – que, sim, também espiona você. Na verdade, é aprender a escrever e-mails Para Você , outro exemplo do sedutor e narcotizante ciclo mortal do qual devemos de alguma forma escapar.

Os benefícios são provavelmente marginais – em parte porque já têm muitos dados – mas estas medidas irão, pelo menos, tornar um pouco mais difícil para os acumuladores de dados criarem perfis e atraí-lo online.

Retornar à mídia física é outra maneira de se desligar da mente coletiva – CDs e vinil em vez do Spotify, DVDs e fitas VHS em vez do YouTube ou serviços de streaming, livros físicos em vez de (sejamos realistas) tweets. Aprenda a apreciar sua biblioteca local. Usar mais mídia física força você a fazer escolhas ponderadas e prestar atenção a elas por um tempo, em vez de apenas seguir o ciclo algorítmico (embora MP3s e um servidor PLEX também T sejam uma má opção). Caramba, se você realmente quer enlouquecer, compre um telefone flip e assine um jornal impresso – você pode desaparecer das mídias sociais e do streaming como o One-Armed Man .

Mas esses ajustes individuais T são realmente a solução, assim como você não pode resolver a epidemia de obesidade comendo mais quinoa. Os sistemas digitais são imensamente mais convenientes do que os anteriores e as suas desvantagens são abstratas e coletivas. Mesmo que alguém esteja profundamente consciente dos compromissos que está fazendo todos os dias, é muito difícil se preocupar com tudo isso.

Para essas pessoas – isto é, a maioria das pessoas – é necessária uma abordagem regulatória mais sistemática, e boas práticas e regulamentações de Política de Privacidade são o eixo. Limites cuidadosos sobre a quantidade de dados que fornecemos a plataformas de publicidade como Google e Facebook, e como exatamente eles são capazes de nos atingir, criam mais espaço para a individualidade. Já existe algum precedente aqui – o Facebook foi recentemente pressionado para reduzir a capacidade dos anunciantes de segmentar por raça , por exemplo (embora, por se tratar do Facebook, é claro que haja uma solução alternativa fácil ).

Depois, há a opção nuclear: tornar ilegal a publicidade programática.

Isso T acontecerá nos EUA, o lar dos maiores acumuladores de dados corporativos. Os legisladores dos EUA são demasiado inclinados para o lucro para fazerem qualquer coisa que possa prejudicar o Facebook ou o Google ou as milhares de empresas auxiliares de adtech e de marketing que se alimentam da sua nuvem de dados camaradas.

Mas, hipoteticamente, se a segmentação programática de anúncios terminasse ou fosse seriamente restringida, os dados sobre seus hábitos e preferências perderiam valor. O Facebook pararia de espionar você não porque fosse forçado, mas porque não teria incentivo. Com seus dados e atenção repentinamente sem valor, você estaria livre para Aprenda e explorar em seus próprios termos.

Bem, ainda podemos sonhar... T podemos?