La vida algorítmica no vale la pena vivirla

Es Semana de la Privacidad Aquí en CoinDesk, hemos estado analizando una variedad de ángulos tecnológicos y legales sobre las consecuencias de la vigilancia digital. La ansiedad por el aumento del espionaje omnipresente a menudo puede parecer una cuestión de principios académicos o una serie de advertencias sobre casos extremos importantes pero poco comunes: el cónyuge maltratado que es acosado con malware, el disidente Rastreado y asesinadopor un gobierno, el consumidor conLegal pero socialmente marginado Estos escenarios de vulneración de la Privacidad tienen, por supuesto, graves consecuencias para quienes son víctimas y para cada ONE de nosotros.

Pero el uso más extendido de la vigilancia digital puede parecer mucho más mundano que estos ejemplos principales, aunque es potencialmente mucho más insidioso.

Este artículo es parte del artículo de CoinDesk.Semana de la Privacidad serie.

La segmentación algorítmica de contenido es la base de empresas de información omnipresentes como Google y Facebook, y te afecta cada vez que estás en línea. Puede hacer que estés menos informado, menos original, menos reflexivo y menos interesante, de forma tan sutil que T siquiera te das cuenta.

Investigador de HarvardShoshana Zuboff Zuboff describe el impacto de la segmentación algorítmica como “la privatización de la división del aprendizaje”. Cada vez más, hemos entregado nuestras decisiones sobre todo a un software de reconocimiento de patrones, sostiene. Este software guía nuestras interacciones con las redes sociales, los sitios de citas, los motores de búsqueda, la publicidad programática y los canales de contenido, y está construido casi por completo sobre modelos de comportamiento Human pasado. En su raíz estructural, es hostil a la novedad, la innovación y la independencia. Y sus pioneros se han beneficiado enormemente de él: según Zuboff, Google ahora tiene una “concentración de conocimiento y poder históricamente mundial”.

Tengo un nombre un poco más llamativo para esto que el de Zuboff: el bucle algorítmico. Como la mayoría de los bucles, es fácil quedar atrapado en él porque recopila nuestras preferencias y luego utiliza esos datos para KEEP enganchados y tomar el control. Claro que nos muestra posibles citas o títulos de películas o anuncios de noticias que sabe que es probable que veamos. Pero esas sugerencias, a su vez, dar forma a nuestro deseopara lo próximo que consumamos.

En resumen, el bucle algorítmico no solo predice nuestros gustos, actitudes y creencias, sino que los crea. Y como los moldea basándose únicamente en lo que ya sabe y puede comprender, nos está volviendo menos creativos y menos individuales en formas que apenas hemos comenzado a comprender.

Con el tiempo, los efectos individuales y colectivos pueden resultar devastadores.

Mínimo común denominador

¿Cómo está el bucle algorítmico estrechando el alcance del pensamiento y la creatividad Human ?

La dinámica varía, pero hay que tener en cuenta los aspectos básicos. Empresas como Facebook, Amazon y Google ganan dinero mostrándote cosas que quizás quieras comprar. Un nivel más arriba, las plataformas sociales, de búsqueda y de streaming KEEP tu atención mostrándote el contenido que más te interesa. Probablemente lo encuentre "atractivo".Logran estos objetivos observando su comportamiento, comparándolo con el de personas similares y luego mostrándole otras cosas que les gustaron a esas personas.

A veces se alaba a estos sistemas por su capacidad de ayudar a los usuarios con gustos específicos a encontrar exactamente lo que buscan, y hay algo de verdad en ello. Pero la dinámica general es fácil de detectar: el bucle algorítmico funciona sobre la base del supuesto fundamental de que nuestros gustos son intercambiables con los de otras personas. El algoritmo no puede predecir ni crear personalidad, innovación o encuentros casuales, lo que significa que, en última instancia, es hostil al empoderamiento personal y a la individualidad.

Como experimento mental, imaginemos a un usuario verdaderamente promedio de YouTube o Amazon PRIME Video. ¿Qué le sugeriríamos a alguien que ha alquilado cinco películas de Hollywood porque es lo único de lo que ha oído hablar? Bueno, ofrecerle más del mismo contenido convencional, de clase media y sencillo. Incluso cuando el contenido está realmente adaptado a un nicho demográfico, el proceso creativo se ha convertido en un ejercicio de marcar casillas: Netflix, como es bien sabido, utiliza su bucle algorítmico“Optimizar” un contenido para que tenga éxito antes de crearlo. Si el arte, en su máxima expresión, es un proceso de autodescubrimiento y aprendizaje, el bucle algorítmico nos aleja de eso y nos lleva a repetirnos una y otra vez.

Ese sesgo algorítmico hacia la banalidad, junto con otras fuerzas, ya ha empobrecido nuestra cultura de maneras mensurables. En los 20 y tantos años que han pasado desde que los motores de recomendación algorítmicos están en plena actividad –primero en librerías en línea como Amazon, luego en el servicio de DVD de Netflix, luego en plataformas de video y música en streaming– la cultura popular global ha sufrido una contracción radical centrada en los éxitos de taquilla más populares e inofensivos.

Por ejemplo, Spotify, una plataforma de música centrada en algoritmos, concentra las reproducciones y las ganancias entre unaUn puñado de artistas destacadosMucho más que el sistema físico de medios y difusión que lo precedió. Esto es particularmente sorprendente porque el conglomerado de radio terrestre ClearChannel fue a menudo un problema para los fanáticos de la música en la década de 1990 anterior a Internet, acusado de silenciar a artistas aventureros o controvertidos. Ahora vivimos en la era de la "rocola infinita", con prácticamente toda la música jamás grabada a un clic de distancia; sin embargo, fusionar eso con el bucle algorítmico parece haber hecho que el consumo de música sea más monolítico, no menos.

Hollywoodestudios de cineLas principales editoriales y sellos musicales han respondido a este modelo de "el ganador se lo lleva todo". Han pasado a centrarse casi exclusivamente en los éxitos de taquilla y las estrellas, destinando recursos sólo a los artistas que producen el producto más querido, e incluso entonces sólo a los artistas que lo producen.sus hits más clarosEste gran cambio ha hecho que sea mucho más difícil incluso para los músicos y cineastas poco convencionales, aquellos capaces de introducir ideas nuevas y emocionantes, lograr ingresos financieros.Apoyar su trabajo(Por no hablar de los escritores, que siempre han tenido dificultades). En cambio, tenemos una interminable serie de películas de Marvel.

Para ser justos, hay otros factores importantes detrás de estos cambios. Hollywood, por ejemplo, está lidiando con un declive secular en la asistencia a los cines que crea presión para hacer contenido menos desafiante porque necesita traseros en las butacas. La cultura política estadounidense era cada vez más partidista mucho antes de que el bucle algorítmico hiciera que la clasificación de las personas en grupos opuestos, igualmente unánimes, fuera un proceso tan inconsciente como respirar. En el nivel más alto, la tendencia hacia una“economía en la que el ganador se lleva todo” Comenzó con la invención del telégrafo: la mejora de la Tecnología de las comunicaciones permite que los mejores artistas, empresas y productos dominen porciones cada vez mayores del mercado global para casi todo.

Pero el bucle algorítmico es lo que permite que la dinámica del ganador se lleve todo se infiltre en todos los aspectos de nuestra vida, en línea y, cada vez más, fuera de ella. Es lo que nos tienta constantemente con noticias, productos o tuits que tal vez no nos hagan más reflexivos, empáticos o bien informados, pero que todos los demás, como sabe el algoritmo, parecen estar disfrutando.

Rechaza la tradición, abrázate a ti mismo

El bucle algorítmico es la versión cibernéticamente mejorada de un problema con el que los humanos hemos estado lidiando desde antes de que existieran el aprendizaje automático, Internet o las computadoras.

En la antigüedad, el problema se conocía bajo nombres como tradición, jerarquía, superstición, sabiduría convencional o simplemente “la manera en que son las cosas”. Hace tres décadas, el jurista Spiros Simitis predijo cuán poderosos podrían ser estos sistemas para moldear la conducta de las personas en formas aceptables, de manera muy similar a las jerarquías tradicionales. En un pasaje citado por Zuboff, Simitis sostuvo que los algoritmos predictivos estaban “desarrollándose… hasta convertirse en un elemento esencial de las estrategias de manipulación a largo plazo destinadas a moldear y ajustar la conducta individual”.

Estas fuerzas han sido vistas con sospecha durante miles de años. Probablemente hayas oído la frase “La vida no examinada no vale la pena vivirla”, ONE de los aforismos más famosos de Sócrates, el filósofo fundacional del mundo occidental (tal como lo transmitió su alumno Platón y el alumno de Platón, Aristóteles; Sócrates T siquiera escribía, y mucho menos codificaba). El sentimiento general es claro y bastante obvio: dedica un tiempo a reflexionar sobre ti mismo. Es bueno Para ti.

Pero Sócrates también quería decir algo mucho más específico: para examinarnos verdaderamente a nosotros mismos, tenemos que interrogar todas las normas sociales, los supuestos tácitos y las condiciones históricas que nos han formado. Hasta entonces, somos esencialmente el títere de las personas que nos precedieron y establecieron las normas, ya se trate de doctrina eclesiástica o de juicio estético.

Un par de miles de años después, el psicoanalista pionero Sigmund Freud lo reiteró de forma un BIT más explícita, en un eslogan que también tiene la ventaja de sonar totalmente rudo en el alemán nativo de Freud: “Wo ist war, soll ich verden”. O en español: “Donde esté, allí estaré yo”. El “eso” al que se refiere Freud es la mente inconsciente, que según él está moldeada por las tradiciones y normas sociales que se nos inculcan a todos desde el nacimiento. En la época de Freud, la modernidad y la Tecnología habían contribuido a que esas normas fueran cada vez más generalizadas, uniformes y rígidas, en particular durante la era victoriana de represión sexual de la juventud de Freud.

Freud creía que el conflicto entre las normas sociales y los deseos individuales era una fuente de problemas de salud mental. Esperaba que su “cura por la palabra” pudiera ayudar a los pacientes que se sentían extrañamente fuera de lugar en su sociedad represiva, haciendo visibles tanto las normas que tan a menudo no se expresan como los deseos que las personas a veces ocultan incluso a sí mismas. Tal vez podamos entender los hallazgos inquietantes sobre laImpactos de las redes sociales en la salud mentalEn términos similares: un flujo constante del contenido más popular podría a veces suponer una erosión psíquicamente dañina de la individualidad por parte del orden social dominante.

Puede que el bucle algorítmico no parezca un amo tan severo como las normas sociales de la Europa victoriana, pero a menudo es más insidioso. Las normas sociales represivas que son visiblemente impuestas por un policía o un sacerdote pueden ser más fáciles de desafiar que el bucle algorítmico, porque ahora somos nosotros los que hacemos clic, transmitimos y nos desplazamos. Sin duda, parece que estamos tomando decisiones individuales, afirmando nuestra singularidad y expresándonos.

Pero eso se debe únicamente a que la curva hacia el pensamiento colectivo es muy sutil. Visto como un sistema total, el bucle algorítmico inevitablemente degrada la diversidad y singularidad de lo que la mayoría de las personas ve, Aprende y disfruta. A pesar de que la cantidad de “contenido” que consumimos se dispara (una tendencia inquietante en sí misma), parece que cada vez hay menos cosas que realmente tengan importancia: menos cosas que puedan desafiarte, ayudarte a crecer, convertirte en una mejor persona.

No importa cuánto nos desplacemos, veamos YouTube o tuiteemos, podemos empezar a sospechar que nuestras elecciones son ilusorias.

Escapar del bucle

¿Cómo, entonces, liberarse de una enredadera que estrangula y que lee su futuro en la propia lucha? ¿Cómo reafirmar el control sobre sus propias decisiones y su propio cerebro?

Por supuesto, hay prácticas individuales que requieren distintos grados de compromiso. Una sencilla, aunque no del todo fácil, es deshacerse de Facebook y Google en la medida de lo posible. Facebook en particular, la empresa que ahora se llama Meta, es simple y uniformemente no confiable. (Y sí, Facebook puede rastrearte incluso cuando no estás usando Facebook.comAquí estáCómo cambiar eso.)

Utilice DuckDuckGo para realizar búsquedas. ProtonMail es una alternativa popular a Gmail, que, sí, también le espía. De hecho, está aprendiendo a hacerlo.escribe tus correos electrónicos Para ti, otro ejemplo del seductor y narcotizante círculo vicioso de la muerte del que debemos escapar de alguna manera.

Los beneficios probablemente sean marginales –en parte porque ya tienen muchos datos– pero estas medidas al menos harán que sea un poco más difícil para los acaparadores de datos crear perfiles y atraerlo en línea.

Regresar a los medios físicos es otra forma de desprenderse de la mente colectiva: CD y vinilos en lugar de Spotify, DVD y cintas VHS en lugar de YouTube o servicios de streaming, libros físicos en lugar de (seamos realistas) tuits. Aprende a apreciar su biblioteca local. El uso de más medios físicos lo obliga a tomar decisiones meditadas y prestarle atención durante un tiempo, en lugar de simplemente seguir el ciclo algorítmico (aunque los MP3 y un Servidor PLEX Tampoco son una mala opción). Diablos, si realmente quieres volverte loco, compra un teléfono plegable y suscríbete a un periódico impreso: puedes desaparecer de las redes sociales y del streaming como el El hombre manco.

Pero estos ajustes individuales no son realmente la solución, al igual que no se puede solucionar la epidemia de obesidad comiendo más quinoa. Los sistemas digitales son inmensamente más convenientes que los que existían antes, y sus desventajas son abstractas y colectivas. Incluso si alguien es profundamente consciente de los compromisos que está haciendo todos los días, todo esto es demasiado difícil de preocupar.

Para esas personas, es decir, la mayoría de las personas, se necesita un enfoque regulatorio más sistemático, y una buena regulación y prácticas de Privacidad son el eje central. Limitar cuidadosamente la cantidad de datos que proporcionamos a las plataformas publicitarias como Google y Facebook, y cómo exactamente pueden dirigirse a nosotros, crea más espacio para la individualidad. Ya hay un precedente en este sentido: Facebook ha sido presionada recientemente para reducir la capacidad de los anunciantes para objetivo por raza, por ejemplo (aunque como esto es Facebook, por supuesto que hay unasolución fácil).

Luego está la opción nuclear: hacer que la publicidad programática sea ilegal.

Eso no sucederá en Estados Unidos, donde se encuentran los mayores acaparadores de datos corporativos. Los legisladores estadounidenses están demasiado sesgados hacia las ganancias como para hacer algo que pueda perjudicar a Facebook o Google o a las miles de empresas auxiliares de tecnología publicitaria y marketing que se alimentan de su masa de datos.

Pero, hipotéticamente, si la publicidad programática terminara o se redujera seriamente, los datos sobre sus hábitos y preferencias perderían su valor. Facebook dejaría de espiarlo no porque estuviera obligado a hacerlo, sino porque no tendría ningún incentivo. Con sus datos y su atención repentinamente sin valor, usted sería libre de Aprende y explorar en sus propios términos.

Bueno, todavía podemos soñar… ¿ no ?