Алгоритмическая жизнь не стоит того, чтобы жить

Его Неделя Политика конфиденциальности здесь, в CoinDesk, мы погружались в различные технологические и юридические аспекты последствий цифрового наблюдения. Тревога по поводу роста вездесущего слежки часто может казаться академическим вопросом принципа или серией предупреждений о важных, но необычных крайних случаях: избитый супруг, преследуемый вредоносным ПО, диссидент выслежены и убитыправительством, потребитель слегальный, но социально маргинализированный вкусы. Эти сценарии нарушения Политика конфиденциальности , конечно, имеют серьезные последствия для тех, кто становится жертвой, и для каждого из нас.

Однако наиболее распространенное применение цифрового наблюдения может показаться гораздо более обыденным, чем эти громкие примеры, хотя потенциально оно гораздо более коварно.

Эта статья является частью CoinDeskНеделя Политика конфиденциальности ряд.

Алгоритмическое таргетинговое наполнение контента является основой вездесущих информационных компаний, таких как Google и Facebook, и оно влияет на вас каждый момент, когда вы находитесь в сети. Оно может сделать вас менее информированными, менее уникальными, менее вдумчивыми и менее интересными, так тонко, что вы даже T заметите.

исследователь из ГарвардаШошана Зубофф Она описывает влияние алгоритмического таргетинга как «приватизацию разделения обучения». Мы все больше передаем свои решения обо всем программному обеспечению для распознавания образов, утверждает она. Оно направляет наше взаимодействие с социальными сетями, сайтами знакомств, поисковыми системами, программной рекламой и контент-каналами — и оно построено почти полностью на моделях прошлого Human поведения. По своей структурной основе оно враждебно к новизне, инновациям и независимости. И его пионеры извлекли из этого огромную выгоду — по словам Зубофф, Google теперь обладает «всемирно-исторической концентрацией знаний и власти».

У меня есть для этого немного более цепкое название, чем у Зубоффа: Алгоритмическая петля. Как и в большинстве петель, в нее легко попасть, потому что она собирает наши предпочтения, а затем использует эти данные, чтобы KEEP нас на крючке — и брать под контроль. Конечно, она показывает нам предполагаемые даты, названия фильмов или новостные аннотации, которые, как она знает, мы, скорее всего, нажмем. Но эти предложения в свою очередь сформируйте наше желаниедля следующего продукта, который мы потребим.

Короче говоря, алгоритмический цикл T просто предсказывает наши вкусы, взгляды и убеждения, он их создает. И поскольку он формирует их, основываясь только на том, что он уже знает и может понять, он делает нас менее креативными и менее индивидуальными способами, которые мы едва начали понимать.

Со временем индивидуальные и коллективные последствия могут оказаться разрушительными.

Наименьший общий знаменатель

Каким образом алгоритмический цикл сужает диапазон Human мышления и творчества?

Динамика меняется, но рассмотрим основы. Такие компании, как Facebook, Amazon и Google, в конечном итоге зарабатывают деньги, показывая вам то, что вы, возможно, захотите купить. На уровень выше социальные, поисковые и потоковые платформы KEEP ваше внимание, показывая вам контент, который вам больше всего нравится вероятно, найдут «привлекательным».Они достигают этих целей, наблюдая за вашим поведением, сопоставляя его с поведением похожих людей, а затем показывая вам, что еще понравилось этим людям.

Эти системы иногда хвалят за их способность помогать пользователям с нишевыми вкусами находить именно то, что они ищут, и в этом есть доля правды. Но более крупную динамику легко заметить: алгоритмический цикл работает на фундаментальном предположении, что ваш вкус взаимозаменяем с вкусами других людей. Алгоритм не может ни предсказывать, ни создавать личность, инновации или случайные встречи — а это значит, что он в конечном итоге враждебен личностному расширению прав и возможностей и индивидуальности.

В качестве мысленного эксперимента представьте себе действительно среднестатистического пользователя YouTube или Amazon PRIME Video. Что вы посоветуете тому, кто взял напрокат пять популярных голливудских фильмов, потому что это все, о чем он слышал? Ну, вы предлагаете им больше того же самого популярного, среднестатистического, легкого контента. Даже когда контент действительно подогнан под демографическую нишу, творческий процесс превратился в упражнение по проверке: Netflix, как известно, использует свой алгоритмический цикл«оптимизировать» часть контента для успеха до того, как он будет создан. Если искусство в лучшем случае — это процесс самопознания и обучения, то алгоритмический цикл отвращает нас от этого и просто ведёт к бесконечному повторению самих себя.

Этот алгоритмический уклон в сторону банальности, наряду с другими силами, уже притупил нашу культуру измеримыми способами. За 20 с лишним лет с тех пор, как алгоритмические рекомендательные движки появились на свет — сначала в интернет-магазинах книг, таких как Amazon, затем в DVD-сервисе Netflix, затем на потоковых видео и музыкальных платформах — глобальная популярная культура претерпела радикальное сокращение, сосредоточенное на самых популярных и безобидных блокбастерах.

Например, Spotify, музыкальная платформа, основанная на алгоритмах, концентрирует потоки и доходы средигорстка лучших художниковгораздо больше, чем предшествовавшая ей физическая медиа- и вещательная система. Это особенно поразительно, потому что наземный радиоконгломерат ClearChannel так часто был пугалом для музыкальных фанатов в доинтернетовские 1990-е, обвиняемый в подавлении смелых или спорных артистов. Сейчас мы живем в эпоху «бесконечного музыкального автомата», когда практически вся когда-либо записанная музыка находится всего в одном клике — однако объединение этого с алгоритмическим циклом, похоже, сделало потребление музыки более монолитным, а не менее.

Голливудкиностудии, крупные издательства книг и музыкальные лейблы отреагировали на эту модель «победитель получает все». Они массово переключились на то, чтобы сосредоточиться почти полностью на блокбастерах и звездах, выделяя ресурсы только тем артистам, которые производят наиболее широко любимый продукт, и даже тогда толькоих самые четкие попадания. Эти масштабные перемены значительно усложнили финансовое положение даже для немного нетрадиционных музыкантов и режиссеров, способных предлагать новые и захватывающие идеи.поддерживать их работу(не говоря уже о писателях, которые всегда боролись). Вместо этого мы получаем бесконечную череду фильмов Marvel.

Справедливости ради, за этими изменениями стоят и другие важные факторы. Голливуд, например, борется с вековым спадом посещаемости кинотеатров, что создает давление, чтобы делать менее сложный контент, потому что ему нужны задницы в креслах. Политическая культура США становилась все более партийной задолго до того, как алгоритмический цикл сделал сортировку людей в противостоящие, одинаково единомышленники, ульи процессом таким же бессознательным, как дыхание. На самом высоком уровне тенденция к«экономика, где победитель получает все» началось с изобретения телеграфа: совершенствование Технологии связи позволяет лучшим исполнителям, предприятиям и продуктам занимать все большие доли мирового рынка практически во всем.

Но алгоритмический цикл — это то, что позволяет динамике «победитель получает все» проникать во все аспекты нашей жизни, онлайн и, все больше, офлайн. Это то, что постоянно искушает нас новостями, продуктами или твитами, которые, возможно, не сделают нас более вдумчивыми, сочувствующими или информированными — но которые, как знает алгоритм, всем остальным, похоже, нравятся.

Отвергни традицию, прими себя

Алгоритмический цикл — это кибернетически улучшенная версия проблемы, с которой люди боролись еще до появления машинного обучения, Интернета и компьютеров.

В старые времена эта проблема называлась как традиция, иерархия, суеверие, общепринятая мудрость или просто «как обстоят дела». Три десятилетия назад ученый-юрист Спирос Симитис предсказал, насколько мощными могут быть эти системы для формирования поведения людей в приемлемые формы, во многом похожие на традиционные иерархии. В отрывке, цитируемом Зубоффом, Симитис утверждал, что предиктивные алгоритмы «развиваются… в существенный элемент долгосрочных стратегий манипуляции, призванных формировать и корректировать индивидуальное поведение».

На такие силы смотрели с подозрением в течение тысяч лет. Вы, вероятно, слышали фразу: «Неисследованная жизнь не стоит того, чтобы ее прожить», ONE из самых известных афоризмов Сократа, основополагающего философа западного мира (переданный его учеником Платоном и учеником Платона Аристотелем — Сократ даже T писал, не говоря уже о кодировании). Общее мнение ясно и достаточно очевидно: потратьте некоторое время на размышления о себе. Это полезно Для вас.

Но Сократ также имел в виду нечто гораздо более конкретное: чтобы по-настоящему исследовать себя, вы должны подвергнуть сомнению все социальные нормы, невысказанные предположения и исторические условия, которые вас сформировали. До тех пор вы, по сути, марионетка людей, которые были до вас и установили нормы, говорим ли мы о церковной доктрине или эстетическом суждении.

Пару тысяч лет спустя пионер психоанализа Зигмунд Фрейд перефразировал это BIT более явно, в лозунге, который также имеет то преимущество, что звучит совершенно круто на родном немецком языке Фрейда: «Wo ist war, soll ich verden». Или на английском: «Где оно, там буду и я». «Оно» Фрейд имеет в виду бессознательное, которое, по его мнению, было сформировано традициями и социальными нормами, вбитыми в каждого из нас с рождения. Ко времени Фрейда современность и Технологии помогли сделать эти нормы еще более распространенными, единообразными и жесткими, особенно в подавляющую секс викторианскую эпоху юности Фрейда.

Фрейд считал, что конфликт между социальными нормами и индивидуальными желаниями является источником проблем психического здоровья. Он надеялся, что его «лечение разговором» может помочь пациентам, которые чувствовали себя странно не на своем месте в своем репрессивном обществе, делая видимыми как нормы, которые так часто не высказываются, так и желания, которые люди иногда скрывают даже от себя. Мы могли бы понять тревожные выводы оВлияние социальных сетей на психическое здоровьев схожих терминах: постоянный поток самого популярного контента иногда может приводить к психически разрушительному разрушению индивидуальности доминирующим социальным порядком.

Алгоритмический цикл может показаться не таким суровым хозяином, как социальные нормы викторианской Европы, но он часто более коварен. Репрессивные социальные нормы, которые явно навязываются полицейским или священником, могут быть проще, чем алгоритмический цикл, потому что теперь мы те, кто делает клики, стриминг, прокрутку. Определенно, это ощущается так, как будто мы делаем индивидуальный выбор, утверждаем свою уникальность и выражаем себя.

Но это только потому, что кривая в сторону группового мышления настолько тонка. Рассматриваемая как целостная система, алгоритмическая петля неизбежно снижает разнообразие и уникальность того, что большинство людей видят, Словарь и наслаждаются. Даже когда количество «контента», который мы потребляем, стремительно растет (тревожная тенденция сама по себе), кажется, что предлагается все меньше и меньше реальных последствий — меньше того, что может бросить вам вызов, помочь вам расти, сделать вас лучше.

Независимо от того, сколько мы прокручиваем новости, читаем ли мы ролики или пишем твиты, мы можем начать подозревать, что наш выбор иллюзорен.

Выход из петли

Как же тогда освободиться от удушающей лозы, которая читает свое будущее в самой вашей борьбе? Как же вам восстановить контроль над собственным выбором и собственным мозгом?

Конечно, существуют индивидуальные практики, требующие различной степени приверженности. ONE простой, хотя и не совсем легкий, — это отказаться от Facebook и Google в той степени, в которой это возможно. Facebook особенно — компания, которая теперь называет себя Meta, просто и однозначно не заслуживает доверия. (И да, Facebook может отслеживать вас, даже когда вы не используете Facebook.com. Воткак это изменить.)

Используйте DuckDuckGo для поиска. ProtonMail — популярная альтернатива Gmail, которая, да, тоже шпионит за вами. На самом деле, она учитсяписать ваши электронные письма Для вас, еще один пример соблазнительного, наркотического цикла смерти, из которого мы должны каким-то образом вырваться.

Преимущества, скорее всего, незначительны — отчасти потому, что у них уже и так много данных, — но эти шаги, по крайней мере, несколько усложнят для собирателей данных задачу по составлению вашего профиля и привлечению вас в сеть.

Возвращение к физическим носителям — еще один способ оторваться от коллективного разума: CD и винил вместо Spotify, DVD и VHS-кассеты вместо YouTube или потоковых сервисов, физические книги вместо (давайте будем реалистами) твитов. Словарь ценить свою местную библиотеку. Использование большего количества физических носителей заставляет вас делать обдуманный выбор и уделять ему внимание некоторое время, вместо того чтобы просто следовать алгоритмическому циклу (хотя MP3 и PLEX-сервер тоже T плохой вариант). Черт, если вы действительно хотите оторваться, купите раскладной телефон и подпишитесь на печатную газету — вы сможете исчезнуть из социальных сетей и потокового вещания, как Однорукий Человек.

Но эти индивидуальные изменения T являются на самом деле Решением, как и эпидемию ожирения, которую вы можете исправить, съев больше киноа. Цифровые системы намного удобнее, чем то, что было раньше, а их недостатки абстрактны и коллективны. Даже если кто-то глубоко осознает компромиссы, на которые он идет каждый день, все это слишком сложно, чтобы беспокоиться.

Для этих людей, то есть большинства людей, необходим более систематический подход к регулированию, а хорошее регулирование и практика Политика конфиденциальности являются стержнем. Тщательные ограничения на то, сколько данных мы предоставляем рекламным платформам, таким как Google и Facebook, и как именно они могут таргетировать нас, создают больше пространства для индивидуальности. Здесь уже есть некоторый прецедент — Facebook недавно был вынужден ограничить возможности рекламодателей цель по расе, например (хотя, поскольку это Facebook, конечно, естьпростой обходной путь).

А теперь есть еще один радикальный вариант: объявить программную рекламу незаконной.

Этого T произойдет в США, на родине крупнейших корпоративных накопителей данных. Американские законодатели слишком сильно ориентированы на прибыль, чтобы сделать что-то, что навредит Facebook или Google или тысячам вспомогательных рекламных и маркетинговых фирм, которые питаются их потоком данных.

Но гипотетически, если бы программный таргетинг рекламы прекратился или был бы серьезно сокращен, данные о ваших привычках и предпочтениях потеряли бы свою ценность. Facebook прекратил бы шпионить за вами не потому, что его заставили, а потому, что у него не было бы стимула. Когда ваши данные и внимание внезапно стали бы бесполезными, вы бы могли свободно Словарь и исследовать на своих собственных условиях.

Ну, мы ведь все еще можем мечтать… не T ли ?