Фейковые новости на стероидах: грядут дипфейки — готовы ли мировые лидеры?

Это часть серии статей-обзоров Всемирного экономического форума в Давосе, Швейцария. CoinDesk будет находиться в Давосе с 20 по 24 января, освещая все, что касается Криптo, на ежегодном собрании мировой экономической и политической элиты. Социальные сети за новостями, подписавшись на нашу всплывающую рассылку, Конфиденциальность CoinDesk : Давос.

Ариф Хан — генеральный директор Alethea AI. Мнения здесь его собственные.

Несмотря на свои недостатки, Всемирный экономический форум зарекомендовал себя как важная площадка для обсуждения спорных Технологии тенденций, которые окажут широкое влияние на наш мир.

То, чем 2018 и 2019 годы стали для блокчейна и криптовалют на сцене ВЭФ (встреченных со здоровой смесью интриги и скептицизма), 2020 год станет для синтетических медиа, также известных под зловеще звучащим эвфемизмом «дипфейки».

Хотя эта концепция может показаться большинству чистой научной фантастикой, ВЭФ добавил целую сессию в свою программу 2020 года, посвященную дипфейкам и рискам, которые они представляют для обществ и политических систем. Эти технологии также будут полностью представлены на нескольких параллельных Мероприятия, которые будут проходить на Давосском променаде.

Чтобы QUICK понять, почему дипфейки — это не шутки, посмотрите это видео, в котором лицо Джета Ли заменено на лицо генерального директора Binance Чанпэна «CZ» Чжао.

В то время как CZ был достаточно добродушен, чтобыретвитнутьВ этой беззаботной пародии он предупредил, что внедрение KYC и распознавание видео будет затруднено, если эта тенденция сохранится.

Мы больше не в Канзасе...

Алгоритмы искусственного интеллекта с открытым исходным кодом теперь позволяют создавать дипфейки с ошеломляющей скоростью, а это означает, что споры о «фейковых новостях», наблюдавшиеся во время президентских выборов в США в 2016 году, в 2020 году покажутся детской забавой. Существует две категории дипфейков: вредоносные и невредоносные, более известные как синтетические медиа.

Учитывая, что большинство предприятий крайне некомпетентны в защите от таких простых видов мошенничества, как фишинговые письма, трудно даже представить себе последствия, которые могут иметь фейковые медиа, если их злонамеренно использовать против наивного населения.

Так почему же это важно для Криптo? В конце концов, мы же опытное сообщество на переднем крае Технологии, верно? Верно, но мошенничество все еще процветает в Криптo — просто посмотрите на все предупреждения «Не раздавать ETH», прикрепленные к псевдонимам знаменитостей Криптo в Twitter.

С синтетическими медиа мошенники теперь имеют новый арсенал, чтобы повлиять на траекторию децентрализованной организации и создать беспрецедентный хаос. Мы почти наверняка увидим deepfakes титанов криптоиндустрии в 2020 году. То, как мы отреагируем на этот возникающий медиа-ландшафт, зависит от того, насколько хорошо будут привиты наши общества и сообщества.

Синтетические носители информации станут классом активов в 2020 году

Но нет нужды бежать в горы. Как и любая Технологии, базовые алгоритмы, которые разрабатывают дипфейки, могут быть использованы в благотворительных целях, открывая экономическую ценность и рост производительности, одновременно открывая новые способы художественного выражения. Хотя коммерческие варианты использования все еще находятся в зачаточном состоянии, в 2020 году будут предприняты согласованные попытки сделать эту Технологии доступной для масс в позитивном ключе.

Например, ныне знаменитыйДевушки из Пелотона лицо было мгновенно узнаваемо в Реклама джина, разработанной и снятой проницательным Райаном Рейнольдсом. Ее образ и лицо были «жидкими» в том смысле, что их можно было наложить на диаметрально противоположный повествовательный контекст в течение короткого промежутка времени. В будущем мы станем свидетелями подобных примеров, и если ее «образ» будет воспроизводим в цифровом виде, у нее появится возможность участвовать во множестве различных контекстов в течение короткого промежутка времени, что еще больше увеличит ее виральность и влияние. Это откроет значительную коммерческую ценность для актеров, агентств по поиску талантов и их брендов.

Синтетические цифровые копии, которые являются реалистичными, эмоциональными и выразительными, будут мгновенно обмениваться и торговаться, как игровые скины и голосовые скины в онлайн-ролевых играх. Актеры и их агентства по поиску талантов будут требовать пустое пространство, которое позволит создать синтетически созданное цифровое повествование. Наши лица и голоса будут арендоваться, изменяться, переделываться и использоваться повторно.

Другие благотворительные варианты использования могут означать сохранение голоса родственника для будущих поколений, чтобы они могли его услышать и Словарь , или даже сохранение образа выдающегося математика или музыкального гения, чтобы он служил постоянным источником вдохновения для общества или сообщества. Представьте себе Ганди, обучающего вас принципам ненасилия, или недавно умершего родственника, читающего детскую аудиокнигу вашим еще не родившимся детям. Благотворительные приложения безграничны. Тем не менее, инфраструктура цифровых прав только зарождается.

Должны ли мы поощрять финансиализацию наших лиц и голосов?

Но, как и в случае с другими новыми технологиями, T требуется большого воображения, чтобы представить, как это может быстро стать антиутопией. Чтобы бороться с таким сценарием, мы должны предоставить отдельным лицам доступ к данным, которые лежат в основе их подобия, лиц и голосов. Ни одно правительство или корпорация не должны владеть идентичностью какого-либо человека. Отдельные лица должны иметь возможность сохранять, транслировать и ликвидировать свое подобие в рамках правильного и развивающегося правового и интеллектуального ландшафта. Чтобы это произошло, синтетическим медиа понадобится новый цифровой правовой субстрат для управления разрешениями, транзакциями и управлением.

Слухи о том, что TikTok и Snapchat развиваются, вызвали ажиотаж в творческой и технологической индустриях.обмен лицамивозможности для масс. В то время как эти централизованные компании данных будут стремиться к максимальному получению ценности с точки зрения вовлеченности и времени, потраченного на их приложения, критически важна децентрализованная альтернатива и возникает идея, позволяющая людям иметь возможность управлять своим образом и своими данными.

Поскольку в 2020 году лица и голоса станут полностью синтетическими, мы рискуем нанести вред нашей социальной и экономической структуре, если люди не смогут понять ценность своих голосов и лиц. Это будет особенно актуально, если весь захват стоимости будет происходить на прикладном уровне централизованных компаний, как это слишком часто случалось в контексте Web 2.0.

Превратится ли Интернет в зеркальный зал?

Еще до появления дипфейков современный мир переживал упадок правды.

Доверие, которое наше общество оказывает цифровой информации, с которой мы сталкиваемся, падает. Постоянный поток ложной информации истощил нас и, порой, сделал апатичными. Демократизация инструментов ИИ для создания синтетического контента сделает текущие стандарты дезинформации почти безобидными. Как мы Словарь различать правду с ростом синтетических медиа и произвольных инструментов создания дипфейков?

Некоторые решения по временным меткам на основе блокчейна предлагают интересные пути для включения цифрового реестра всего синтетического контента, однако возможности для централизованного управления реестрами остаются. Другие исследованные решения позволяют снимать отпечатки пальцев с цифрового контента и хешировать в точке захвата, оба релевантных, но, к сожалению, узких варианта использования, которые не в полной мере решают сложность проблемы.

Так же, как Bitcoin и Ethereum непреднамеренно привели к тому, что люди стали больше узнавать о Рынки, теории игр, производстве денег и экономике, нам понадобятся децентрализованные альтернативы и стимулы, чтобы позволить людям по-настоящему понять ценность своего цифрового подобия. Предстоящие обсуждения на ВЭФ и в других местах, как мы надеемся, установят базовое понимание проблем, а также структуру и понимание того, какие решения требуются.

В частности, необходимо подчеркнуть роль, которую Технологии блокчейн может сыграть в создании базового субстрата. Да, мы все помним 2018 год, когда блокчейн был решением всех проблем на планете Земля и даже больше, но ему придется сыграть свою роль и в отношении временной метки deepfakes, и в содействии созданию слоя управления цифровыми правами, который, таким образом, позволит людям в конечном итоге совершать транзакции с использованием данных своего лица или голоса.

Поскольку ставки продолжают расти, а контент становится все более текучим, новым и вирусным, нам нужно будет иметь твердое понимание нашей реальности и общих истин, которые ее поддерживают. Если мы думали, что фейковые новости подрывают доверие в нашем обществе, то дипфейки, если ими неправильно управлять, сделают гораздо хуже.

Однако мы не можем выплеснуть ребенка вместе с водой. Феномен синтетических медиа останется; требуется четкое понимание того, как его можно использовать на благо отдельных лиц и общества, а также стратегия смягчения ущерба, который могут нанести злоумышленники.