Что находится на пересечении Криптo и искусственного интеллекта? Возможно, убийство

Эксперт по безопасности Ари Джулс размышлял о том, как Технологии могут сбить общество с рельсов, сколько себя помнит. Это T значит, что Джулс, главный научный сотрудник Chainlink и профессор Cornell Tech в Нью-Йорке, считает, что мир скоро сойдет с рельсов. Но за последнее десятилетие — с развитием больших языковых моделей, которые поддерживают все более мощные системы искусственного интеллекта и автономные, самоисполняющиеся смарт-контракты — ситуация начала развиваться в более тревожном направлении.

Это отрывок из информационного бюллетеня The Node, ежедневного обзора самых важных новостей Криптo на CoinDesk и за его пределами. Вы можете подписаться, чтобы получать полную информационный бюллетень здесь.

«Растет понимание того, что финансовая система может быть вектором побега ИИ», — сказал Джулс в интервью CoinDesk. «Если вы контролируете деньги, вы можете оказывать влияние на реальный мир». Этот сценарий конца света является отправной точкой для второго романа Джулса, «Оракул», криминальный триллер, опубликованный крупным научно-фантастическим издательством Talos, об исследователе блокчейна из Нью-Йорка, нанятом правительством США для предотвращения создания военного Криптo .

Действие происходит в NEAR будущем, читатели могут увидеть некоторые знакомые черты сегодняшнего дня. Возьмите исследование главного героя в области смарт-контрактов, которые могут стать мошенническими — и убить — похоже на собственную научную работу Джуэла 2015 года о «криминальных смарт-контрактах». Или ссылки на знаменитую клетчатую рубашку генерального директора Chainlink Сергея Назарова. Другие, такие как мощный инструмент ИИ, который помогает компьютерам взаимодействовать с миром и интерпретировать его, как ChatGPT от OpenAI, появились в сети только после того, как Джуэлс начал писать.

Смотрите также:Человек в Клетке

К счастью, иногда вымыселявляетсястраннее реальности, и перспективы смарт-контрактов, запрограммированных на убийство, остаются отдаленной угрозой, сказал Джулс. Он сказал, что сохраняет осторожный оптимизм в отношении того, что если люди начнут думать о рисках сегодня и разрабатывать ограждения, такие как оракулы на основе блокчейна (по сути, системы подачи информации), это может помочь предотвратить проблемы в долгосрочной перспективе.

На прошлой неделе CoinDesk встретился с Джулсом, чтобы обсудить бурно развивающееся взаимодействие блокчейна и искусственного интеллекта, то, как все может выйти из-под контроля, а также то, что люди переоценивают и недооценивают в Технологии.

Возможны ли сегодня смарт-контракты, подобные тем, что описаны в «Оракуле»?

Они невозможны при сегодняшней инфраструктуре, но возможны или, по крайней мере, вероятны при современных Технологии.

Каковы, по вашему мнению, сроки, когда могут произойти Мероприятия, подобные описанным в книге?

Немного сложно сказать. По крайней мере, несколько лет. Что делает их технологически правдоподобными сейчас, хотя на самом деле они T были таковыми в то время, когда я начал писать роман, так это появление мощных LLM [больших языковых моделей], потому что они нужны, по сути, для вынесения решения по тому, что роман называет мошенническим контрактом. Мошеннический контракт подстрекал к преступлению, в данном случае, к смерти героя романа, и каким-то образом должно быть принято решение относительно того, произошло ли преступление или нет, и кто был ответственен за него и, следовательно, должен получить вознаграждение.

Чтобы сделать эти две вещи, вам нужно что-то, что сможет извлекать ключевые слова из новостных статей — по сути, LLM, подключенный к инфраструктуре блокчейна и наследующий те же свойства, что и смарт-контракты, а именно тот факт, что они, по крайней мере в принципе, неостановимы, если закодированы таким образом.

Нужен ли вам блокчейн для создания смарт-контрактов?

Это зависит от модели доверия, которую вы ищете. В некотором смысле ответ — нет, вы можете запустить смарт-контракты в централизованной системе. Но тогда вы потеряете преимущества децентрализации, а именно устойчивость к сбоям отдельных вычислительных устройств, устойчивость к цензуре и уверенность в том, что правила T изменятся из-под вашего контроля.

Возможно, это странный вопрос, но я подумал, что вы его поймете: являются ли блокчейны аполлоновскими?

Это странный вопрос, и я его понимаю. Я бы не сказал, что блокчейны вообще, но оракулы — определенно. Как вы знаете, роман не только о современных оракулах, но и о Дельфийском оракуле. Они оба призваны служить окончательными источниками истины, в некотором смысле. ONE буквально питается богом Аполлоном, по крайней мере, по мнению древних греков. А другой питается авторитетными источниками данных, такими как веб-сайты. Так что если вы примете эту точку зрения, да, я бы сказал, что системы оракулов имеют своего рода аполлоновскую природу, потому что Аполлон был богом истины.

Достаточно ли сегодня Политика конфиденциальности блокчейна?

Все Технологии представляют собой палку о двух концах. Очевидно, что у Политика конфиденциальности есть хорошие и важные аспекты. По-настоящему свободное общество T может быть без Политика конфиденциальности. Мысли людей, как минимум, должны оставаться конфиденциальными, чтобы люди могли действовать свободно. Но Политика конфиденциальности можно злоупотреблять. Преступная деятельность может использовать Технологии блокчейна. Но я бы сказал, что сегодня у нас еще T достаточно мощных инструментов сохранения конфиденциальности, чтобы предоставить пользователям преимущества Политика конфиденциальности , которых, по моему мнению, они заслуживают.

Смотрите также:Кодекс — это не (всегда) закон | Мнение

Можно ли сказать, что Технологии в целом являются позитивной силой?

Технологии имеют явные преимущества. Мы прошли очень долгий путь к искоренению глобальной бедности, это ONE из хороших новостей, которую люди склонны упускать из виду. Но были и издержки использования новых технологий — это становится очевидным, если посмотреть на общее счастье или удовлетворенность людей в богатых западных странах, которые застопорились. Это можно отчасти объяснить побочным эффектом Технологии. Есть и другие факторы, включая разрушение социальной сплоченности и чувство одиночества, но Технологии в какой-то степени ответственны за это.

ONE из причин, по которой я включил древнегреческое измерение [в «Оракул», было то, что я чувствую, что ONE из вещей, которую мы теряем в результате всепроникающей Технологии, — это определенное чувство благоговения. Тот факт, что у нас есть ответы на большинство вопросов, которые мы бы естественным образом задали, имея под рукой Google или агентов ИИ, означает уменьшение нашего чувства удивления и тайны, которыми мы были охвачены раньше. В нашей повседневной жизни стало меньше места для интеллектуальных исследований. Вам нужно копать глубже, если это имеет смысл.

Это прекрасная идея. Всемирная паутина T содержит всей суммы Human знаний, но она составляет значительную их часть. И все же мы используем ее в основном для удовлетворения наших низменных желаний.

Нам дан этот невероятный дар. И нам на удивление трудно его оценить.

На что мы слишком бурно реагируем, когда речь заходит о Технологии?

Я склонен быть несколько оптимистичным, когда дело касается сценариев конца света ИИ. Я ни в коем случае не эксперт в этой области, но я изучал информационную безопасность в течение довольно долгого периода времени. И аналогия, которую я люблю проводить, и я надеюсь, что она будет верна, это ошибка Y2K. Сценарии конца света, которые люди представляли, T произошли. T было необходимости в ручном вмешательстве. У нас есть все эти виды скрытых автоматических выключателей. И поэтому я чувствую определенную степень уверенности, что эти автоматические выключатели сработают, если, скажем, агент ИИ выйдет из-под контроля. Это дает мне, по крайней мере, определенную степень комфорта и Optimism относительно будущего ИИ.

Я заметил, что большинство ваших научных работ обычно написаны в соавторстве. Это был большой сдвиг, когда вы писали в одиночку?

Да, это был огромный сдвиг по ряду направлений по сравнению с написанием научной статьи. Во-ONE , когда вы пишете научную статью, язык в основном должен быть сухим, в противном случае статья, скорее всего, будет отклонена коллегами. Забавная история об этом. В 1999 году я был соавтором статьи — на самом деле, это была статья, в которой был предложен термин proof-of-work [механизм консенсуса, лежащий в основе Bitcoin]. Мы процитировали популярную кулинарную книгу «The Joy of Cooking», потому что в названии статьи было слово «хлебный пудинг», и мы хотели получить ссылку, чтобы объяснить, что это такое. Рецензент хотел отклонить статью, потому что он посчитал, что эта ссылка T была должным образом научной. Это тот тип среды, в которой вы работаете в академической среде.

Но что еще важнее, когда вы работаете в одиночку над проектом такого типа, это дает гораздо больше свободы воображению. Это ONE из приятных сторон сотрудничества с другими людьми и ONE из причин, по которой я этим занимаюсь — это может помочь вам сформулировать идеи, но также служит проверкой идей, которые T T или T смысла. В случае с художественной литературой, в рамках свободных границ, нет такого понятия, как идея, которая T работает или T имеет смысла.

Есть ли у вас какие-либо необычные методы работы, характерные для человека, который преподает в Лиге плюща, проводит исследования для Chainlink и пишет в свободное время?

Это зависит от набора проектов, которыми я жонглирую. Когда я пытался выкроить время для книги, мне помогло то, что я был одержим ее написанием. Это был настоящий FLOW . Венгерский психолог Михай Чиксентмихайи исследовал концепцию FLOW, определив ее как деятельность, в которой вы можете сохранять уникальную сосредоточенность в течение длительного периода и терять счет времени. Письмо приводило меня в состояние FLOW . Я втискивал его в маленькие уголки и щели доступного мне времени.

Как вы считаете, переоценены или недооценены NFT?

Bored Apes переоценены. Pointless NFTs переоценены. Но долгосрочное будущее NFTs, возможно, недооценено. В каком-то смысле, это новый художественный медиум — как фотография была в 19 веке. Только постепенно люди стали воспринимать фотографию как настоящий художественный медиум. В долгосрочной перспективе я на самом деле довольно оптимистичен, хотя мне T удалось убедить своих аспирантов работать над проектами, связанными с NFT.

Интересно. Меняется ли интерес к Криптo от группы к группе?

Это меняется от человека к человеку. Например, у меня есть некоторые аспиранты, которые приходят, не зная, над чем они хотят работать, и я в конечном итоге помогаю им определить направление исследований. А другие с ONE дня точно знают, что они хотят делать. У меня есть ONE студент, который собирается закончить учебу, и он знал, что хочет работать над DeFi. Это, по сути, то, что он делал в течение пяти лет, работая со мной. Я вижу роль научного руководителя в том, чтобы помогать моим аспирантам достигать всего, чего они хотят достичь.

Что еще вы хотели бы сказать о книге?

ONE вещь, которую я хочу подчеркнуть, важное сообщение для сообщества в целом, это растущее признание того, что финансовая система может быть вектором побега ИИ. Люди обеспокоены тем, что агенты ИИ вырвутся из своих границ и будут контролировать киберфизические системы, такие как автономные транспортные средства, электростанции или системы вооружения — это сценарий, который они имеют в виду. Я думаю, они забывают, что финансовая система, в частности Криптовалюта, особенно хорошо подходит для контроля со стороны агентов ИИ и сама может быть вектором побега. Если вы контролируете деньги, вы можете оказывать влияние на реальный мир, верно?

Смотрите также:Что такое Chainlink?

Вопрос в том, как нам решать проблему безопасности ИИ в свете этой особой озабоченности вокруг систем блокчейна? Книга на самом деле заставила меня и моих коллег из Chainlink задуматься о том, как оракулы действуют как привратники этой новой финансовой системы, и какую роль они могли бы играть в безопасности ИИ.

Есть ли у Chainlink какие-либо реальные планы, которые помогут предотвратить нечто подобное?

Это то, о чем я только начал думать, но некоторые из ограждений, которые уже присутствуют в системах, которые мы создаем, например, CCIP или мосты с кросс-цепочками, на самом деле были бы полезны в случае побега ИИ, устанавливая границы того, что может сделать вредоносный агент. Это отправная точка. Но вопрос в том, нужны ли нам такие вещи, как обнаружение аномалий, чтобы обнаруживать не только мошенническую деятельность Human , но и мошенническую деятельность ИИ? Это важная проблема, на самом деле я начинаю уделять ONE достаточно много внимания.