Що знаходиться на перетині Крипто та штучного інтелекту? Можливо, вбивство

Експерт з безпеки Арі Джуелс розмірковував про те, як Технології можуть вибити суспільство з колії, скільки себе пам’ятає. Це T означає, що Джулс, головний науковий співробітник Chainlink і професор Cornell Tech у Нью-Йорку, вважає, що світ незабаром зійде з рейок. Але за останнє десятиліття — з розвитком великих мовних моделей, які підтримують дедалі потужніші системи штучного інтелекту та автономні смарт-контракти, що самостійно виконуються — все почало розвиватися в більш тривожному напрямку.

Це уривок з інформаційного бюлетеня The Node, щоденного огляду найважливіших новин про Крипто на CoinDesk і за його межами. Ви можете підписатися, щоб отримати повну версію інформаційний бюлетень тут.

«Зростає визнання того, що фінансова система може бути вектором втечі штучного інтелекту», — сказав Джулс в інтерв’ю CoinDesk. «Якщо ви контролюєте гроші, ви можете впливати на реальний світ». Цей сценарій кінця світу є крапкою для другого роману Джулса, «Оракул», кримінальний трилер, опублікований важковаговим науково-фантастичним видавництвом Talos, про дослідника блокчейнів із Нью-Йорка, залученого урядом США для перешкоджання Крипто із застосуванням зброї.

Події відбуватимуться в NEAR майбутньому, і читачі можуть побачити деякі знайомі події сьогодні. Перегляньте дослідження головного героя щодо смарт-контрактів, які можуть стати шахраями — і вбити — схоже на власну наукову статтю Джуела 2015 року про «злочинні розумні контракти». Або посилання на знамениту картату сорочку генерального директора Chainlink Сергія Назарова. Інші, як-от потужний інструмент штучного інтелекту, який допомагає комп’ютерам взаємодіяти зі світом та інтерпретувати його, як-от ChatGPT від OpenAI, з’явилися в мережі лише після того, як Джулс почав писати.

Дивіться також: Людина в пледі

На щастя, іноді фантастика є дивніше за реальність, і перспективи смарт-контрактів, запрограмованих на вбивство, залишаються віддаленою загрозою, сказав Джулс. Він сказав, що він залишається обережним оптимістом, що якщо люди почнуть думати про ризики сьогодні та розроблять огорожі, як оракули на основі блокчейну (по суті, системи подачі інформації), це може допомогти запобігти проблемам у довгостроковій перспективі.

Минулого тижня CoinDesk поспілкувався з Джуелсом, щоб обговорити зростаючий взаємозв’язок блокчейну та штучного інтелекту, те, як все може зрушитися з колії та що люди перевищують і недооцінюють Технології.

Чи можливі смарт-контракти, подібні тим, що в «Оракулі», сьогодні?

Вони неможливі з сучасною інфраструктурою, але можливі або принаймні правдоподібні з сучасними Технології.

Який ваш графік, коли може відбутися щось подібне до Заходи книги?

Трохи важко сказати. Принаймні кілька років. Те, що робить їх технологічно правдоподібними зараз, хоча насправді вони T були в той час, коли я починав писати роман, це поява потужних LLM [великих мовних моделей], тому що вони необхідні, по суті, для вирішення того, що в романі називають шахрайським контрактом. Контракт із шахраями вимагав злочину, у цьому випадку смерті героя роману, і якимось чином потрібно визначити, чи стався злочин чи ні, і хто відповідальний за нього, і тому повинен отримати винагороду.

Щоб зробити ці дві речі, вам знадобиться щось, щоб витягувати ключові слова з новинних статей — по суті, LLM, підключений до інфраструктури блокчейну та успадковує ті ж властивості, що й смарт-контракти, а саме той факт, що їх, принаймні в принципі, неможливо зупинити, якщо вони закодовані, щоб поводитися таким чином.

Вам потрібен блокчейн для створення смарт-контрактів?

Це залежить від моделі довіри, яку ви прагнете. У певному сенсі відповідь ні, ви можете запустити смарт-контракти в централізованій системі. Але тоді ви втратите переваги децентралізації, а саме стійкість до збоїв окремих комп’ютерних пристроїв, опір цензурі та впевненість у тому, що правила T зміняться з-під вас.

Це може бути дивним запитанням, але я припустив, що ви можете його зрозуміти: чи є блокчейни Аполлонією?

Це дивне запитання, і я його розумію. Я б не сказав блокчейни в цілому, але оракули точно. Як ви, мабуть, знаєте, роман розповідає не лише про сучасних оракулів, а й про Дельфійський оракул. У певному сенсі вони обидва покликані служити остаточними джерелами істини. ONE буквально живиться богом Аполлоном, принаймні у віруваннях стародавніх греків. А інший базується на авторитетних джерелах даних, таких як веб-сайти. Отже, якщо взяти цю точку зору, так, я б сказав, що системи оракулів є начебто аполлонівськими за своєю природою, тому що Аполлон був Богом істини.

Чи достатньо Політика конфіденційності блокчейна сьогодні?

Усі Технології оснащені двосічним мечем. Очевидно, що Політика конфіденційності має хороші та важливі аспекти. Ви T можете мати справді вільне суспільство без Політика конфіденційності. Думки людей, як мінімум, повинні залишатися приватними, щоб люди могли діяти вільно. Але Політика конфіденційності можна зловживати. Злочинна діяльність може використовувати Технології блокчейн. Але я б сказав, що ми сьогодні ще T маємо достатньо потужних інструментів для збереження конфіденційності, щоб надати користувачам переваги Політика конфіденційності , на які, я вважаю, вони заслуговують.

Дивіться також: Кодекс не є (завжди) законом | Погляди

Чи можете ви сказати, що Технології в цілому є позитивною силою?

Є очевидні переваги Технології. Ми пройшли дуже довгий шлях до викорінення глобальної бідності, це ONE з хороших новин, яку люди, як правило, не помічають. Але використання нових технологій обходиться дорогою — це стає очевидним, якщо ви подивитесь на загальне щастя чи задоволеність жителів багатих західних країн, які стагнують. Частково це можна пояснити побічним ефектом Технології. Існують і інші чинники, зокрема порушення соціальної згуртованості та відчуття самотності, але певною мірою за це відповідальні Технології .

ONE з причин, чому я включив давньогрецький вимір [в Оракул], полягала в тому, що я відчуваю, що ONE з речей, яку ми втрачаємо в результаті поширеності Технології , це певне почуття благоговіння. Той факт, що ми маємо під рукою відповіді на більшість запитань, які ми б природно поставили, коли б у нас були під рукою Google або агенти штучного інтелекту, означає зменшення нашого відчуття дива й таємниці, якими ми раніше були охоплені. У нашому повсякденному житті залишається менше місця для інтелектуального дослідження. Ви повинні копнути глибше, якщо це має сенс.

Це гарна ідея. Всесвітня павутина T містить усіх Human знань, але становить значну їх частину. Проте ми використовуємо його здебільшого для задоволення своїх низьких бажань.

Ми отримали цей неймовірний подарунок. І це нам напрочуд важко оцінити.

На що ми надмірно реагуємо, коли йдеться про Технології?

Я схильний до певної міри оптимістично налаштований, коли мова заходить про сценарії кінця суду зі штучним інтелектом. Я аж ніяк не фахівець у цій галузі, але я досить довго вивчав інформаційну безпеку. І аналогія, яку я люблю проводити, і я сподіваюся, що це добре, це помилка Y2K. Сценарії кінця світу, які люди передбачали, T відбулися. T було потреби в ручному втручанні. У нас є всі ці типи прихованих автоматичних вимикачів. І тому я певною мірою впевнений, що ці автоматичні вимикачі спрацюють, якщо, скажімо, агент ШІ стане шахраєм. Це дає мені принаймні певний рівень комфорту та Optimism щодо майбутнього ШІ.

Я помітив, що більшість ваших наукових робіт зазвичай написані у співавторстві. Це була велика зміна написання наодинці?

Так, це був величезний перехід у багатьох аспектах від написання наукової статті. ONE полягає в тому, що коли ви пишете наукову статтю, мова, як правило, має бути сухою, інакше стаття, ймовірно, буде відкинута колегами. Смішна історія про це. У 1999 році я був співавтором статті — насправді це була стаття, яка запропонувала термін «доказ роботи» [механізм консенсусу, що стоїть за Bitcoin]. Ми процитували популярну кулінарну книгу «Радість кулінарії», оскільки в назві статті було слово «хлібний пудинг», і нам хотілося посилання, щоб пояснити, що це таке. Рецензент хотів відхилити статтю, оскільки вважав, що це посилання T є належним науковим. Це тип середовища, в якому ви працюєте в академічному середовищі.

Але що ще важливіше, коли ви працюєте наодинці над проектом такого типу, це дає набагато більше волі уяві. Це ONE з приємних речей у співпраці з іншими людьми і ONE з причин, чому я це роблю — це може допомогти вам сформулювати ідеї, але також служити перевіркою ідей, які T T або T мають сенсу. У випадку художньої літератури, у вільних межах, немає такого поняття, як ідея, яка T працює або T має сенсу.

Чи є у вас якісь незвичайні методи роботи від тих, хто викладає в Лізі Плюща, проводить дослідження для Chainlink і пише у вільний час?

Це залежить від набору проектів, якими я керую. Коли я намагався втиснути час на книгу, мені допомогло те, що я був одержимий її написанням. Це був справжній FLOW процес. Угорський психолог Міхай Чиксентміхайі дослідив концепцію FLOW, визначивши його як діяльність, у якій ви можете зберігати унікальну зосередженість протягом тривалого періоду та втратити відчуття часу. Написання переводило мене в стан FLOW . Я втиснув його в маленькі закутки доступного мені часу.

Як ви вважаєте, NFT переоцінені чи недооцінені?

Нудьгуючих мавп переоцінюють. Безглузді NFT переоцінені. Але довгострокове майбутнє NFT, можливо, недооцінене. У якомусь сенсі це новий мистецький засіб — яким була фотографія в 19 столітті. Лише повільно люди почали сприймати фотографію як справжній мистецький засіб. У довгостроковій перспективі я насправді налаштований оптимістично, хоча мені T вдалося переконати своїх аспірантів працювати над проектами, пов’язаними з NFT.

Цікаво. Чи змінюється інтерес до Крипто когорта за когортою?

Він змінюється від індивіда до індивіда. Наприклад, у мене приходять аспіранти, які не знають, над чим вони хочуть працювати, і я врешті-решт допоможу їм визначити напрямок досліджень. А інші з ONE дня точно знають, що хочуть робити. У мене є ONE студент, який знав, що хоче працювати над DeFi. По суті, це те, що він робив протягом п’яти років, працюючи зі мною. Я бачу роль консультанта аспірантів у тому, щоб допомагати моїм аспірантам досягати того, чого вони хочуть.

Щось ще ви хотіли сказати про книгу?

ONE річ, яку я хочу підкреслити, важливе повідомлення для спільноти в цілому, це зростаюче визнання того, що фінансова система може бути вектором відходу ШІ. Люди стурбовані тим, що агенти штучного інтелекту втечуть зі своїх обмежень і керуватимуть кіберфізичними системами, такими як автономні транспортні засоби, електростанції чи системи озброєнь — це сценарій, який вони мають на увазі. Я думаю, вони забувають, що фінансова система, зокрема Криптовалюта, особливо добре підходить для контролю з боку агентів штучного інтелекту і сама може бути вектором втечі. Якщо ви контролюєте гроші, ви можете впливати на реальний світ, чи не так?

Дивіться також: Що таке Chainlink?

Питання полягає в тому, як ми маємо справу з безпекою штучного інтелекту з огляду на це дуже особливе занепокоєння навколо систем блокчейну? Книга фактично змусила мене та моїх колег із Chainlink задуматися про те, як Oracle виконують роль воротарів цієї нової фінансової системи та яку роль вони можуть відігравати в безпеці ШІ.

Чи є щось відчутне на увазі, що Chainlink може зробити, щоб запобігти подібному?

Це те, про що я тільки почав думати, але деякі з огорож, які вже присутні в системах, які ми будуємо, наприклад CCIP або перехресні ланцюгові мости, насправді були б корисними у випадку втечі штучного інтелекту, встановлюючи межі для того, що може зробити зловмисний агент. Це відправна точка. Але питання в тому, чи потрібні нам такі речі, як виявлення аномалій, щоб виявляти не лише шахрайську діяльність Human , але й шахрайську діяльність ШІ? Це важлива проблема, я фактично починаю приділяти ONE чимало уваги.