Cosa c'è all'intersezione tra Cripto e intelligenza artificiale? Forse un omicidio

L'esperto di sicurezza Ari Juels pensa a come la Tecnologie possa far deragliare la società da quando ha memoria. Ciò T significa che Juels, scienziato capo presso Chainlink e professore presso la Cornell Tech di New York City, pensi che il mondo stia per andare fuori dai binari. Ma nell'ultimo decennio, con lo sviluppo di grandi modelli linguistici che supportano sistemi di intelligenza artificiale sempre più potenti e contratti intelligenti autonomi e autoeseguibili, le cose hanno iniziato a prendere una direzione più preoccupante.

Questo è un estratto dalla newsletter The Node, un riepilogo quotidiano delle notizie più importanti Cripto su CoinDesk e oltre. Puoi abbonarti per ricevere l'intero newsletter qui.

C'è un "crescente riconoscimento che il sistema finanziario può essere un vettore di fuga dall'IA", ha detto Juels in un'intervista con CoinDesk. "Se controlli il denaro, puoi avere un impatto sul mondo reale". Questo scenario apocalittico è il punto di partenza per il secondo romanzo di Juels, “L’Oracolo,” un thriller poliziesco pubblicato dalla prestigiosa etichetta di fantascienza Talos, che racconta la storia di un ricercatore di blockchain di New York arruolato dal governo degli Stati Uniti per contrastare un protocollo Cripto trasformato in arma.

Ambientato in un futuro NEAR , i lettori potrebbero vedere alcune somiglianze con i giorni nostri. Prendiamo la ricerca del protagonista sui contratti intelligenti che possono diventare canaglia — e uccidere — simile al paper accademico di Juel del 2015 sui "contratti intelligenti criminali". O riferimenti alla famosa camicia a quadri del CEO Chainlink Sergey Nazarov. Altri, come un potente strumento di intelligenza artificiale che aiuta i computer a interagire con il mondo e a interpretarlo, come ChatGPT di OpenAI, sono stati pubblicati online solo dopo che Juels ha iniziato a scrivere.

Vedi anche:L'uomo in plaid

Per fortuna, a volte la finzioneÈpiù strana della realtà, e le prospettive di smart contract programmati per uccidere restano una minaccia lontana, ha detto Juels. Ha detto di essere cauto ottimista sul fatto che se le persone iniziano a pensare ai rischi oggi e progettano guardrail come oracoli basati su blockchain (essenzialmente sistemi di alimentazione per le informazioni), ciò potrebbe aiutare a prevenire i problemi a lungo termine.

La scorsa settimana CoinDesk ha incontrato Juels per discutere della crescente intersezione tra blockchain e intelligenza artificiale, dei modi in cui le cose possono deragliare e di ciò che le persone sopravvalutano o sottovalutano della Tecnologie.

Sono possibili contratti intelligenti come quelli di “The Oracle” oggi?

Non sono realizzabili con le infrastrutture odierne, ma sono possibili o almeno plausibili con la Tecnologie odierna.

Quali sono i tempi entro cui, secondo te, potrebbero verificarsi eventi simili a quelli Eventi nel libro?

È un po' difficile dirlo. Almeno qualche anno. Ciò che li rende tecnologicamente plausibili ora, quando in realtà non T erano quando ho iniziato a scrivere il romanzo, è l'avvento di potenti LLM [grandi modelli linguistici] perché sono necessari essenzialmente per giudicare con quello che il romanzo chiama un contratto canaglia. Il contratto canaglia sollecitava un crimine, in questo caso la morte dell'eroe del romanzo, e in qualche modo si deve stabilire se il crimine si è verificato o meno e chi ne è stato il responsabile e quindi dovrebbe ricevere una ricompensa.

Per fare queste due cose, hai bisogno di qualcosa che estragga le parole chiave dagli articoli di notizie: in pratica un LLM collegato all'infrastruttura blockchain e che eredita le stesse proprietà degli smart contract, vale a dire il fatto che sono, almeno in linea di principio, inarrestabili se sono codificati per comportarsi in quel modo.

Hai bisogno di una blockchain per creare contratti intelligenti?

Dipende dal modello di fiducia che stai cercando. In un certo senso, la risposta è no, potresti eseguire contratti intelligenti in un sistema centralizzato. Ma allora perderesti i vantaggi della decentralizzazione, vale a dire, la resilienza al fallimento dei singoli dispositivi di elaborazione, la resistenza alla censura e la fiducia che le regole T cambieranno da sotto di te.

Forse è una domanda strana, ma ho pensato che avresti capito: le blockchain sono apollinee?

Questa è una domanda strana, e la capisco. Non direi blockchain in generale, ma oracoli sicuramente. Come forse saprai, il romanzo non parla solo di oracoli moderni, ma anche dell'Oracolo di Delfi. Entrambi mirano a fungere da fonti definitive di verità, in un certo senso. ONE è letteralmente alimentato dal dio Apollo, almeno nella convinzione degli antichi Greci. E l'altro è alimentato da fonti autorevoli di dati come i siti web. Quindi, se si adotta questa prospettiva, sì, direi che i sistemi oracolari sono in un certo senso di natura apollinea perché Apollo era il dio della verità.

La Privacy basata sulla blockchain è sufficiente oggi?

Tutta la Tecnologie ha un'arma a doppio taglio. Ci sono ovviamente aspetti positivi e importanti della Privacy. T puoi avere una società veramente libera senza Privacy. I pensieri delle persone, come minimo, devono rimanere privati ​​affinché le persone possano agire liberamente. Ma la Privacy può essere abusata. Le attività criminali possono utilizzare la Tecnologie blockchain. Ma direi che oggi T abbiamo ancora strumenti di tutela della privacy abbastanza potenti da fornire agli utenti i vantaggi della Privacy che penso meritino.

Vedi anche:Il codice non è (sempre) legge | Opinioni

Diresti che la Tecnologie nel suo complesso è una forza generalmente positiva?

Ci sono chiari vantaggi nella Tecnologie. Abbiamo fatto molta strada verso l'eradicazione della povertà globale, questa è ONE delle buone notizie che le persone tendono a trascurare. Ma ci sono stati dei costi nell'uso delle nuove tecnologie, che diventano visibili quando si guarda alla felicità o alla contentezza generale di coloro che vivono nelle ricche nazioni occidentali, che sono rimaste stagnanti. Ciò può essere spiegato come un effetto collaterale della Tecnologie, in parte. Ci sono altri fattori in gioco, tra cui una rottura della coesione sociale e sentimenti di solitudine, ma la Tecnologie ne è stata in qualche modo responsabile.

ONE dei motivi per cui ho incorporato la dimensione greca antica [in The Oracle] è che ritengo che ONE delle cose che stiamo perdendo a causa della pervasività della Tecnologie sia un certo senso di soggezione. Il fatto che abbiamo le risposte alla maggior parte delle domande che ci porremmo naturalmente con Google o gli agenti AI a portata di mano significa una diminuzione del nostro senso di meraviglia e mistero da cui eravamo circondati. C'è meno spazio per noi nella nostra vita quotidiana per esplorare intellettualmente. Bisogna scavare più a fondo, se ha senso.

È una bella idea. Il World Wide Web T contiene la somma totale della conoscenza Human , ma ne è una parte significativa. Eppure lo usiamo principalmente per assecondare i nostri desideri di base.

Ci è stato dato questo dono incredibile. Ed è sorprendentemente difficile per noi apprezzarlo.

A cosa stiamo esagerando quando si parla di Tecnologie?

Tendo a essere un po' ottimista quando si tratta di scenari apocalittici dell'IA. Non sono affatto un esperto in materia, ma ho studiato la sicurezza informatica per un periodo di tempo piuttosto lungo. E l'analogia che mi piace fare, e spero che sia valida, è con il bug Y2K. Gli scenari apocalittici che le persone immaginavano T si sono verificati. T c'era bisogno di un intervento manuale. Abbiamo tutti questi tipi di interruttori nascosti in atto. E quindi ho un certo grado di fiducia che quegli interruttori entreranno in azione se, ad esempio, un agente dell'IA diventa un ribelle. Questo mi fornisce almeno un certo grado di conforto e Optimism sul futuro dell'IA.

Ho notato che la maggior parte dei tuoi scritti accademici sono normalmente scritti in collaborazione. È stato un grande cambiamento scrivere da soli?

Sì, è stato un enorme cambiamento sotto vari aspetti rispetto alla scrittura di un articolo accademico. ONE è che quando scrivi un articolo accademico, il linguaggio deve essere sostanzialmente asciutto, altrimenti è probabile che l'articolo venga rifiutato dai colleghi. Una storia divertente a riguardo. Nel 1999, sono stato coautore di un articolo, in realtà è stato l'articolo che ha proposto il termine proof-of-work [il meccanismo di consenso alla base di Bitcoin]. Abbiamo citato un famoso libro di cucina, "The Joy of Cooking", perché il titolo dell'articolo includeva la parola budino di pane e volevamo un riferimento per spiegare di cosa si trattasse. Un revisore voleva rifiutare l'articolo perché riteneva che questo riferimento T fosse appropriatamente accademico. Questo è il tipo di ambiente in cui si opera nel mondo accademico.

Ma ancora più importante, quando lavori da solo a un progetto di questo tipo, dà molto più libero sfogo all'immaginazione. Questo è ONE degli aspetti positivi della collaborazione con altre persone e ONE dei motivi per cui lo faccio: può aiutarti a formulare idee, ma anche a fungere da controllo sulle idee che T T o T hanno senso. Nel caso della narrativa, entro limiti vaghi, non esiste un'idea che T funziona o T ha senso.

Utilizziamo tecniche di lavoro insolite, per uno che insegna nell'Ivy League, fa ricerche per Chainlink e scrive nel tempo libero?

Dipende dal set di progetti che sto gestendo. La cosa che è stata utile quando ho cercato di trovare il tempo per il libro è stata che ero ossessionato dalla scrittura. È stato un vero e proprio processo FLOW . Lo psicologo ungherese Mihaly Csikszentmihalyi ha esplorato il concetto di FLOW, definendolo come un'attività in cui puoi mantenere un focus unico per un periodo prolungato e perdere la cognizione del tempo. La scrittura mi ha messo in uno stato FLOW . L'ho infilata nei piccoli angoli e fessure del tempo a mia disposizione.

Pensi che gli NFT siano sopravvalutati o sottovalutati?

Le scimmie annoiate sono sopravvalutate. Gli NFT inutili sono sopravvalutati. Ma il futuro a lungo termine degli NFT è forse sottovalutato. In un certo senso, è un nuovo mezzo artistico, come lo era la fotografia nel XIX secolo. Solo lentamente le persone hanno iniziato a vedere la fotografia come un vero mezzo artistico. A lungo termine, sono in realtà piuttosto ottimista, anche se T sono riuscito a convincere i miei studenti di dottorato a lavorare su progetti correlati agli NFT.

Interessante. L'interesse per le Cripto cambia da coorte a coorte?

Cambia da individuo a individuo. Ad esempio, ho alcuni studenti di dottorato che arrivano senza sapere su cosa vogliono lavorare e finisco per aiutarli a impostare una direzione di ricerca. E altri sanno esattamente dal ONE giorno cosa vogliono fare. Ho ONE studente che sta per laurearsi e sapeva di voler lavorare su DeFi. È fondamentalmente quello che ha fatto per cinque anni mentre lavorava con me. Vedo il ruolo di un supervisore di dottorato come aiutare i miei studenti di dottorato a realizzare qualsiasi cosa vogliano realizzare.

C'è altro che vorresti dire sul libro?

ONE cosa che voglio sottolineare, un messaggio importante per la comunità in generale, è il crescente riconoscimento che il sistema finanziario può essere un vettore di fuga dell'IA. Le persone sono preoccupate che gli agenti dell'IA possano fuggire dai loro confini e controllare sistemi ciberfisici come veicoli autonomi, centrali elettriche o sistemi di armi: questo è lo scenario che hanno in mente. Penso che dimentichino che il sistema finanziario, in particolare la Criptovaluta, è particolarmente adatto al controllo da parte di agenti dell'IA e può essere esso stesso un vettore di fuga. Se controlli il denaro, puoi avere un impatto sul mondo reale, giusto?

Vedi anche:Che cosa è Chainlink?

La domanda è come gestire la sicurezza dell'IA in vista di questa preoccupazione molto particolare sui sistemi blockchain? Il libro ha effettivamente portato me e i miei colleghi di Chainlink a riflettere su come gli oracoli agiscono come guardiani di questo nuovo sistema finanziario e sul ruolo che potrebbero svolgere nella sicurezza dell'IA.

Chainlink può fare qualcosa di concreto per impedire che accada qualcosa del genere?

Questa è una cosa a cui ho appena iniziato a pensare, ma alcuni dei guardrail già presenti nei sistemi che costruiamo come CCIP o i cross chain bridge sarebbero effettivamente utili nel caso di una fuga dell'IA, stabilendo limiti per ciò che un agente malintenzionato potrebbe fare. Questo è un punto di partenza. Ma la domanda è: abbiamo bisogno di cose come il rilevamento delle anomalie per rilevare non solo l'attività Human non autorizzata, ma anche l'attività dell'IA non autorizzata? È un problema importante, è in realtà ONE a cui sto iniziando a dedicare una discreta quantità di attenzione.