O que está na intersecção de Cripto e IA? Talvez assassinato

O especialista em segurança Ari Juels vem pensando sobre como a Tecnologia pode descarrilar a sociedade desde que ele consegue se lembrar. Isso T significa que Juels, o cientista chefe da Chainlink e professor da Cornell Tech, na cidade de Nova York, acha que o mundo vai sair dos trilhos tão cedo. Mas na última década — com o desenvolvimento de grandes modelos de linguagem que apoiam sistemas de inteligência artificial cada vez mais poderosos e contratos inteligentes autônomos e autoexecutáveis ​​— as coisas começaram a tender para uma direção mais preocupante.

Este é um trecho do boletim informativo The Node, um resumo diário das notícias de Cripto mais importantes no CoinDesk e além. Você pode se inscrever para obter o boletim completo boletim informativo aqui.

Há um “reconhecimento crescente de que o sistema financeiro pode ser um vetor de escape de IA”, disse Juels em uma entrevista com a CoinDesk. “Se você controla o dinheiro, pode ter um impacto no mundo real.” Este cenário do dia do juízo final é o ponto de partida para o segundo romance de Juels, “O Oráculo,” um thriller policial publicado pelo selo de ficção científica Talos, sobre um pesquisador de blockchain de Nova York recrutado pelo governo dos EUA para frustrar um protocolo de Cripto transformado em arma.

Situado em um futuro NEAR , os leitores podem ver algumas familiaridades com o presente. Veja a pesquisa do protagonista sobre contratos inteligentes que podem se tornar desonestos — e matar — semelhante ao próprio artigo acadêmico de Juel de 2015 sobre “contratos inteligentes criminosos”. Ou referências à famosa camisa xadrez do CEO da Chainlink , Sergey Nazarov. Outros, como uma poderosa ferramenta de IA que ajuda os computadores a interagir e interpretar o mundo, como o ChatGPT da OpenAI, só ficaram online depois que Juels começou a escrever.

Veja também:O Homem de Xadrez

Felizmente, às vezes a ficçãoémais estranho que a realidade, e as perspectivas de contratos inteligentes programados para matar continuam sendo uma ameaça distante, disse Juels. Ele disse que continua cautelosamente otimista de que se as pessoas começarem a pensar sobre os riscos hoje, e projetarem guardrails como oráculos baseados em blockchain (essencialmente sistemas alimentadores de informações), isso pode ajudar a prevenir problemas a longo prazo.

O CoinDesk conversou com Juels na semana passada para discutir a crescente intersecção entre blockchain e IA, as maneiras como as coisas podem sair dos trilhos e o que as pessoas superestimam e subestimam sobre Tecnologia.

Contratos inteligentes como os de “The Oracle” são possíveis hoje?

Elas não são possíveis com a infraestrutura atual, mas são possíveis ou pelo menos plausíveis com a Tecnologia atual.

Qual é o seu cronograma para quando algo como os Eventos do livro podem acontecer?

É um pouco difícil dizer. Pelo menos alguns anos. O que os torna tecnologicamente plausíveis agora, quando, na verdade, T eram na época em que comecei a escrever o romance, é o advento de poderosos LLM [large language models] porque eles são necessários essencialmente para julgar o que o romance chama de contrato desonesto. O contrato desonesto era solicitar um crime, neste caso, a morte do herói do romance, e de alguma forma uma determinação tem que ser feita sobre se o crime ocorreu ou não e quem foi o responsável por ele e, portanto, deveria receber uma recompensa.

Para fazer essas duas coisas, você precisa de algo para extrair palavras-chave de artigos de notícias — basicamente um LLM conectado à infraestrutura de blockchain e herdando as mesmas propriedades que os contratos inteligentes têm, ou seja, o fato de que eles são, pelo menos em princípio, imparáveis se forem codificados para se comportar dessa maneira.

Você precisa de um blockchain para criar contratos inteligentes?

Depende do modelo de confiança que você está buscando. Em certo sentido, a resposta é não, você poderia executar contratos inteligentes em um sistema centralizado. Mas então você perderia os benefícios da descentralização, ou seja, resiliência à falha de dispositivos de computação individuais, resistência à censura e confiança de que as regras T vão mudar sob você.

Essa pode ser uma pergunta estranha, mas imaginei que você pudesse entender: os blockchains são apolínicos?

Essa é uma pergunta estranha, e eu entendo. Eu não diria blockchains em geral, mas oráculos definitivamente. Como você deve saber, o romance não é apenas sobre oráculos modernos, mas também sobre o Oráculo de Delfos. Ambos visam servir como fontes definitivas da verdade, em algum sentido. Um é literalmente alimentado pelo deus Apolo, pelo menos na crença dos gregos antigos. E o outro é alimentado por fontes de dados confiáveis, como sites. Então, se você adotar essa perspectiva, sim, eu diria que os sistemas de oráculos são meio apolíneos por natureza porque Apolo era o Deus da verdade.

A Política de Privacidade do blockchain é suficiente hoje?

Toda Tecnologia apresenta uma espada de dois gumes. Obviamente, há facetas boas e importantes para a Política de Privacidade. Você T pode ter uma sociedade verdadeiramente livre sem Política de Privacidade. Os pensamentos das pessoas, no mínimo, precisam permanecer privados para que as pessoas ajam livremente. Mas a Política de Privacidade pode ser abusada. Atividades criminosas podem fazer uso da Tecnologia blockchain. Mas eu diria que hoje ainda T temos ferramentas poderosas o suficiente para preservar a privacidade para fornecer aos usuários os benefícios da Política de Privacidade que eu acho que eles merecem.

Veja também:Código não é (sempre) lei | Opinião

Você diria que a Tecnologia como um todo é uma força geralmente positiva?

Há benefícios claros na Tecnologia. Percorremos um longo caminho em direção à erradicação da pobreza global, essa é uma das boas notícias que as pessoas tendem a ignorar. Mas houve custos no uso de novas tecnologias — isso se torna visível quando você olha para a felicidade geral ou contentamento daqueles em nações ocidentais ricas, que estagnou. Isso pode ser contabilizado como um efeito colateral da Tecnologia, em parte. Há outros fatores em jogo, incluindo uma quebra na coesão social e sentimentos de solidão, mas a Tecnologia tem sido de certa forma responsável por isso.

Uma das razões pelas quais incorporei a dimensão grega antiga [em The Oracle] foi que sinto que uma das coisas que estamos perdendo como resultado da difusão da Tecnologia é um certo senso de admiração. O fato de termos as respostas para a maioria das perguntas que naturalmente faríamos com o Google ou agentes de IA na ponta dos dedos significa uma diminuição do nosso senso de admiração e mistério com o qual costumávamos ser cercados. Há menos espaço para nós em nossas vidas diárias explorarmos intelectualmente. Você tem que cavar mais fundo, se isso faz sentido.

É uma ideia linda. A World Wide Web T contém a soma total do conhecimento Human , mas é uma parte significativa dele. No entanto, nós a usamos principalmente para satisfazer nossos desejos básicos.

Recebemos esse presente incrível. E é surpreendentemente difícil para nós apreciarmos.

Por que estamos exagerando quando se trata de Tecnologia?

Eu tendo a ser um pouco otimista quando se trata de cenários apocalípticos de IA. Não sou de forma alguma um especialista no assunto aqui, mas estudei segurança da informação por um longo período de tempo. E a analogia que gosto de fazer, e espero que seja válida, é com o bug do Y2K. Os cenários apocalípticos que as pessoas imaginaram T aconteceram. T houve necessidade de intervenção manual. Temos todos esses tipos de disjuntores ocultos no lugar. E então sinto um certo grau de confiança de que esses disjuntores entrarão em ação se, digamos, um agente de IA se tornar desonesto. Isso me dá pelo menos um certo grau de conforto e Optimism em relação ao futuro da IA.

Percebi que a maioria dos seus escritos acadêmicos normalmente é coautorada. Foi uma grande mudança escrever sozinho?

Sim, foi uma grande mudança em vários aspectos de escrever um artigo acadêmico. Um é que quando você escreve um artigo acadêmico, a linguagem basicamente tem que ser seca, caso contrário, o artigo provavelmente será rejeitado pelos colegas. Uma história engraçada sobre isso. Em 1999, fui coautor de um artigo — na verdade, foi o artigo que propôs o termo prova de trabalho [o mecanismo de consenso por trás do Bitcoin]. Citamos um livro de receitas popular, "The Joy of Cooking", porque o título do artigo incluía a palavra pudim de pão e queríamos uma referência para explicar o que era. Um revisor queria rejeitar o artigo porque sentiu que essa referência T era apropriadamente acadêmica. Esse é o tipo de ambiente em que você opera na academia.

Mas o mais importante, quando você está trabalhando sozinho em um projeto desse tipo, isso dá muito mais liberdade à imaginação. Essa é uma das coisas boas sobre colaborar com outras pessoas e uma das razões pelas quais eu faço isso — pode ajudar você a formular ideias, mas também agir como uma verificação de ideias que T T ou T fazem sentido. No caso da ficção, dentro de limites frouxos, não existe ideia que T funcione ou T faça sentido.

Você tem alguma técnica de trabalho incomum, vinda de alguém que leciona na Ivy League, faz pesquisas para a Chainlink e escreve em seu tempo livre?

Depende do conjunto de projetos que estou fazendo. O que foi útil quando eu estava tentando arranjar tempo para o livro foi que eu estava obcecado em escrevê-lo. Foi um verdadeiro processo de FLOW . O psicólogo húngaro Mihaly Csikszentmihalyi explorou o conceito de FLOW, definindo-o como uma atividade na qual você pode manter um foco único por um longo período e perder a noção do tempo. Escrever me colocou em um estado de FLOW . Eu o espremi nos pequenos recantos e fendas do tempo disponíveis para mim.

Você acha que os NFTs são superestimados ou subestimados?

Os Bored Apes são superestimados. Os NFTs sem sentido são superestimados. Mas o futuro a longo prazo dos NFTs talvez seja subestimado. Em certo sentido, é um novo meio artístico — do jeito que a fotografia era no século XIX. Só lentamente as pessoas passaram a ver a fotografia como um meio artístico real. No longo prazo, estou realmente bem otimista, embora T tenha conseguido convencer meus alunos de doutorado a trabalhar em projetos relacionados a NFT.

Interessante. O interesse em Cripto muda de coorte para coorte?

Isso muda de indivíduo para indivíduo. Como alguns alunos de doutorado que vêm sem saber no que querem trabalhar e eu acabo ajudando-os a definir uma direção de pesquisa. E outros sabem desde o ONE dia exatamente o que querem fazer. Tenho um aluno prestes a se formar que sabia que queria trabalhar em DeFi. É basicamente isso que ele fez durante cinco anos enquanto trabalhava comigo. Vejo o papel de um orientador de doutorado como ajudar meus alunos de doutorado a realizar o que quer que eles queiram realizar.

Mais alguma coisa que você gostaria de dizer sobre o livro?

Uma coisa que eu quero enfatizar, uma mensagem importante para a comunidade em geral, é o crescente reconhecimento de que o sistema financeiro pode ser um vetor de escape de IA. As pessoas estão preocupadas com agentes de IA escapando de seus confins e controlando sistemas ciberfísicos como veículos autônomos, usinas de energia ou sistemas de armas — esse é o cenário que elas têm em mente. Acho que elas esquecem que o sistema financeiro, particularmente a Criptomoeda, é especialmente adequado para controle por agentes de IA e pode ser um vetor de escape. Se você controla o dinheiro, você pode ter um impacto no mundo real, certo?

Veja também:O que é Chainlink?

A questão é como lidamos com a segurança da IA ​​em vista dessa preocupação muito particular em torno dos sistemas de blockchain? O livro realmente fez com que eu e meus colegas da Chainlink pensássemos sobre como os oráculos agem como guardiões desse novo sistema financeiro e o papel que eles poderiam desempenhar na segurança da IA.

Existe algo tangível em mente que a Chainlink pode fazer para evitar algo assim?

Isso é algo que comecei a pensar agora, mas algumas das proteções que já estão presentes em sistemas que construímos, como CCIP ou pontes de cadeia cruzada, seriam realmente úteis no caso de uma fuga de IA, estabelecendo limites para o que um agente malicioso poderia fazer. Esse é um ponto de partida. Mas a questão é: precisamos de coisas como detecção de anomalias para detectar não apenas atividade Human desonesta, mas atividade de IA desonesta? É um problema importante, na verdade, é um ao qual estou começando a dedicar bastante atenção.