¿Qué hay en la intersección de las Cripto y la IA? Quizás un asesinato.

El experto en seguridad Ari Juels lleva reflexionando sobre cómo la Tecnología puede desestabilizar a la sociedad desde que tiene memoria. Esto no significa que Juels, científico jefe de Chainlink y profesor de Cornell Tech en la ciudad de Nueva York, crea que el mundo se descarrilará pronto. Pero en la última década, con el desarrollo de grandes modelos de lenguaje que respaldan sistemas de inteligencia artificial cada vez más potentes y contratos inteligentes autónomos y autoejecutables, la situación ha comenzado a tomar una dirección más preocupante.

Este es un extracto del boletín The Node, un resumen diario de las noticias más importantes Cripto en CoinDesk y otros medios. Puedes suscribirte para recibir la información completa. boletín informativo aquí.

Existe un "creciente reconocimiento de que el sistema financiero puede ser un vector de escape para la IA", declaró Juels en una entrevista con CoinDesk. "Si controlas el dinero, puedes influir en el mundo real". Este escenario catastrófico es el punto de partida de la segunda novela de Juels, “El Oráculo” un thriller policial publicado por el importante sello de ciencia ficción Talos, sobre un investigador de blockchain radicado en Nueva York reclutado por el gobierno de EE. UU. para frustrar un protocolo Cripto armado.

Ambientado en un futuro NEAR , los lectores podrían encontrar algunas similitudes con la actualidad. Veamos la investigación del protagonista sobre contratos inteligentes que pueden volverse fraudulentos... y matar —similar al artículo académico de Juel de 2015 sobre "contratos inteligentes criminales". O referencias a la famosa camisa a cuadros del director ejecutivo de Chainlink , Sergey Nazarov. Otras, como una poderosa herramienta de IA que ayuda a las computadoras a interactuar con el mundo e interpretarlo, como ChatGPT de OpenAI, solo se publicaron después de que Juels comenzara a escribir.

Ver también:El hombre de cuadros

Afortunadamente, la ficción a vecesesJuels afirmó que es más extraño que la realidad, y que la posibilidad de contratos inteligentes programados para matar sigue siendo una amenaza lejana. Añadió que se mantiene cautamente optimista respecto a que si la gente empieza a considerar los riesgos hoy mismo y diseña medidas de protección como oráculos basados en blockchain (en esencia, sistemas de alimentación de información), esto podría ayudar a prevenir problemas a largo plazo.

CoinDesk se reunió con Juels la semana pasada para hablar sobre la creciente intersección de blockchain e IA, las formas en que las cosas pueden descarrilarse y lo que la gente sobrevalora y subestima sobre la Tecnología.

¿Son posibles hoy en día contratos inteligentes como los de “El Oráculo”?

No son posibles con la infraestructura actual, pero son posibles o al menos plausibles con la Tecnología actual.

¿Cuál es su cronograma para cuando algo como los Eventos del libro podrían suceder?

Es un poco difícil de decir. Al menos unos años. Lo que los hace tecnológicamente plausibles ahora, cuando de hecho no lo eran cuando empecé a escribir la novela, es la llegada de los potentes LLM (modelos de lenguaje extenso), necesarios esencialmente para resolver lo que la novela llama un contrato fraudulento. El contrato fraudulento consistía en solicitar un delito, en este caso, la muerte del héroe de la novela, y de alguna manera debe determinarse si el delito se cometió y quién fue responsable y, por lo tanto, debería recibir una recompensa.

Para hacer esas dos cosas, necesitas algo que extraiga palabras clave de los artículos de noticias: básicamente, un LLM conectado a la infraestructura de blockchain y que hereda las mismas propiedades que tienen los contratos inteligentes, es decir, el hecho de que son, al menos en principio, imparables si están codificados para comportarse de esa manera.

¿Necesitas una cadena de bloques para construir contratos inteligentes?

Depende del modelo de confianza que busques. En cierto sentido, la respuesta es no: podrías ejecutar contratos inteligentes en un sistema centralizado. Pero entonces perderías las ventajas de la descentralización, a saber, la resiliencia ante fallos de dispositivos informáticos individuales, la resistencia a la censura y la confianza de que las reglas no cambiarán sin tu consentimiento.

Puede que sea una pregunta extraña, pero pensé que podrías entenderla: ¿Son las cadenas de bloques apolíneas?

Esa es una pregunta extraña, y la entiendo. No me referiría a las cadenas de bloques en general, sino a los oráculos, sin duda. Como sabrán, la novela no solo trata sobre los oráculos modernos, sino también sobre el Oráculo de Delfos. Ambos buscan servir como fuentes definitivas de verdad, en cierto sentido. ONE está literalmente impulsado por el dios Apolo, al menos según la creencia de los antiguos griegos. Y el otro se basa en fuentes de datos fiables, como sitios web. Así que, desde esa perspectiva, sí, diría que los sistemas de oráculos son de naturaleza apolínea, porque Apolo era el dios de la verdad.

¿Es suficiente la Privacidad de blockchain hoy en día?

Toda Tecnología es un arma de doble filo. Obviamente, la Privacidad tiene aspectos positivos e importantes. No se puede tener una sociedad verdaderamente libre sin Privacidad. Los pensamientos de las personas, como mínimo, deben permanecer privados para que puedan actuar con libertad. Sin embargo, se puede abusar de la Privacidad . Las actividades delictivas pueden utilizar la Tecnología blockchain. Sin embargo, diría que hoy en día aún no disponemos de herramientas de protección de la privacidad lo suficientemente potentes como para brindar a los usuarios los beneficios que, en mi Privacidad , merecen.

Ver también:El código no es (siempre) ley | Opinión

¿Diría usted que la Tecnología en su conjunto es una fuerza generalmente positiva?

La Tecnología ofrece claros beneficios. Hemos avanzado mucho en la erradicación de la pobreza mundial; esa es una de las buenas noticias que la gente suele pasar por alto. Sin embargo, el uso de las nuevas tecnologías ha tenido sus costos, lo cual se hace evidente al observar el estancamiento de la felicidad o satisfacción general de los habitantes de los países occidentales ricos. Esto puede explicarse, en parte, como un efecto secundario de la Tecnología. Hay otros factores en juego, como la ruptura de la cohesión social y los sentimientos de soledad, pero la Tecnología ha sido en parte responsable de ello.

Una de las razones por las que incorporé la dimensión griega antigua [en El Oráculo] fue que creo que , debido a la omnipresencia de la Tecnología , estamos perdiendo cierta sensación de asombro. El hecho de que tengamos al alcance de la mano las respuestas a la mayoría de las preguntas que nos plantearíamos naturalmente con Google o agentes de IA implica una disminución de la capacidad de asombro y misterio que antes nos rodeaba. En nuestra vida diaria, tenemos menos espacio para explorar intelectualmente. Hay que profundizar más, si es que eso tiene sentido.

Es una idea hermosa. La World Wide Web no contiene la totalidad del conocimiento Human , pero sí una parte importante. Aun así, la usamos principalmente para satisfacer nuestros deseos más básicos.

Hemos recibido este increíble regalo. Y nos resulta sorprendentemente difícil apreciarlo.

¿A qué nos referimos exageradamente cuando se trata de Tecnología?

Suelo ser algo optimista cuando se trata de escenarios catastróficos para la IA. No soy un experto en la materia, pero he estudiado seguridad de la información durante bastante tiempo. Y la analogía que me gusta trazar, y espero que sea válida, es con el problema del efecto 2000. Los escenarios catastróficos que la gente imaginaba no se materializaron. No hubo necesidad de intervención manual. Contamos con todo tipo de interruptores automáticos ocultos. Por eso, tengo cierta confianza en que esos interruptores automáticos se activarán si, por ejemplo, un agente de IA se vuelve intrusivo. Esto me da al menos cierta tranquilidad y Optimism sobre el futuro de la IA.

He notado que la mayoría de tus escritos académicos suelen ser en coautoría. ¿Escribir en solitario supuso un gran cambio?

Sí, fue un cambio enorme en varios sentidos con respecto a escribir un artículo académico. ONE es que, al escribir un artículo académico, el lenguaje debe ser básicamente árido; de lo contrario, es probable que el artículo sea rechazado por sus pares. Una anécdota curiosa al respecto. En 1999, fui coautor de un artículo; de hecho, fue el artículo que propuso el término "prueba de trabajo" [el mecanismo de consenso detrás de Bitcoin]. Citamos un popular libro de cocina, "The Joy of Cooking", porque el título del artículo incluía la palabra "budín de pan" y necesitábamos una referencia que explicara de qué se trataba. Un revisor quiso rechazar el artículo porque consideró que la referencia no era apropiadamente académica. Ese es el tipo de entorno en el que se desenvuelve uno en el mundo académico.

Pero lo más importante es que, cuando trabajas solo en un proyecto de este tipo, das rienda suelta a la imaginación. Esa es una de las ventajas de colaborar con otras personas y una de las razones por las que lo hago: te ayuda a formular ideas, pero también a controlar las que no T o no tienen sentido. En el caso de la ficción, dentro de unos límites flexibles, no existe ninguna idea que no funcione o no tenga sentido.

¿Tienes alguna técnica de trabajo inusual, viniendo de alguien que enseña en la Ivy League, investiga para Chainlink y escribe en su tiempo libre?

Depende de los proyectos que esté gestionando. Lo que me ayudó a encontrar tiempo para el libro fue mi obsesión por escribirlo. Fue un proceso de FLOW constante. El psicólogo húngaro Mihaly Csikszentmihalyi exploró el concepto de FLOW, definiéndolo como una actividad en la que puedes mantener una concentración única durante un período prolongado y perder la noción del tiempo. Escribir me permitió FLOW . Lo aproveché al máximo en los pequeños huecos de mi tiempo.

¿Crees que los NFT están sobrevalorados o subvalorados?

Los simios aburridos están sobrevalorados. Los NFT sin sentido están sobrevalorados. Pero el futuro a largo plazo de los NFT quizás esté infravalorado. En cierto sentido, es un nuevo medio artístico, como lo fue la fotografía en el siglo XIX. Solo poco a poco la gente empezó a ver la fotografía como un verdadero medio artístico. A largo plazo, soy bastante optimista, aunque no he logrado convencer a mis estudiantes de doctorado de que trabajen en proyectos relacionados con los NFT.

Interesante. ¿El interés por las Cripto cambia según la cohorte?

Depende de cada persona. Por ejemplo, tengo estudiantes de doctorado que llegan sin saber en qué quieren trabajar y termino ayudándolos a definir una dirección de investigación. Otros, en cambio, saben desde el ONE día exactamente qué quieren hacer. Tengo un estudiante a punto de graduarse que sabía que quería trabajar en DeFi. Eso es básicamente lo que ha hecho durante cinco años trabajando conmigo. Considero que el rol de un asesor de doctorado consiste en ayudar a mis estudiantes de doctorado a lograr lo que quieran.

¿Algo más que quieras decir sobre el libro?

ONE que quiero enfatizar, un mensaje importante para la comunidad en general, es el creciente reconocimiento de que el sistema financiero puede ser una vía de escape para la IA. A la gente le preocupa que los agentes de IA escapen de sus confines y controlen sistemas ciberfísicos como vehículos autónomos, centrales eléctricas o sistemas de armas; ese es el escenario que tienen en mente. Creo que olvidan que el sistema financiero, en particular las Criptomonedas, es especialmente adecuado para el control de agentes de IA y puede ser en sí mismo una vía de escape. Si controlas el dinero, puedes influir en el mundo real, ¿verdad?

Ver también:¿Qué es Chainlink?

La pregunta es cómo abordamos la seguridad de la IA considerando esta preocupación tan particular en torno a los sistemas blockchain. El libro nos ha hecho reflexionar, a mí y a mis colegas de Chainlink , sobre cómo los oráculos actúan como guardianes de este nuevo sistema financiero y el papel que podrían desempeñar en la seguridad de la IA.

¿Hay algo tangible en mente que Chainlink pueda hacer para evitar algo así?

Esto es algo en lo que acabo de empezar a pensar, pero algunas de las barreras de seguridad que ya existen en los sistemas que construimos, como CCIP o los puentes entre cadenas, serían útiles en caso de una fuga de IA, al establecer límites a lo que un agente malicioso podría hacer. Ese es un punto de partida. Pero la pregunta es: ¿necesitamos herramientas como la detección de anomalías para detectar no solo la actividad Human no autorizada, sino también la actividad de IA no autorizada? Es un problema importante, al que estoy empezando a prestarle bastante atención.