Desmitificando la caja negra de la IA: Ariana Spring y Andrew Stanco sobre cómo la tecnología blockchain puede arrojar luz sobre las entradas ocultas

Parte de la magia de la IA Generativa reside en que la mayoría de la gente desconoce su funcionamiento. En cierto grado, incluso es justo decir que...ONE Está completamente seguro de cómo funciona, ya que el funcionamiento interno de ChatGPT puede dejar perplejos a los científicos más brillantes. Es una caja negra. No estamos completamente seguros de cómo se entrena, qué datos producen qué resultados ni qué IP se está manipulando en el proceso. Esto es tanto parte de la magia como de lo aterrador.Ariana Spring es unaOrador en el festival Consensus de este año, en Austin, Texas, del 29 al 31 de mayo.

¿Y si existiera una forma de mirar dentro de la caja negra, permitiendo una visualización clara de cómo se gobierna, entrena y produce la IA? Este es el objetivo —o ONE de los objetivos— de Laboratorio EQTY, que realiza investigaciones y crea herramientas para que los modelos de IA sean más transparentes y colaborativos. EQTY Lab’sExplorador de linaje, por ejemplo, proporciona una vista en tiempo real de cómo se construye el modelo.

Todas estas herramientas están pensadas para contrarrestar la opacidad y la centralización. «Si no se comprende por qué una IA toma las decisiones que toma ni quién es responsable, es muy difícil comprender por qué se están difundiendo datos dañinos», afirma Ariana Spring, jefa de investigación de EQTY Lab. «Por eso, creo que la centralización, y guardar esos secretos en cajas negras, es realmente peligroso».

Acompañada por su colega Andrew Stanco (director de Finanzas), Spring comparte cómo las Cripto pueden crear una IA más transparente, cómo estas herramientas ya se están implementando al servicio de la ciencia del cambio climático y por qué estos modelos de código abierto pueden ser más inclusivos y representativos de la humanidad en general.

La entrevista ha sido condensada y ligeramente editada para mayor claridad.

¿Cuál es la visión y el objetivo de EQTY Lab?

Ariana Spring: Somos pioneros en nuevas soluciones para generar confianza e innovación en IA. La IA generativa es un tema de gran HOT , y es la propiedad más emergente, por lo que nos centramos en ella.

Pero también analizamos diversos tipos de IA y gestión de datos. Y nos centramos en la confianza y la innovación. Lo logramos mediante el uso de criptografía avanzada para crear modelos más transparentes, pero también colaborativos. Consideramos la transparencia y la colaboración como dos caras de la misma moneda para crear una IA más inteligente y segura.

¿Podrías explicarnos un poco más cómo encajan las Cripto en esto? Porque muchos dicen que «las Cripto y la IA son una excelente combinación», pero a menudo la justificación se queda en un nivel muy alto.

Andrés Stanco:Creo que la intersección de la IA y la Cripto es una pregunta abierta, ¿verdad? ONE que hemos descubierto es que el Secret oculto de la IA es su carácter colaborativo; cuenta con una multitud de partes interesadas. ONE científico de datos podría crear un modelo de IA por sí solo. Pueden entrenarlo y ajustarlo, pero la criptografía se convierte en una forma de hacer algo y, a su vez, tener un método infalible para verificar que se ha realizado.

Por lo tanto, en un proceso tan complejo como el entrenamiento de IA, contar con esas certificaciones verificables y a prueba de manipulaciones, tanto durante el entrenamiento como después, es de gran ayuda. Genera confianza y visibilidad.

Ariana Spring:Lo que hacemos es que, en cada etapa del ciclo de vida y el proceso de entrenamiento de la IA, se registra, o sella, lo sucedido. Este es el ID descentralizado asociado con el agente, Human o máquina que realiza la acción. Tienes la marca de tiempo. Y con nuestro Explorador de Linaje, puedes ver que todo lo que hacemos se registra automáticamente mediante criptografía.

Y luego usamos contratos inteligentes en nuestros productos de gobernanza. Así, si se cumple o no el parámetro X, una acción puede proceder o no. Una de nuestras herramientas es Governance Studio, que básicamente programa cómo entrenar una IA o cómo gestionar su ciclo de vida, lo que se refleja posteriormente.

¿Podrías BIT qué tipo de herramientas estás desarrollando? Por ejemplo, ¿desarrollas herramientas e investigas para ayudar a otras startups a desarrollar modelos de capacitación, o los desarrollas tú mismo? En otras palabras, ¿cuál es exactamente el papel de EQTY Labs en este entorno?

Andrés Stanco:Es una combinación, en cierto modo, porque nos centramos en la empresa, ya que será ONE de los primeros ámbitos importantes donde se necesitará una IA correcta desde el punto de vista del entrenamiento y la gobernanza. Si profundizamos en ello, necesitamos un área donde un desarrollador, o alguien de esa organización, pueda anotar el código y decir: "Bien, esto es lo que sucedió", y luego crear un registro. Está enfocado en la empresa, con énfasis en la colaboración con los desarrolladores y quienes crean e implementan los modelos.

Ariana Spring:También hemos trabajado en el entrenamiento del modelo a través del Fondo para la Inteligencia Climática. Ayudamos a entrenar un modelo llamadoClimateGPT, que es un modelo de lenguaje extenso específico para el clima. No es nuestra especialidad, pero hemos analizado el proceso y utilizado nuestro conjunto de tecnologías para visualizarlo. Así que entendemos cómo es.

¿Qué es lo que más te entusiasma de la IA y qué es lo que más te aterroriza?

Andrés Stanco:O sea, en cuanto a emoción, ese primer momento al interactuar con la IA generativa se sintió como si hubieras descubierto un rayo en el modelo. La primera vez que creaste una solicitud en MidJourney, o le hiciste una pregunta a ChatGPT, ONE tuvo que convencerte de su potencial. Y ya no creía que hubiera muchas novedades, ¿verdad?

¿Y qué pasa con el terrorismo?

Andrés Stanco:Creo que esta es una preocupación que quizás esté en el trasfondo de gran parte de lo que se tratará en Consensus, con solo echar un vistazo a la agenda. La preocupación es que estas herramientas están permitiendo que los ganadores actuales profundicen en los modos de juego. Que esta no es necesariamente una Tecnología disruptiva, sino una que se consolida.

¿Y Ariana, tu principal emoción y terror en cuanto a inteligencia artificial?

Ariana Spring:Empezaré por mi miedo, porque iba a decir algo parecido. Diría que la centralización. Hemos visto los perjuicios de la centralización cuando se combina con la falta de transparencia sobre el funcionamiento de algo. Lo hemos visto en los últimos 10 o 15 años con las redes sociales, por ejemplo. Y si no se entiende por qué una IA toma las decisiones que toma o quién es responsable, es muy difícil comprender por qué se están divulgando cosas dañinas. Por eso, creo que la centralización —y guardar esos secretos en cajas negras— es realmente peligroso.

¿Qué tal la emoción?

Lo que más me entusiasma es atraer a más gente. Durante la capacitación de ClimateGPT, hemos tenido la oportunidad de trabajar con diversos grupos de interés, como grupos de ancianos indígenas, jóvenes de bajos ingresos, de zonas urbanas, de raza negra y de color, o estudiantes de Oriente Medio. Trabajamos con todos estos activistas climáticos y académicos para preguntarles: "¿Quieres ayudar a mejorar este modelo?".

La gente está muy entusiasmada, pero quizá no entendían cómo funcionaba. Una vez que les enseñamos cómo funcionaba y cómo podían ayudar, se les vio decir: "¡Qué bien!". Ganaron confianza. Entonces, quisieron contribuir más. Así que estoy muy entusiasmado, especialmente por el trabajo que estamos realizando en EQTY Research, de empezar a publicar algunos de esos marcos, para no tener que depender de sistemas que quizá no sean tan representativos.

¡Qué bien dicho! Nos vemos en Austin en la Cumbre de IA de Consensus.