Demistificare la scatola nera dell’intelligenza artificiale: Ariana Spring e Andrew Stanco su come la tecnologia blockchain può far luce sugli input nascosti

Parte della magia dell'IA generativa è che la maggior parte delle persone non ha idea di come funzioni. A un certo livello, è anche giusto dire cheONE è completamente sicuro di come funziona, poiché il funzionamento interno di ChatGPT può lasciare perplessi anche gli scienziati più brillanti. È una scatola nera. Non siamo del tutto sicuri di come viene addestrato, quali dati producono quali risultati e quale IP viene calpestato nel processo. Questo fa parte della magia e di ciò che è terrificante.

Ariana Spring è unarelatore al festival Consensus di quest'anno, ad Austin, Texas, dal 29 al 31 maggio.

E se ci fosse un modo per sbirciare dentro la scatola nera, consentendo una chiara visualizzazione di come l'IA è governata, addestrata e prodotta? Questo è l'obiettivo, o ONE degli obiettivi, di Laboratorio EQTY, che conduce ricerche e crea strumenti per rendere i modelli di intelligenza artificiale più trasparenti e collaborativi. EQTY LabEsploratore di lignaggio, ad esempio, fornisce una visione in tempo reale di come è costruito il modello.

Tutti questi strumenti sono pensati come un controllo contro l'opacità e la centralizzazione. "Se T capisci perché un'IA sta prendendo le decisioni che sta prendendo o chi ne è responsabile, è davvero difficile interrogarsi sul perché vengano vomitate cose dannose", afferma Ariana Spring, responsabile della ricerca presso l'EQTY Lab. "Quindi penso che la centralizzazione, e il tenere quei segreti in scatole nere, sia davvero pericolosa".

Insieme al suo collega Andrew Stanco (responsabile Finanza), Spring racconta come le Cripto possano creare un'intelligenza artificiale più trasparente, come questi strumenti siano già impiegati al servizio della scienza sui cambiamenti climatici e perché questi modelli open source possano essere più inclusivi e rappresentativi dell'umanità nel suo complesso.

L'intervista è stata condensata e leggermente modificata per renderla più chiara.

Qual è la visione e l'obiettivo di EQTY Lab?

Ariana Primavera: Stiamo sperimentando nuove soluzioni per creare fiducia e innovazione nell'AI. E l'AI generativa è un argomento molto HOT , ed è la proprietà più emergente, quindi è qualcosa su cui ci stiamo concentrando.

Ma guardiamo anche a tutti i diversi tipi di AI e gestione dei dati. E in realtà fiducia e innovazione sono dove ci orientiamo. Lo facciamo utilizzando la crittografia avanzata per rendere i modelli più trasparenti, ma anche collaborativi. Consideriamo la trasparenza e la collaborazione come due facce della stessa medaglia per creare AI più intelligenti e sicure.

Puoi parlarci un po' di più di come le Cripto si inseriscono in tutto questo? Perché vedi molte persone dire che "Cripto e AI sono una grande combinazione", ma spesso la logica si ferma a un livello molto alto.

Andrew Stanco:Penso che l'intersezione tra AI e Cripto sia ONE questione aperta, giusto? ONE cosa che abbiamo scoperto è che il Secret nascosto dell'AI è che è collaborativa; ha una moltitudine di stakeholder. ONE data scientist potrebbe creare un modello di AI. Possono addestrarlo, possono perfezionarlo, ma la crittografia diventa un modo di fare qualcosa e poi avere un modo a prova di manomissione per verificare che sia successo.

Quindi, in un processo complesso come l'addestramento dell'IA, avere attestazioni a prova di manomissione e verificabili, sia durante l'addestramento che dopo, è davvero utile. Crea fiducia e visibilità.

Ariana Primavera:Ciò che facciamo è che a ogni passaggio del ciclo di vita e del processo di formazione dell'IA, c'è una notarizzazione, o un timbro, di ciò che è accaduto. Questo è l' ID decentralizzato, o identificatore, associato all'agente, Human o alla macchina che sta eseguendo quell'azione. Hai il timestamp. E con il nostro Lineage Explorer, puoi vedere che tutto ciò che facciamo viene registrato automaticamente utilizzando la crittografia.

E poi utilizziamo contratti intelligenti nei nostri prodotti di governance. Quindi, se il parametro X è soddisfatto o meno, una certa azione può procedere o meno. ONE degli strumenti che abbiamo è Governance Studio, che fondamentalmente programma come addestrare un'IA o come gestire il ciclo di vita dell'IA, e questo si riflette poi a valle.

Puoi chiarire un BIT' che tipo di strumenti stai costruendo? Ad esempio, stai costruendo strumenti e facendo ricerche che hanno lo scopo di aiutare altre startup a costruire modelli di formazione, oppure stai costruendo modelli di formazione tu stesso? In altre parole, qual è esattamente il ruolo di EQTY Labs in questo ambiente?

Andrew Stanco:In un certo senso è un mix, perché il nostro focus è sull'impresa, poiché sarà ONE dei primi grandi posti in cui è necessario ottenere un'IA corretta da un punto di vista di formazione e governance. Se si approfondisce, allora abbiamo bisogno di un'area in cui uno sviluppatore, o qualcuno in quell'organizzazione, possa annotare il codice e dire "Ok, ecco cosa è successo", e quindi creare un record. È focalizzato sull'impresa, con un'enfasi sulla collaborazione con gli sviluppatori e le persone che creano e distribuiscono i modelli.

Ariana Primavera:E abbiamo lavorato anche all'addestramento del modello tramite l'Endowment for Climate Intelligence. Abbiamo aiutato ad addestrare un modello chiamatoClimaGPT, che è un modello linguistico di grandi dimensioni specifico per il clima. T è il nostro pane quotidiano, ma abbiamo seguito il processo e utilizzato la nostra suite di tecnologie per visualizzarlo. Quindi capiamo com'è.

Cosa ti entusiasma di più dell'intelligenza artificiale e cosa ti terrorizza di più?

Andrew Stanco:Voglio dire, per l'eccitazione, quel primo momento in cui interagisci con l'IA generativa è stato come se avessi stappato il fulmine nel modello. La prima volta che crei un prompt in MidJourney, o che fai una domanda a ChatGPT, ONE ha dovuto convincerti che forse è potente. E T pensavo che ci fossero più molte cose nuove, giusto?

E per quanto riguarda il terrore?

Andrew Stanco:Penso che questa sia una preoccupazione che forse è il sottotesto di molto di ciò che sarà al Consensus, solo sbirciando l'agenda. La preoccupazione è che questi strumenti stiano lasciando che i vincitori attuali scavino modalità più profonde. Che questa non sia necessariamente una Tecnologie dirompente, ma una ONE radicata.

E Ariana, qual è la tua principale intelligenza artificiale, quale è la tua principale fonte di eccitazione e di terrore?

Ariana Primavera:Inizierò con la mia paura perché stavo per dire qualcosa di simile. Direi centralizzazione. Abbiamo visto i danni della centralizzazione quando abbinata a una mancanza di trasparenza su come funziona qualcosa. L'abbiamo visto negli ultimi 10, 15 anni con i social media, per esempio. E se T capisci perché un'IA sta prendendo le decisioni che sta prendendo o chi è responsabile, è davvero difficile interrogarsi sul perché vengono vomitate cose dannose. Quindi penso che la centralizzazione, e il tenere quei segreti in scatole nere, sia davvero pericolosa.

Che ne dici di un po' di eccitazione?

Ciò che mi entusiasma di più è l'idea di coinvolgere più persone. Abbiamo avuto la possibilità di lavorare con diversi tipi di gruppi di stakeholder mentre formavamo ClimateGPT, come gruppi di anziani indigeni o giovani a basso reddito, urbani, neri e ispanici, o studenti in Medio Oriente. Stiamo lavorando con tutti questi attivisti per il clima e accademici per dire, "Ehi, vuoi aiutarci a migliorare questo modello?"

Le persone sono davvero emozionate, ma forse T hanno capito come funziona. Una volta che abbiamo spiegato loro come funziona e come potevano aiutare, li hai visti dire: "Oh, questo è buono". Acquisiscono sicurezza. Poi vogliono contribuire di più. Quindi sono davvero emozionato, soprattutto attraverso il lavoro che stiamo facendo in EQTY Research, di iniziare a pubblicare alcuni di quei framework, così T dobbiamo affidarci a sistemi che forse T sono così rappresentativi.

Detto magnificamente. Ci vediamo ad Austin al Consensus’ AI Summit.