Une nouvelle blockchain pour l’IA générative ?

L'intelligence artificielle générative (IA) est rapidement devenue ONEune des tendances Technologies les plus en vogue et sans doute la plus transformatrice de ces dernières décennies. Son impact est manifeste dans tous les domaines de la pile Technologies , des infrastructures aux applications.

Depuis la sortie de ChatGPT et de GPT-4, la communauté Web3 spécule sur l'intersection potentielle de l'IA générative et du Web3. Si de nombreux cas d'utilisation sont évidents, comme les portefeuilles conversationnels ou l'exploration linguistique, des thèses plus sophistiquées méritent d'être explorées.

Jesus Rodriguez est le PDG d'IntoTheBlock.

Et si l’IA générative méritait sa propre blockchain ?

Dynamique open source versus contrôle centralisé

Pour analyser la viabilité d’une blockchain pour l’IA générative, il est important de comprendre l’état actuel des choses concernant les modèles de fondation, en particulier l’émergence d’alternatives open source aux technologies basées sur des API comme GPT-4, et les préoccupations croissantes entourant le contrôle centralisé de ces modèles de fondation.

Jusqu'à il y a quelques mois, l'écart entre les modèles de base basés sur les API et les modèles open source était important. Des modèles tels que GPT-4 d'OpenAI, Claude d'Anthropic pour le langage, DALL-E et Midjourney pour la vision par ordinateur semblaient nettement plus avancés que leurs alternatives open source. Cependant, un changement a commencé à se produire à la fin de l'année dernière avec la sortie open source surprenante de Stable Diffusion, qui offrait une alternative viable aux modèles texte-image basés sur les API. Malgré cela, les grands modèles de langage (LLM) sont restés au cœur de l'IA générative, et dans ce domaine, la qualité des modèles open source était inférieure à celle des alternatives basées sur les API.

Plus tôt cette année, Meta AI Research a publiéun article présentant LLaMA, un LLM qui égalait les performances de GPT-3 tout en étant nettement plus compact. Initialement, le modèle n'était pas destiné à être open source, mais un événement inattendu s'est produit. Une semaine après sa publication, le modèle a fuité sur 4chan et a été rapidement téléchargé par des milliers de personnes. L'« accident » du LLaMA a rendu un LLM de base accessible à tous et a déclenché un élan inattendu dans l'innovation open source.

Peu après la fuite, de nouveaux modèles de fondations open source aux noms d'animaux amusants ont commencé à émerger un peu partout. L'Université de Stanford a lancé ALPACA, Databricks a dévoilé Dolly, l'Université de Berkeley a rendu Koala open source, l'UC Berkeley et l'Université Carnegie Mellon ont collaboré à la sortie de Vicuna, Together a annoncé le projet Red Pajama, et la liste est longue. Stable Diffusion et LLaMA ont contribué à changer l'échelle de l'IA générative open source et ont généré une dynamique significative. De plus, les modèles de fondations open source comblent rapidement l'écart avec les acteurs commerciaux historiques en termes de qualité.

Un autre facteur contribuant à l'émergence d'une blockchain d'IA générative est l'inquiétude suscitée par le manque de transparence et de contrôle centralisé des modèles fondamentaux. La taille et la complexité des architectures neuronales qui les sous-tendent rendent leur interprétation exacte quasiment impossible. Par conséquent, le secteur doit s'appuyer sur des étapes intermédiaires telles que des architectures plus ouvertes et une réglementation rigoureuse. Le fait que quelques entités centralisées contrôlent les modèles les plus puissants du marché ajoute une inquiétude supplémentaire quant à la faisabilité d'une réelle responsabilisation, transparence et interprétabilité dans l'IA générative.

Sur le même sujet : Jésus Rodriguez -Le prochain ChatGPT ne sera T dans le Web3 à moins que certaines choses changent

La combinaison de l'innovation open source dans les modèles fondamentaux et des préoccupations croissantes concernant le contrôle centralisé dans ce domaine crée une opportunité unique pour les architectures Web3. L'abondance de modèles open source de haute qualité réduit les obstacles à l'adoption des plateformes Web3. Résoudre les risques de transparence et de contrôle dans l'IA générative est loin d'être simple, mais il ne fait aucun doute que les architectures blockchain possèdent des propriétés clés qui peuvent s'avérer utiles dans ce domaine.

Construire une base d'IA générative dans le Web3

L'explosion de l'innovation dans les modèles de fondation open source a considérablement réduit la barrière d'entrée pour les plateformes Web3 afin d'intégrer des capacités d'IA générative. L'adoption de modèles de fondation dans les plateformes Web3 peut Réseaux sociaux deux voies fondamentales, probablement séquentielles :

• Créer des DApps qui permettent des capacités intelligentes alimentées par l'IA générative.
• Construire de nouvelles plateformes Web3 conçues avec l'IA générative comme composant fondamental.

Dans le premier scénario, nous verrons probablement des outils tels que des plateformes d'échange, des explorateurs ou des portefeuilles intégrer des capacités conversationnelles basées sur de vastes modèles de langage. De plus, une nouvelle génération de DApps sera construite autour de modèles génératifs. Dans ce scénario, le Web3 se comporte principalement comme un consommateur de capacités d'IA générative, les modèles s'exécutant sur les infrastructures cloud traditionnelles du Web2.

Des alternatives plus intéressantes émergent lorsque l'on considère les plateformes Web3 capables de prendre en charge les modèles d'IA générative. Imaginez des modèles de fondation open source comme LLaMA, Dolly ou ALPACA fonctionnant sur des nœuds au sein d'une blockchain distribuée. La concrétisation ultime de cette vision est une blockchain spécifiquement conçue pour l'IA générative.

Le concept d'une nouvelle blockchain optimisée pour un paradigme Technologies comme l'IA générative peut paraître séduisant, mais il est indéniablement controversé. Après tout, aucune nouvelle blockchain n'a été créée uniquement pour la DeFi ou les NFT. Alors, qu'est-ce qui rend l'IA générative si différente ?

La réponse réside dans l'inadéquation architecturale entre les exigences d'exécution des modèles fondamentaux et les environnements d'exécution blockchain. Un modèle fondamental pré-entraîné typique est constitué de millions de neurones répartis sur des dizaines de milliers de couches interconnectées, s'exécutant sur des clusters de GPU ou des topologies matérielles spécialisées en deep learning. Aucun contrat intelligent dans l'histoire du Web3 n'atteint un tel niveau de complexité. Il est donc logique de conclure qu'un nouveau type d'architecture est nécessaire. Même les infrastructures du Web2 évoluent pour prendre en charge les modèles d'IA générative à grande échelle, illustrant l'ampleur des changements nécessaires aux architectures du Web3.

Lorsqu'on envisage une nouvelle blockchain pour l'IA générative, les possibilités semblent infinies. Cependant, la version la plus simple de cette idée devrait englober un ensemble de fonctionnalités CORE . La capacité à exécuter des nœuds exécutant des modèles fondamentaux est primordiale pour une blockchain dédiée à l'IA générative. Il en va de même pour la capacité à exécuter des workflows de pré-entraînement, de réglage fin et d'inférence, qui constituent les trois principales étapes du cycle de vie des modèles fondamentaux. La publication et le partage des ensembles de données utilisés pour le pré-entraînement ou le réglage fin des modèles sont également souhaités. Une fois l'environnement d'exécution blockchain établi comme couche fondamentale, de nombreuses fonctionnalités en matière de transparence et d'interprétabilité peuvent être activées. Par exemple, nous pouvons envisager un protocole de preuve de connaissance offrant une transparence sur les pondérations spécifiques d'un modèle, validant ainsi l'utilisation d'ensembles de données non toxiques ou biaisés pour le pré-entraînement.

Pourquoi une nouvelle blockchain ?

Le concept d'une blockchain spécialisée pour l'IA générative est séduisant, mais est-il vraiment nécessaire ? L'intégration de capacités d'IA générative aux environnements d'exécution blockchain existants présente une réelle valeur ajoutée. Cependant, l'histoire du logiciel démontre une tendance récurrente à l'influence de nouveaux paradigmes d'architecture sur les technologies d'infrastructure. Des tendances récentes comme le cloud computing ou le big data en sont des exemples. Les modèles fondamentaux représentent des paradigmes d'architecture fondamentalement différents qui nécessitent probablement des infrastructures blockchain plus spécialisées pour fonctionner efficacement.

De plus, nous ne pouvons ignorer le potentiel de l'IA générative pour transformer les couches inférieures de la blockchain. Il n'est pas irréaliste d'imaginer une blockchain de preuve d'enjeu où les validateurs traiteraient les transactions en langage naturel. De même, les contrats intelligents pourraient utiliser le langage comme moyen fondamental d'échange de messages.

L'IA générative a le potentiel d'induire des changements dans l'ensemble de la blockchain. De ce point de vue, il semble logique d'adopter une approche fondée sur les principes fondamentaux en créant un nouvel environnement d'exécution offrant la flexibilité nécessaire pour intégrer ces changements.

Le risque d'ignorer l'IA générative dans le Web3

L'idée d'une blockchain générative basée sur l'IA peut certes être controversée et présenter des défis. Cependant, j'encourage à explorer cette idée en utilisant un argument négatif.

Que pourrait-il se passer si nous négligeons de créer de nouvelles blockchains pour l’IA générative ?

Actuellement, l'IA générative a créé un fossé technologique important entre les architectures Web2 et Web3. Cet écart continue de se creuser en l'absence de capacités natives d'IA générative dans le Web3. L'IA générative transforme des aspects fondamentaux du développement logiciel, et de nouveaux frameworks et plateformes émergent rapidement pour accompagner ce changement de paradigme.

Développer des capacités d'IA générative native représente un véritable défi existentiel pour le Web3, car il est crucial pour permettre de nouvelles WAVES d'innovation dans ce domaine. Une blockchain d'IA générative native ne représente ONE des nombreuses approches pouvant faciliter cette transition vers le monde des modèles fondamentaux. La création d'une nouvelle blockchain présente de nombreux défis, mais l'évolution rapide des environnements d'exécution L2, des plateformes comme Cosmos et l'émergence d'écosystèmes L1 hautes performances comme Aptos ou Sui rendent la possibilité d'une blockchain d'IA générative bien plus réalisable que par le passé.