Lição da Web2 para IA: descentralizar para proteger a humanidade

Isso vai parecer presunçoso vindo de um cara que T escreve código, muito menos tem qualquer experiência direta em aprendizado de máquina ou pesquisa de inteligência artificial.

Mas tenho de o dizer: a recente exigência alarmista de uma pausa de seis meses ou mesmo de um encerramento militarmente forçado da investigação em IA – por parte de pessoas com experiência, dinheiro e influência na indústria da inteligência artificial – baseia-se num pensamento fundamentalmente falho que irá encorajar o mesmo resultado destrutivo para a humanidade que procuramos evitar. O facto de o governo dos EUA estar simultaneamente a orquestrar uma repressão à indústria Cripto , um campo de inovação de código aberto que desenvolve o tipo de criptografia e tecnologias de coordenação de rede necessárias para gerir ameaças de IA, torna este um momento especialmente perigoso para todos nós.

Esses pessimistas são cientistas da computação, não estudantes de história econômica. A questão não é, por si só, que uma IA fora de controlo possa evoluir para nos matar a todos . (Todos sabemos disso. Durante décadas, Hollywood ensinou-nos que é assim.) Não, a tarefa é garantir que a economia da IA ​​T encoraja intrinsecamente esse resultado horrível. Devemos evitar que o controlo concentrado dos inputs e dos resultados das máquinas de IA prejudique a nossa capacidade de agir em conjunto no interesse comum. Precisamos de desenvolvimento coletivo e colaborativo de software que crie um antídoto computacional para esses pesadelos distópicos.

Você está lendo Money Reimagined , uma análise semanal dos Eventos e tendências tecnológicas, econômicas e sociais que estão redefinindo nossa relação com o dinheiro e transformando o sistema financeiro global. Inscreva-se para receber o boletim informativo completo aqui .

A resposta não reside em encerrar a inovação da IA ​​e colocar o criador do ChatGPT, OpenAI, o líder da indústria que levou o campo ao seu atual nível de desenvolvimento, na pole position. Pelo contrário, essa é a melhor forma de garantir que o pesadelo se torne realidade.

Lições da Web2

Sabemos disso através do desastre da Web2, a economia baseada em plataformas sociais, impulsionada pela publicidade, na qual a Internet descentralizada da Web1 foi recentralizada em torno de uma oligarquia de gigantes oniscientes de agregação de dados, incluindo Google, Facebook e Amazon. Eles tornaram-se os beneficiários daquilo que Shoshana Zuboff apelidou de “capitalismo de vigilância”, e nós, humanos, tornámo-nos suas vítimas, uma fonte passiva de dados pessoais que são extraídos de nós e reciclados em algoritmos de modificação de comportamento.

Tudo isto aconteceu, não porque as plataformas estivessem moralmente inclinadas a abandonar a máxima “Do T Be Evil” do Google, mas porque a lógica do mercado as empurrou para este modelo. Os anúncios forneciam a receita, e um grupo cada vez maior de usuários em suas plataformas fornecia os dados com os quais os titãs da internet poderiam moldar o comportamento Human para maximizar o retorno desses anúncios. Os accionistas, exigindo a continuação desses ganhos exponenciais, pressionaram-nos a duplicar a aposta neste modelo para “atingir o número” em cada trimestre. À medida que os efeitos de rede começaram a fazer efeito e as plataformas atraíram mais utilizadores através de uma função de crescimento auto-reforçada, os modelos de extracção de dados tornaram-se mais lucrativos e mais difíceis de abandonar à medida que as expectativas de Wall Street eram cada vez mais avaliadas.

Leia Mais: Marcas salvarão a Cripto? Cuidado com o que você deseja

Este sistema de exploração entrará em ação se o desenvolvimento da IA ​​ocorrer sob a mesma estrutura de monopólio inadimplente. A solução não é interromper a investigação, mas incentivar os criadores de IA a conceber formas de subverter esse modelo.

Atualizando o capitalismo

Durante séculos, o sistema de capitalismo de mercado incentivou a competição entre os empresários pela quota de mercado, gerando riqueza e produtividade para todos. Promoveu disparidades de riqueza mas, a longo prazo, com a ajuda de leis antitrust, sindicais e de redes de segurança social, produziu ganhos sem precedentes no bem-estar em todo o mundo.

Mas o sistema foi construído para uma economia analógica, que girava em torno da produção e venda de coisas físicas, um mundo onde as restrições geográficas impõem um custo oneroso de capital às oportunidades de crescimento. A era da internet é muito diferente. É um dos efeitos de rede auto-reforçados, onde as eficiências da produção de software permitem aos líderes de mercado expandir rapidamente a quota de mercado a um custo marginal muito baixo, e onde a mercadoria mais valiosa não é física, como o minério de ferro, mas intangível – são os dados Human . .

Precisamos de um novo modelo de propriedade descentralizada e de governação consensual, que se baseie em incentivos à inovação competitiva, mas que tenha, no seu interior, um quadro autocorrigível que conduza essa inovação para o bem público.

Inspirado por Jacob Steeves, fundador do protocolo descentralizado de desenvolvimento de IA Bittensor, acredito que a Tecnologia Cripto pode ajudar a definir como LOOKS esse futuro – mesmo que precisemos de proteções para ele.

“Estamos dizendo que vamos construir a propriedade aberta da IA”, disse Steeves sobre o modelo de construção descentralizada e tokenizada da Bittensor para IA no podcast “Money Reimagined” desta semana. “Se você pode contribuir, você pode assumir isso. E então, vamos deixar o povo decidir.”

A ideia filosófica é que a propriedade e o controlo suficientemente descentralizados impediriam que qualquer parte isolada ditasse o desenvolvimento da IA ​​e que, em vez disso, o grupo como um todo optaria por modelos favoráveis ​​ao colectivo. “Se todos nós tivéssemos uma parte disso, então essa coisa não voltaria e nos prejudicaria porque, no final das contas, a moeda fundamental da IA, a parte fundamental da propriedade, está na sua carteira”, disse Steeves.

Excessivamente utópico? Talvez. A longa lista de golpes na história da Cripto significa que muitos imaginarão instintivamente um modelo de cripto-IA sendo sequestrado por atores nefastos.

Mas se quisermos forjar um projecto comum baseado na inovação de código aberto e na governação colectiva, os fenómenos económicos que mais se parecem com o que precisamos são os ecossistemas que surgiram em torno dos protocolos blockchain.

“Ethereum e Bitcoin são os maiores supercomputadores do mundo, medidos em hashes”, disse Steeves. “Essas redes – para o bem ou para o mal, quer você se posicione ou não em qualquer um dos lados do debate sobre o poder – são megaestruturas. São as maiores megaestruturas de computação que a humanidade já criou... são centenas de vezes maiores que os armazéns de dados de empresas como o Google.”

Captura regulatória

OpenAI, a empresa por trás dos grandes modelos de linguagem (LLM) ChatGPT e GPT1 a 4, está estruturada de forma muito diferente desses ecossistemas blockchain. É uma empresa privada, que acaba de receber um investimento de US$ 10 bilhões (com B) da gigante de tecnologia Microsoft.

E embora seu CEO Sam Altman ainda não tenha se juntado ao CEO da Tesla e investidor da OpenAI, ELON Musk, como um dos mais de 25.000 signatários de uma carta aberta pedindo uma pausa de seis meses no desenvolvimento de IA , muitos acreditam que se as exigências dessa carta fossem implementada, a empresa seria uma beneficiária direta, tornando mais difícil para qualquer concorrente desafiar o domínio da OpenAI e, ao mesmo tempo, ganhar o controle da empresa de Altman sobre o desenvolvimento de IA no futuro.

Leia Mais: ChatGPT eliminará a pesquisa e abrirá um caminho para a Web3

“A carta serve para Rally o apoio público à OpenAI e seus aliados à medida que eles consolidam seu domínio, constroem uma liderança estendida em inovação e garantem sua vantagem sobre uma Tecnologia de importância fundamental para o futuro”, escreveu o pioneiro da Criptomoeda Peter Vessenes em um artigo de opinião da CoinDesk. essa semana. “Se isso ocorrer, prejudicará irreparavelmente os americanos – a nossa economia e o nosso povo.”

Imagine se, escreveu Vessenes, “em 1997, a Microsoft e a Dell tivessem emitido uma carta de 'pausa' semelhante, pedindo a interrupção da inovação dos navegadores e a proibição de novos sites de comércio eletrônico por seis meses, citando suas próprias pesquisas de que a Internet destruiria lojas físicas e ajuda ao Finanças do terrorismo. Hoje reconheceríamos isso como alarmismo egoísta e uma tentativa de captura regulatória.”

OpenAI agora é baseado em um sistema fechado, mas a abordagem LLM para aprendizado de máquina está agora disponível e sendo replicada de todas as maneiras engenhosas. Como é que um acordo entre cientistas dos EUA, ou mesmo um acto do Congresso, irá impedir o avanço desta tecnologia – especialmente por actores criminosos apoiados por estados pária com todos os motivos para ignorar as súplicas dos Estados Unidos?

Direção errada

Combine isto com a recente hostilidade do governo dos EUA em relação às Cripto , manifestada na série de ações da Securities and Exchange Commission contra os líderes da indústria e nas sanções contra o protocolo de código aberto Tornado Cash, e surge uma convergência preocupante. O fato de as empresas de Cripto estarem agora deixando as costas dos EUA é mais do que uma ameaça à indústria de ativos digitais. É um golpe contra a própria forma de inovação de código aberto necessária para evitar a perigosa captura da IA ​​por interesses centralizados egoístas.

Apesar de todas as perdas sofridas recentemente pelos especuladores de tokens, as Waves de dinheiro que perseguiram essas riquezas financiaram alguns dos maiores saltos na criptografia de todos os tempos. As provas de conhecimento zero, por exemplo, que provavelmente desempenharão um papel na forma como protegemos informações confidenciais da espionagem onipresente da IA, avançaram em muitas magnitudes mais do que na era pré-criptografada.

Há também uma vantagem de sabedoria da multidão, que vem do espírito de inovação sem permissão da criptografia. Idéias marginais não conformes tendem a borbulhar com mais facilidade do que aquelas dirigidas de cima pela liderança corporativa. A estrutura de inovação da OpenAI é muito diferente disso. Claro, ele descobriu como explorar a enorme variedade de dados da Internet e como treinar um LLM incrivelmente eficaz sobre eles. Mas tendo abandonado o seu estatuto de fonte aberta e sem fins lucrativos, é agora um operador fechado, de caixa negra, em dívida com as exigências de maximização de lucros do seu novo investidor empresarial.

Temos uma escolha: queremos que a IA seja capturada pelos mesmos modelos de negócios concentrados que se consolidaram na Web2? Ou será a visão de propriedade descentralizada da Web3 a aposta mais segura? Eu sei qual ONE escolheria.