O que a governança de IA pode Aprenda com o espírito de descentralização da criptografia

Os titãs da tecnologia dos EUA deixaram rapidamente de ser rotulados pelos seus críticos como tecno-utopistas egoístas para se tornarem os propagadores mais vocais de uma narrativa tecno-distópica.

Esta semana, uma carta assinada por mais de 350 pessoas, incluindo o fundador da Microsoft, Bill Gates, o CEO da OpenAI, Sam Altman, e o ex-cientista do Google Geoffrey Hinton (às vezes chamado de “Padrinho da IA”) emitiu uma frase única e declarativa: “Mitigando o risco da extinção causada pela IA deve ser uma prioridade global, juntamente com outros riscos à escala social, como pandemias e guerra nuclear.”

Você está lendo Money Reimagined , uma análise semanal dos Eventos e tendências tecnológicas, econômicas e sociais que estão redefinindo nossa relação com o dinheiro e transformando o sistema financeiro global. Inscreva-se para receber o boletim informativo completo aqui .

Há apenas dois meses, uma carta aberta anterior assinada pelo CEO da Tesla e do Twitter, ELON Musk, juntamente com outras 31.800 pessoas, pedia uma pausa de seis meses no desenvolvimento da IA ​​para permitir que a sociedade determinasse os riscos para a humanidade. Em um artigo para a TIME naquela mesma semana, Eliezer Yudkowsky, considerado o fundador do campo da inteligência artificial geral (AGI), disse que se recusou a assinar a carta porque ela T ia longe o suficiente. Em vez disso, ele apelou ao encerramento militar dos laboratórios de desenvolvimento de IA, para que não surja um ser digital senciente que mate todos nós.

Os líderes mundiais terão dificuldade em ignorar as preocupações destes especialistas altamente reconhecidos. É agora amplamente compreendido que existe realmente uma ameaça à existência Human . A questão é: como, exatamente, devemos mitigá-lo?

Como escrevi anteriormente , vejo um papel para a indústria Cripto , trabalhando com outras soluções tecnológicas e em conjunto com uma regulamentação cuidadosa que incentiva a inovação inovadora e centrada no ser humano, nos esforços da sociedade para KEEP a IA no seu caminho. As cadeias de blocos podem ajudar na origem das entradas de dados, com provas para evitar falsificações profundas e outras formas de desinformação, e para permitir a propriedade coletiva, em vez da propriedade corporativa. Mas mesmo deixando de lado estas considerações, penso que a contribuição mais valiosa da comunidade Cripto reside na sua “mentalidade de descentralização”, que oferece uma perspectiva única sobre os perigos colocados pela propriedade concentrada de uma Tecnologia tão poderosa.

Uma visão bizantina dos riscos da IA

Primeiro, o que quero dizer com esta “mentalidade de descentralização”?

Bem, em sua CORE, a Cripto está impregnada de um espírito de “T confie, verifique”. Desenvolvedores de Cripto obstinados - em vez dos gananciosos cujos cassinos de tokens centralizados colocam a indústria em descrédito - envolvem-se incansavelmente em experimentos mentais de “ALICE e Bob” para considerar todos os vetores de ameaça e pontos de falha pelos quais um ator desonesto pode ser intencionalmente ou não. habilitado a fazer mal. O próprio Bitcoin nasceu de Satoshi tentando resolver um dos mais famosos cenários da teoria dos jogos, o Problema dos Generais Bizantinos , que trata de como confiar em informações de alguém que você T conhece.

A mentalidade trata a descentralização como a forma de enfrentar esses riscos. A ideia é que se não existir uma entidade única e centralizada com poderes de intermediário para determinar o resultado de uma troca entre dois intervenientes, e ambos puderem confiar na informação disponível sobre essa troca, então a ameaça de intervenção maliciosa é neutralizada.

Agora, vamos aplicar esta visão de mundo às exigências estabelecidas na carta de “extinção” da IA ​​desta semana.

Leia Mais: Allison Duettmann - Como a Cripto pode ajudar a proteger a IA

Os signatários querem que os governos se unam e elaborem políticas a nível internacional para enfrentar a ameaça da IA. Esse é um objectivo nobre, mas a mentalidade descentralizadora diria que é ingénuo. Como podemos presumir que todos os governos, presentes e futuros, reconhecerão que os seus interesses são servidos através da cooperação, em vez de agirem sozinhos – ou pior, que T dirão uma coisa, mas farão outra? (Se você acha que é difícil monitorar o programa de armas nucleares da Coreia do Norte, tente ficar atrás de um muro de criptografia financiado pelo Kremlin para examinar seus experimentos de aprendizado de máquina.)

Uma coisa era esperar uma coordenação global em torno da pandemia da COVID, quando todos os países tinham necessidade de vacinas, ou esperar que a lógica da destruição mutuamente assegurada (MAD) levasse até os mais ferrenhos inimigos da Guerra Fria a concordar em não trazer até mesmo armas nucleares, onde o pior cenário é tão óbvio para todos. Outra coisa é acontecer em torno de algo tão imprevisível como a direção da IA ​​– e, igualmente importante, onde atores não governamentais podem facilmente usar a Tecnologia independentemente dos governos.

A preocupação que alguns membros da comunidade Cripto têm sobre esses grandes jogadores de IA que correm para regulamentar é que eles criarão um fosso para proteger sua vantagem de ser o pioneiro, tornando mais difícil para os concorrentes irem atrás deles. Por que isso importa? Porque, ao endossar um monopólio, você cria o risco muito centralizado que esses experimentos mentais Cripto de décadas nos dizem para evitar.

Nunca dei muito crédito ao lema “Do No Evil” do Google, mas mesmo que Alphabet, Microsoft, OpenAI e companhia. são bem-intencionados, como posso saber se sua Tecnologia T será cooptada por um conselho executivo, governo ou hacker com motivações diferentes no futuro? Ou, num sentido mais inocente, se essa Tecnologia existe dentro de uma caixa negra corporativa impenetrável, como podem os estrangeiros verificar o código do algoritmo para garantir que o desenvolvimento bem-intencionado não sai inadvertidamente dos carris?

E aqui está outro experimento mental para examinar o risco de centralização para IA:

Se, como acreditam pessoas como Yudkowsky, a IA está destinada, em sua trajetória atual, ao status de Inteligência Geral Artificial (AGI) , com uma inteligência que poderia levá-la a concluir que deveria matar a todos nós, que cenário estrutural a levará a tirar essa conclusão? ? Se a capacidade de processamento e de dados que mantém a IA “viva” estiver concentrada numa única entidade que possa ser encerrada por um governo ou por um CEO preocupado, ONE -se-ia argumentar logicamente que a IA nos mataria para evitar essa possibilidade. Mas se a própria IA “viver” dentro de uma rede de nós descentralizada e resistente à censura que não pode ser desligada, este senciente digital T se sentirá suficientemente ameaçado para nos erradicar.

Não tenho ideia, é claro, se seria assim que as coisas aconteceriam. Mas, na ausência de uma bola de cristal, a lógica da tese AGI de Yudowskly exige que nos envolvamos nestas experiências mentais para considerar como este potencial inimigo futuro poderá “pensar”.

Encontrando a combinação certa

É claro que a maioria dos governos terá dificuldade em aceitar tudo isto. Eles naturalmente preferirão a mensagem “por favor, regule-nos” que Altman da OpenAI e outros estão transmitindo ativamente agora. Os governos querem controle; eles querem a capacidade de intimar CEOs e ordenar paralisações. Está no DNA deles.

E, para ser claro, precisamos ser realistas. Vivemos num mundo organizado em torno de estados-nação. Goste ou não, é ao sistema jurisdicional que estamos presos. Não temos outra escolha senão envolver algum nível de regulamentação na estratégia de mitigação da extinção da IA.

O desafio é descobrir a combinação certa e complementar de regulamentação governamental nacional, tratados internacionais e modelos de governação descentralizados e transnacionais.

Há, talvez, lições a retirar da abordagem que governos, instituições académicas, empresas privadas e organizações sem fins lucrativos adotaram para regular a Internet. Através de organismos como a Corporação da Internet para Atribuição de Nomes ( ICANN ) e a Força-Tarefa de Engenharia da Internet (IETF) , instalamos estruturas multissetoriais para permitir o desenvolvimento de padrões comuns e permitir a resolução de disputas por meio de arbitragem e não de tribunais.

Será, sem dúvida, necessário algum nível de regulamentação da IA, mas não há forma de esta Tecnologia sem fronteiras, aberta e em rápida mudança poder ser inteiramente controlada pelos governos. Esperemos que eles possam deixar de lado a atual animosidade em relação à indústria de Cripto e buscar seus conselhos sobre como resolver esses desafios com abordagens descentralizadas.