Para sobreviver à nova era do spam de robôs, olhe para a história da criptografia

Aqui é David Z. Morris, substituindo Michael Casey para falar sobre a chamada inteligência artificial, as ameaças que ela representa para o futuro e como as Cripto podem ajudar a mitigá-las.

Como Michael certamente concordaria, não há dias de folga reais em Cripto. Lembrei-me disso quando passei recentemente um longo fim de semana no fantásticoLeitorconconvenção de ficção. Inevitavelmente, perdi alguns histórias importantes sobre Cripto, mas também tive uma visão mais próxima de outra novidade iminente: a ameaça existencial que modelos automatizados de grandes linguagens (LLMs) como o GPT3 representam para toda a internet.

Você está lendoDinheiro reinventado, uma análise semanal dos Eventos e tendências tecnológicas, econômicas e sociais que estão redefinindo nossa relação com o dinheiro e transformando o sistema financeiro global. Assine para receber o boletim informativo completo aqui.

Isso pode soar hiperbólico. Mas na Readercon, conheci Neil Clarke, fundador e editor da revista de ficção científica de primeira linhaMundo de Clarkes, que junto com outras publicações de ficção se tornou um canário na mina de carvão da I.A. descontrolada. A ascensão do ChatGPT inundou esses periódicos com uma enxurrada de submissões de histórias falsas geradas pelo GPT, uma praga tão severa que a Clarkesworld foi forçada a pausar temporariamente as submissões em fevereiro, ameaçando o trabalho e os meios de subsistência de autores reais.

“Eu tenho chamado isso de spam”, diz Clarke, “Porque é isso que é. Às vezes, eu me recuso a chamá-lo de 'inteligência artificial'. Você T pode humanizar essas coisas. Não é como a ficção científica dos filmes, onde é consciente. É um modelo estatístico [de linguagem].”

A menção ao spam deveria chamar a atenção dos observadores de longa data das Criptomoeda : o mesmo problema está nas origens do Bitcoin.

Entre 1998 e 2002, o cientista da computação Adam Back desenvolveu o conceito de “Hashcash”, destinado principalmente a combater spam de e-mail, exigindo um pequeno pagamento para enviar um. Back e suas ideias se tornaram fundamentais para o desenvolvimento do Bitcoin, e ele agora é CEO da desenvolvedora de Cripto Blockstream.

Duas décadas depois, com hordas de robôs bárbaros prestes a inundar os sistemas de comunicação Human , talvez seja hora de revisitar o conceito Hashcash.

Grandes traficantes de línguas

“O ChatGPT foi lançado no final de novembro”, diz Clarke, “e imediatamente começamos a ver envios usando-o. As primeiras pessoas a adotá-lo foram aquelas que já estavam enviando trabalhos plagiados. Ele foi prontamente adotado por pessoas que estavam tentando ganhar dinheiro QUICK com o trabalho de outras pessoas.”

Ao enfrentarem o problema do spam, Clarke diz que ele e sua equipe rapidamente perceberam que o ataque era coordenado. Os canais do YouTube e do TikTok focados em esquemas de enriquecimento rápido estavam prometendo aos espectadores que eles poderiam ganhar milhares de dólares enviando histórias geradas pelo GPT para revistas de ficção como a Clarkesworld. A Clarkesworld paga algumas centenas de dólares por história, dependendo do tamanho — não muito mais do que dinheiro para cerveja em algumas partes do mundo, mas extremamente significativo em outras.

Essas promessas fraudulentas de golpistas online parecem ter se espalhado rápido. Clarke diz que recebeu 54 envios gerados por IA em dezembro. Em janeiro, ele recebeu 117 histórias falsas. Em fevereiro, o número chegou a 514 antes de Clarke fechar os envios ao meio-dia de 20 de fevereiro.

“E só naquela manhã”, ele diz, “tivemos 50”.

A Clarkesworld tem uma equipe pequena, que normalmente analisa cerca de 1.100 envios por mês. Então, a enxurrada acelerada de lixo ameaçava sobrecarregá-los, e as soluções T eram óbvias.

“Temos um processo de submissão aberto, projetado especificamente para receber novos escritores e novas vozes”, diz Clarke. “Então poderíamos fechar submissões de certos locais [para combater spam], mas também temos autores legítimos vindo desses países. E nos disseram coisas como, ‘O pagamento por esta história cobrirá minhas contas por um mês.’”

“Autores como esse estão sendo enterrados. As submissões de IA prejudicam novos autores e autores que podem não ser de comunidades bem conectadas.” Esta é uma maneira clara de o conteúdo gerado automaticamente ameaçar tornar a internet pior para os seres Human – particularmente aqueles que estão nas margens.

“Se você voltar 15 ou 20 anos quando recebíamos submissões em papel”, diz Clarke, “só o custo da postagem era o suficiente para diminuir substancialmente as submissões de fora dos EUA, Canadá e Reino Unido. E assim que você tem submissões digitais, tivemos essa enxurrada de submissões internacionais.” Isso levou a uma enorme diversificação do mundo da ficção – um renascimento criativo que agora está ameaçado pela ascensão dos LLMs.

Clarke também é um codificador, o que lhe deu ferramentas úteis para lidar com o desafio do spam. Ele começou a associar mais metadados com envios, como se eles vieram por meio de uma VPN e a duração da sessão do usuário. Esses e outros critérios agora são usados como parte de um "sistema de pontos" que coloca histórias com maior probabilidade de serem falsas mais abaixo na fila de revisão. Isso ajuda autores reais a serem lidos primeiro, mas também garante que cada envio seja eventualmente revisado.

Por fim, se for determinado que uma história foi gerada pelo LLM, o remetente será banido permanentemente do sistema.

Essas medidas ajudaram a Clarkesworld a reabrir os envios, por enquanto – mas um aumento contínuo no volume de spam com o qual eles estão lidando significaria que a solução seria apenas temporária.

“Pior que o pior escritor Human ”

Um aspecto importante da experiência de Clarke é que a qualidade real das submissões robóticas tem sido abismalmente baixa. Elas são quase instantaneamente reconhecíveis por um leitor Human e não têm chance real de serem publicadas.

“O ChatGPT3 estava escrevendo em um nível abaixo dos piores escritores Human ”, diz Clarke, que depois de duas décadas como editor sabe exatamente como é o pior. “O GPT4 está se aproximando dos piores escritores Human , mas mesmo isso ainda é RARE.”

“O comum é que eles têm gramática perfeita, eles têm ortografia perfeita”, continua Clarke. “Mas as histórias em si T fazem muito sentido. Elas pulam coisas importantes. Elas começam com uma premissa básica, como colapso ecológico, e apresentam alguns cientistas que podem resolver o problema, e então, de repente, eles resolveram o problema. Eles estão perdendo o meio da história, e a encerrando com aberturas e fechamentos estereotipados, feitos muito mal.”

Isso se parece muito com a recente caracterização de Ted Chiang da saída do ChatGPT como“um JPEG borrado da internet.”Essa porcaria manifesta felizmente desmascara boa parte do hype estúpido em torno dos LLMs. Mas também torna a imagem de editores talentosos (e extremamente mal pagos) sendo forçados a peneirar a escória ainda mais deprimente.

A promessa de pequenas taxas reembolsáveis

Outra opção para reduzir envios de spam é uma taxa de envio. Clarke diz que não tem desejo ou plano de implementar uma taxa, graças a preocupações éticas e criativas predominantes. Em particular, uma taxa de envio poderia limitar o acesso, ao que a comunidade de escritores de ficção científica se opõe fortemente.

Mas, além disso, as deficiências técnicas da atual infraestrutura global de pagamentos também tornam impraticável a cobrança de uma taxa antispam, mesmo que Clarke quisesse.

Por exemplo, Clarke diz que para cobrar uma taxa de submissão, ele precisaria ser capaz de reembolsá-la, por exemplo, para escritores cujas histórias foram aceitas, ou simplesmente não geradas por IA. Uma taxa ideal de bloqueio de spam também seria bem pequena – certamente muito menor do que os US$ 25 ou US$ 30 de postagem que estavam mantendo os autores do mundo em desenvolvimento longe na era pré-internet.

Mas não há como fazer isso com a tecnologia atual.

“Diga-me uma empresa de cartão de crédito onde eu possa reembolsar quase tudo. Eu perderia a conta”, diz Clarke. Como qualquer bom Cripto bro sabe, cartões de crédito também T funcionam bem com pequenos pagamentos. Mas esses T são o maior problema.

“Também há problemas em tentar receber pagamentos em diferentes partes do mundo”, continua Clarke. “Há vários países africanos com os quais as empresas de cartão de crédito T trabalham. Então isso eliminaria os autores. Também tive pessoas sugerindo serviços de identidade, mas eles também têm buracos do tamanho de uma nação. Precisamos de algo que funcione para todos.”

Se você está lendo isso, já sabe para onde estamos indo: pelo menos em princípio, Criptomoeda e sistemas relacionados podem ajudar a mitigar o problema de envios falsos da Clarkesworld.

Exigir um pequeno pagamento para todos os envios reduziria os envios de baixa qualidade, aliviando a carga de trabalho dos editores e compensando-os pelo spam que chegasse. Como os pagamentos poderiam ser devolvidos de forma barata, rápida e fácil aos autores reais, o custo para escritores Human reais seria marginal. E como esses sistemas não são confinados por fronteiras nacionais, nenhum escritor real seria superado pelos robôs regurgitadores.

Embora isso exija uma elaboração considerável, alguma versão do mesmo sistema pode um dia servir a propósitos paralelos em ambientes menos boutique. Pode- ONE imaginar umSemelhante a Steemsistema de incentivos de apostas sendo usado para punir postagens automatizadas em fóruns ou mídias sociais, por exemplo. Sistemas de identidade descentralizados mais elaborados, comoID do abeto, são mais desafiadores e, por enquanto, mais incipientes, mas podem ter um potencial ainda mais profundo.

Para ser claro, nada disso deveria ser necessário. Os LLMs estão sendo rapidamente revelados como pouco mais do que truques de salão, cuja utilidade real provavelmente se limita, pelo menos no NEAR prazo, ao atendimento ao cliente de formato curto e ao entretenimento clickbait. (Tome como exemploA experiência desastrosa da CNETcom o uso do GPT para escrever artigos de notícias).

Os maiores impactos da tecnologia são vistos na disseminação de jargões de quarta categoria que desperdiçam o tempo e o poder intelectual de todos os humanos envolvidos. Mas se é isso que os príncipes-deuses do Vale do Silício veem como a próxima fronteira das riquezas do capital de risco, então é o mundo em que teremos que viver. No mínimo, a Cripto oferece uma esperança para revidar.