Pour survivre à la nouvelle ère du spam robotisé, il faut se tourner vers l'histoire des cryptomonnaies.

Il s'agit de David Z. Morris, remplaçant Michael Casey pour parler de ce qu'on appelle l'intelligence artificielle, des menaces qu'elle représente pour l'avenir - et de la manière dont la Crypto pourrait aider à les atténuer.

Comme Michael en conviendrait sûrement, il n'y a pas de véritables jours de repos dans le Crypto. Je m'en suis rappelé moi-même lors d'un week-end prolongé passé récemment dans le fantastiqueReaderconconvention de fiction. Inévitablement, j'ai manqué quelques histoires importantes sur les Crypto, mais j'ai également eu un aperçu de près d'une autre nouveauté imminente : la menace existentielle que représentent les grands modèles de langage automatisés (LLM) comme GPT3 pour l'ensemble de l'Internet.

Vous lisezL'argent réinventéUn regard hebdomadaire sur les Événements et tendances technologiques, économiques et sociaux qui redéfinissent notre rapport à l'argent et transforment le système financier mondial. Abonnez-vous pour recevoir la newsletter complète. ici.

Cela peut paraître exagéré. Mais à Readercon, j'ai rencontré Neil Clarke, fondateur et rédacteur en chef du magazine de science-fiction de renom.Clarkesworld, qui, avec d'autres publications de fiction, est devenu un véritable canari dans la mine de charbon de l'IA déchaînée. L'essor de ChatGPT a inondé ces revues d'un flot de soumissions de faux articles générés par GPT, un fléau si grave que Clarkesworld a été contraint de suspendre temporairement les soumissions en février, menaçant le travail et les moyens de subsistance des auteurs authentiques.

« J'appelle ça du spam », explique Clarke, « parce que c'est bien ça. Parfois, je refuse même de parler d'intelligence artificielle. On ne peut T humaniser ces choses. Ce n'est pas comme la science-fiction des films où tout est conscient. C'est un modèle statistique [langage]. »

La mention du spam devrait faire lever l’antenne des observateurs de longue date des Cryptomonnaie : le même problème se trouvait aux origines mêmes du Bitcoin.

Entre 1998 et 2002, l'informaticien Adam Back a développé le concept de « Hashcash », principalement destiné à lutter contre le spam par e-mail en exigeant un petit paiement pour l'envoi ONE. Back et ses idées ont joué un rôle fondamental dans le développement du Bitcoin. Il est aujourd'hui PDG du développeur de Crypto Blockstream.

Deux décennies plus tard, alors que des hordes de barbares robotiques sont sur le point d’envahir les systèmes de communication Human , il est peut-être temps de revisiter le concept Hashcash.

Les grands arnaqueurs de langues

« ChatGPT est sorti fin novembre », explique Clarke, « et nous avons immédiatement constaté des contributions. Les premiers à l'adopter étaient ceux qui soumettaient déjà des travaux plagiés. Il a été adopté sans hésiter par ceux qui cherchaient à gagner QUICK de l'argent sur le travail des autres. »

Alors qu'ils s'attaquaient au problème du spam, Clarke explique que son équipe et lui ont rapidement compris que l'attaque était coordonnée. Des chaînes YouTube et TikTok, axées sur des programmes pour s'enrichir rapidement, promettaient à leurs téléspectateurs de gagner des milliers de dollars en soumettant des histoires générées par GPT à des magazines de fiction comme Clarkesworld. Clarkesworld rémunère quelques centaines de dollars par article, selon sa longueur – un montant à peine supérieur à celui d'une bière dans certaines régions du monde, mais extrêmement substantiel dans d'autres.

Ces promesses frauduleuses d'escrocs en ligne semblent s'être propagées rapidement. Clarke affirme avoir reçu 54 soumissions générées par l'IA en décembre. En janvier, il a reçu 117 fausses histoires. En février, ce chiffre a atteint 514 avant que Clarke ne clôture les soumissions le 20 février à midi.

« Et ce matin-là seulement », dit-il, « nous en avions 50. »

Clarkesworld dispose d'une petite équipe, qui examine habituellement environ 1 100 soumissions par mois. Le flot croissant de déchets menaçait donc de les submerger, et les solutions n'étaient T évidentes.

« Nous avons un processus de soumission ouvert, spécialement conçu pour accueillir de nouveaux auteurs et de nouvelles voix », explique Clarke. « Nous pourrions donc fermer les soumissions de certains pays [pour lutter contre le spam], mais nous recevons également des auteurs légitimes de ces pays. Et on nous a dit des choses comme : "Le paiement de cette histoire couvrira mes factures pendant un mois." »

« De tels auteurs sont oubliés. Les soumissions par l'IA nuisent aux nouveaux auteurs, et à ceux qui ne sont pas forcément issus de communautés bien connectées. » C'est ONEune des façons dont le contenu généré automatiquement menace de dégrader Internet pour les êtres Human , en particulier ceux qui sont en marge.

« Si l'on remonte 15 ou 20 ans en arrière, lorsque nous acceptions les soumissions sur papier », explique Clarke, « le seul coût des frais de port suffisait à réduire considérablement les soumissions provenant de l'extérieur des États-Unis, du Canada et du Royaume-Uni. Et dès l'avènement des soumissions numériques, nous avons assisté à un afflux de candidatures internationales. » Cela a entraîné une diversification considérable du monde de la fiction – une renaissance créative aujourd'hui menacée par l'essor des masters de littérature.

Clarke est également codeur, ce qui lui a donné des outils utiles pour lutter contre le spam. Il a commencé à associer davantage de métadonnées aux soumissions, comme le fait qu'elles proviennent ou non d'un VPN et la durée de la session de l'utilisateur. Ces critères, ainsi que d'autres, sont désormais utilisés dans le cadre d'un « système de points » qui place les articles les plus susceptibles d'être faux plus loin dans la file d'attente. Cela permet aux auteurs authentiques d'être lus en premier, mais garantit également que chaque soumission soit finalement examinée.

Enfin, si une histoire est considérée comme générée par LLM, l'auteur de l'article est définitivement banni du système.

Ces mesures ont aidé Clarkesworld à rouvrir les soumissions, pour l’instant – mais une augmentation continue du volume de spam qu’ils traitent signifierait que la solution n’est que temporaire.

« Pire que le pire écrivain Human »

Un aspect important de l'expérience de Clarke est que la qualité réelle des soumissions robotisées est extrêmement faible. Elles sont presque immédiatement reconnaissables par un lecteur Human et n'ont aucune chance d'être publiées.

« ChatGPT3 écrivait à un niveau inférieur à celui des pires Human », explique Clarke, qui, après deux décennies de travail comme éditeur, sait exactement à quoi LOOKS le pire. « GPT4 se rapproche de plus en plus des pires Human , mais même cela reste RARE. »

« Le point commun, c'est qu'ils ont une grammaire et une orthographe parfaites », poursuit Clarke. « Mais les histoires elles-mêmes T de sens. Elles passent à côté de choses importantes. Elles partent d'un postulat de base, comme l'effondrement écologique, et présentent des scientifiques capables de résoudre le problème, pour finalement le résoudre. Le cœur de l'histoire est omis, et le récit est encadré par des débuts et des fins stéréotypés, très mal faits. »

Cela ressemble beaucoup à la récente caractérisation de Ted Chiang de la sortie de ChatGPT comme« un JPEG flou d’Internet. »Cette médiocrité manifeste dément une grande partie du battage médiatique autour des LLM. Mais elle rend aussi d'autant plus déprimante l'image de rédacteurs talentueux (et terriblement sous-payés) contraints de trier les rebuts.

La promesse de frais minimes et remboursables

Une autre option pour réduire les soumissions indésirables consiste à imposer des frais de soumission. Clarke affirme ne pas avoir l'intention d'instaurer de frais, en raison de préoccupations éthiques et créatives primordiales. En particulier, des frais de soumission pourraient limiter l'accès, ce à quoi la communauté des auteurs de science-fiction s'oppose fermement.

Mais au-delà de cela, les lacunes techniques de l’infrastructure actuelle des paiements mondiaux rendent également la facturation de frais anti-spam peu pratique, même si Clarke le voulait.

Par exemple, Clarke explique que pour facturer des frais de soumission, il faudrait pouvoir les rembourser, par exemple aux auteurs dont les histoires ont été acceptées ou qui n'ont tout simplement pas été générées par l'IA. Idéalement, les frais de blocage du spam seraient également assez faibles – certainement bien inférieurs aux 25 ou 30 dollars de frais de port qui retenaient les auteurs des pays en développement à l'ère pré-Internet.

Mais il n’y a aucun moyen de faire cela avec la technologie actuelle.

« Indiquez-moi une société de carte de crédit où je peux me faire rembourser la quasi-totalité. Je perdrais le compte », dit Clarke. Comme tout bon Crypto entrepreneur le sait, les cartes de crédit ne sont T non plus très pratiques pour les petits paiements. Mais ce n'est même T le plus gros problème.

« Il y a aussi des problèmes liés à la gestion des paiements dans différentes régions du monde », poursuit Clarke. « Les sociétés de cartes de crédit refusent de collaborer avec plusieurs pays africains. Cela éliminerait donc les auteurs. J'ai aussi entendu parler de services d'identité, mais ceux-ci présentent également des lacunes à l'échelle nationale. Il nous faut une solution qui convienne à tous. »

Si vous lisez ceci, vous savez déjà où nous allons : au moins en principe, la Cryptomonnaie et les systèmes associés pourraient aider à atténuer le problème de fausses soumissions de Clarkesworld.

Exiger une petite rémunération pour toutes les soumissions réduirait les soumissions de mauvaise qualité, allégerait la charge de travail des éditeurs et les compenserait pour le spam reçu. Les paiements pouvant être reversés aux auteurs réels à moindre coût, rapidement et facilement, le coût pour les rédacteurs Human serait marginal. Et comme ces systèmes ne sont pas limités par les frontières nationales, aucun rédacteur réel ne serait évincé par les robots-régurgitateurs.

Bien que cela nécessiterait une élaboration considérable, une version du même système pourrait un jour servir à des fins parallèles dans des contextes moins spécialisés. On peut imaginer unRessemblant à SteemUn système d'incitations au jalonnement est utilisé pour sanctionner les publications automatisées sur les forums ou les réseaux sociaux, par exemple. Des systèmes d'identité décentralisés plus élaborés, tels queSpruceID, sont plus difficiles et, pour l’instant, plus naissantes, mais pourraient avoir un potentiel encore plus profond.

Soyons clairs, rien de tout cela ne devrait être nécessaire. Les LLM se révèlent rapidement n'être rien de plus que des tours de passe-passe, dont l'utilité réelle se limite probablement, du moins à NEAR terme, à un service client court et à un divertissement à appâts à clics. (Prenons par exempleL'expérience désastreuse de CNET(avec l'utilisation de GPT pour écrire des articles d'actualité).

Les impacts les plus importants de la technologie se manifestent plutôt par la diffusion d'un charabia de quatrième ordre qui gaspille le temps et l'énergie de tous les humains impliqués. Mais si c'est ce que les princes de la Silicon Valley voient comme la prochaine frontière des richesses du capital-risque, alors c'est le monde dans lequel nous devrons vivre. Au moins, la Crypto offre un espoir de riposte.