Para Makaligtas sa Bagong Panahon ng Robot Spam, Tumingin sa Kasaysayan ng Crypto

Ito ay si David Z. Morris, na pumupuno kay Michael Casey upang pag-usapan ang tungkol sa tinatawag na artificial intelligence, ang mga banta nito sa hinaharap – at kung paano makakatulong ang Crypto na mabawasan ang mga ito.

Tulad ng tiyak na sasang-ayon si Michael, walang totoong mga araw na walang pasok sa Crypto. Naalala ko ang aking sarili noong kamakailan ay gumugol ako ng mahabang katapusan ng linggo sa kamangha-manghang Readercon kumbensyon ng fiction. Hindi maiwasan, may na-miss ako mahahalagang kwento ng Crypto, ngunit nakakuha din ako ng ilang malapit na insight sa isa pang nagbabantang bagong bagay: ang eksistensyal na banta na nag-automate ng malalaking modelo ng wika (LLM) tulad ng GPT3 sa buong internet.

Nagbabasa ka Pera Reimagined, isang lingguhang pagtingin sa mga teknolohikal, pang-ekonomiya at panlipunang mga Events at uso na muling tumutukoy sa ating relasyon sa pera at nagbabago sa pandaigdigang sistema ng pananalapi. Mag-subscribe para makuha ang buong newsletter dito.

Baka hyperbolic yan. Ngunit sa Readercon, nakilala ko si Neil Clarke, tagapagtatag at editor ng top-tier science fiction magazine Clarkesworld, na kasama ng iba pang fiction publication ay naging kanaryo sa minahan ng karbon ng A.I. amok. Ang pag-usbong ng ChatGPT ay nagpabaha sa mga journal na ito ng baha ng pekeng GPT-generated story submissions, isang salot na napakatinding Clarkesworld ang napilitang pansamantalang i-pause ang mga pagsusumite nitong Pebrero, na nagbabanta sa trabaho at kabuhayan ng mga tunay na may-akda.

"Tinatawag ko itong spam," sabi ni Clarke, "Dahil iyon talaga. Kung minsan ay tumatanggi akong tawagin itong 'artificial intelligence.' Hindi mo T gawing tao ang mga bagay na ito.

Ang pagbanggit ng spam ay dapat na itaas ang antenna ng matagal nang mga tagamasid ng Cryptocurrency : ang parehong problema ay nasa mismong pinagmulan ng Bitcoin.

Sa pagitan ng 1998 at 2002, binuo ng computer scientist na si Adam Back ang konsepto ng “Hashcash,” na pangunahing nilayon upang labanan ang spam ng e-mail sa pamamagitan ng pag-aatas ng maliit na bayad para magpadala ng ONE. Bumalik at naging pundasyon ang kanyang mga ideya sa pagbuo ng Bitcoin, at CEO na siya ng Crypto developer na Blockstream.

Pagkalipas ng dalawang dekada, na may mga robotic barbarian hordes na nakahanda na sa pagbagsak ng mga sistema ng komunikasyon ng Human , maaaring oras na upang muling bisitahin ang konsepto ng Hashcash.

Mga Malalaking Tagahanga ng Wika

"Lumabas ang ChatGPT noong huling bahagi ng Nobyembre," sabi ni Clarke, "At agad kaming nagsimulang makakita ng mga pagsusumite gamit ito. Ang mga unang taong nagpatibay nito ay ang mga nagsusumite na ng mga plagiarized na gawa. Ito ay kaagad na tinanggap ng mga taong nagsisikap na kumita ng QUICK mula sa trabaho ng ibang tao."

Habang kinakaharap nila ang problema sa spam, sinabi ni Clarke na mabilis niyang napagtanto at ng kanyang koponan na ang pag-atake ay pinag-ugnay. Ang mga channel sa YouTube at TikTok na nakatuon sa mga pamamaraan ng mabilisang pagyaman ay nangangako sa mga manonood na kikita sila ng libu-libong dolyar sa pamamagitan ng pagsusumite ng mga kuwentong nabuo ng GPT sa mga fiction magazine tulad ng Clarkesworld. Nagbabayad ang Clarkesworld ng ilang daang dolyar bawat kuwento, depende sa haba – hindi hihigit sa pera ng beer sa ilang bahagi ng mundo, ngunit lubhang makabuluhan sa iba.

Mukhang mabilis na kumalat ang mga mapanlinlang na pangakong iyon mula sa mga online grifter. Sinabi ni Clarke na nakatanggap siya ng 54 na isinumite na binuo ng AI noong Disyembre. Noong Enero, nakakuha siya ng 117 pekeng kwento. Noong Pebrero, umabot sa 514 ang bilang bago isinara ni Clarke ang mga pagsusumite ng tanghali noong Pebrero 20.

“At nang umagang iyon lamang,” sabi niya, “mayroon kaming 50.”

Ang Clarkesworld ay may maliit na staff, na karaniwang nagsusuri ng humigit-kumulang 1,100 na isinumite sa isang buwan. Kaya't ang mabilis na pagbaha ng basura ay nagbanta na matabunan sila, at ang mga solusyon ay T halata.

"Mayroon kaming bukas na proseso ng pagsusumite, partikular na idinisenyo upang tanggapin ang mga bagong manunulat at bagong boses," sabi ni Clarke. "Para maisara namin ang mga pagsusumite mula sa ilang partikular na lokasyon [upang labanan ang spam], ngunit mayroon din kaming mga lehitimong may-akda na dumarating mula sa mga bansang iyon. At sinabihan kami ng mga bagay tulad ng, 'Sasaklawin ng pagbabayad para sa kuwentong ito ang aking mga bayarin sa loob ng isang buwan.'"

"Ang mga may-akda na tulad nito ay nalilibing. Ang mga pagsusumite ng AI ay nakakasakit sa mga bagong may-akda, at mga may-akda na maaaring hindi mula sa mga komunidad na mahusay na konektado." Ito ay ONE malinaw na paraan na ang awtomatikong nabuong nilalaman ay nagbabanta na magpapalala sa internet para sa mga Human - lalo na sa mga nasa gilid.

"Kung babalik ka sa 15 o 20 taon noong nagsumite kami ng mga pagsusumite sa papel," sabi ni Clarke, "ang halaga lang ng selyo ay sapat na upang mabawasan ang mga pagsusumite mula sa labas ng U.S., Canada, at U.K. nang malaki. At sa sandaling mayroon kang mga digital na pagsusumite, nagkaroon kami ng maraming internasyonal na pagsusumite." Iyon ay humantong sa isang malaking pagkakaiba-iba ng mundo ng fiction - isang malikhaing renaissance na ngayon ay nanganganib sa pamamagitan ng pagtaas ng mga LLM.

Si Clarke ay isa ring coder, na nagbigay sa kanya ng mga kapaki-pakinabang na tool para sa pagtugon sa hamon ng spam. Sinimulan niyang iugnay ang higit pang metadata sa mga pagsusumite, gaya ng kung ang mga ito ay dumating sa pamamagitan ng VPN at ang haba ng session ng user. Ang mga ito at ang iba pang pamantayan ay ginagamit na ngayon bilang bahagi ng isang "sistema ng mga puntos" na naglalagay ng mga kuwento na mas malamang na maging peke sa isang pila ng pagsusuri. Nakakatulong ito sa mga tunay na may-akda na makapagbasa muna, ngunit tinitiyak din na ang bawat pagsusumite ay susuriin sa kalaunan.

Sa wakas, kung ang isang kuwento ay natukoy na LLM-generated, ang nagsumite ay permanenteng naka-ban sa system.

Ang mga hakbang na iyon ay nakatulong sa Clarkesworld na muling buksan ang mga pagsusumite, sa ngayon - ngunit ang patuloy na pagtaas sa dami ng spam na kanilang kinakaharap ay nangangahulugan na ang solusyon ay pansamantala lamang.

"Mas masama kaysa sa Pinakamasamang Manunulat ng Human "

Ang ONE mahalagang aspeto ng karanasan ni Clarke ay ang aktwal na kalidad ng mga robotic na pagsusumite ay napakababa. Halos agad silang nakikilala ng isang Human mambabasa, at walang aktwal na pagkakataong ma-publish.

"Ang ChatGPT3 ay sumusulat sa isang antas na mas mababa sa pinakamasamang manunulat ng Human ," sabi ni Clarke, na pagkatapos ng dalawang dekada bilang isang editor ay alam na alam kung ano ang LOOKS ng pinakamasama. "Papalapit na ang GPT4 sa pinakamasamang manunulat ng Human , ngunit kahit na iyon ay RARE pa rin."

"Ang karaniwang bagay ay mayroon silang perpektong grammar, mayroon silang perpektong spelling," patuloy ni Clarke. "Ngunit ang mga kuwento mismo ay T masyadong kahulugan. Sila ay tumalon sa mga mahahalagang bagay. Magsisimula sila sa isang pangunahing premise, tulad ng ecological collapse, at ipakilala ang ilang mga siyentipiko na maaaring malutas ang problema, at pagkatapos ay bigla nilang nalutas ang problema. Ito ay nawawala sa gitna ng kuwento, at i-book ito sa mga stereotypical openings at closing, tapos na napakahirap."

Katulad iyon ng kamakailang paglalarawan ni Ted Chiang sa output ng ChatGPT bilang "isang malabong JPEG ng internet." Itong manifest crappiness happily debunks karamihan ng brain-dead hype sa paligid ng LLMs. Ngunit ito rin ay gumagawa ng imahe ng mga mahuhusay na (at napakaliit na bayad) na mga editor na napipilitang magsala sa mga dumi na higit na nakapanlulumo.

Ang Pangako ng Maliit, Mare-refund na Bayarin

Ang isa pang pagpipilian para sa pagbabawas ng mga pagsusumite ng spam ay isang bayad sa pagsusumite. Sinabi ni Clarke na wala siyang pagnanais o plano na magpatupad ng bayad, salamat sa overriding etikal at malikhaing alalahanin. Sa partikular, maaaring limitahan ng bayad sa pagsusumite ang pag-access, na mahigpit na tinututulan ng komunidad ng mga manunulat ng science fiction.

Ngunit higit pa riyan, ang mga teknikal na pagkukulang ng kasalukuyang imprastraktura ng mga pandaigdigang pagbabayad ay ginagawa ring hindi praktikal ang paniningil ng anti-spam fee, kahit na gusto ni Clarke.

Halimbawa, sinabi ni Clarke na maningil ng bayad sa pagsusumite, kakailanganin niyang mai-refund ito, halimbawa sa mga manunulat na tinanggap ang mga kuwento, o sadyang hindi binuo ng AI. Ang isang mainam na bayad sa pag-block ng spam ay magiging maliit din - tiyak na mas mababa kaysa sa $25 o $30 na halaga ng selyo na nag-iwas sa mga umuunlad na may-akda sa mundo bago ang internet.

Ngunit walang paraan upang gawin iyon sa kasalukuyang teknolohiya.

"Sabihin sa akin ang isang kumpanya ng credit card kung saan maaari kong i-refund ang halos lahat nito. Mawawala ang account ko," sabi ni Clarke. Tulad ng alam ng sinumang mahusay na Crypto bro, ang mga credit card ay T rin mahusay na naglalaro sa maliliit na pagbabayad. Ngunit T iyon ang pinakamalaking isyu.

"Mayroon ding mga problema sa pagsubok na kumuha ng mga pagbabayad sa iba't ibang bahagi ng mundo," patuloy ni Clarke. "Mayroong ilang mga bansa sa Africa na T gagana ang mga kumpanya ng credit card. Kaya aalisin niyan ang mga may-akda. Mayroon din akong mga tao na nagmungkahi ng mga serbisyo sa pagkakakilanlan, ngunit ang mga iyon ay mayroon ding mga butas sa laki ng bansa. Kailangan namin ng isang bagay na gumagana para sa lahat."

Kung binabasa mo ito, alam mo na kung saan kami patungo: sa prinsipyo, ang Cryptocurrency at mga kaugnay na sistema ay maaaring makatulong na mabawasan ang pekeng problema sa pagsusumite ng Clarkesworld.

Ang pag-aatas ng kaunting bayad para sa lahat ng mga pagsusumite ay makakabawas sa mga pagsusumite na mababa ang kalidad, nagpapagaan sa mga workload ng mga editor, at makakabayad sa kanila para sa spam na dumating. Dahil ang mga pagbabayad ay maaaring mura, mabilis, at madaling ibalik sa mga tunay na may-akda, ang gastos sa aktwal na mga manunulat Human ay magiging marginal. At dahil ang mga sistemang ito ay hindi nakakulong sa mga pambansang hangganan, walang tunay na manunulat ang masisikip sa labas ng mga robo-regurgitator.

Bagama't mangangailangan ito ng malaking elaborasyon, ang ilang bersyon ng parehong sistema ay maaaring magsilbi balang araw ng magkatulad na layunin sa mas kaunting mga setting ng boutique. Maiisip ng ONE a Parang steem sistema ng mga staking insentibo na ginagamit upang parusahan ang awtomatikong pag-post sa mga forum o social media, halimbawa. Mas detalyadong desentralisadong mga sistema ng pagkakakilanlan, gaya ng SpruceID, ay mas mapanghamon at, sa ngayon, mas lumalabas, ngunit maaaring magkaroon ng mas malalim na potensyal.

Upang maging malinaw, wala sa mga ito ang kailangan. Ang mga LLM ay mabilis na inihayag bilang kaunti pa kaysa sa mga panlilinlang sa parlor, na ang tunay na utility ay malamang na limitado, hindi bababa sa NEAR na termino, sa maikling serbisyo sa customer at clickbait entertainment. (Kunin halimbawa Ang mapaminsalang eksperimento ng CNET gamit ang GPT upang magsulat ng mga artikulo ng balita).

Ang pinakamalaking epekto ng teknolohiya ay sa halip ay nakikita sa pagkalat ng pang-apat na antas ng kalokohan na nag-aaksaya ng oras at lakas ng utak ng lahat ng aktwal na taong kasangkot. Ngunit kung ito ang nakikita ng mga prinsipe ng diyos ng Silicon Valley bilang susunod na hangganan ng mga kayamanan ng venture capital, kung gayon ito ang mundong kailangan nating manirahan. Sa pinakamaliit, ang Crypto ay nag-aalok ng ONE pag-asa para lumaban.