Para sobrevivir a la nueva era del spam robótico, observe la historia de las criptomonedas

Este es David Z. Morris, reemplazando a Michael Casey para hablar sobre la llamada inteligencia artificial, las amenazas que representa para el futuro y cómo las Cripto podrían ayudar a mitigarlas.

Como Michael seguramente estaría de acuerdo, no hay días libres en el Cripto. Me lo recordé cuando pasé recientemente un fin de semana largo en el fantástico...Readerconconvención de ficción. Inevitablemente, me perdí algunas Historias importantes Cripto, pero también obtuve una visión de cerca de otra novedad inminente: la amenaza existencial que los modelos de lenguaje grandes automatizados (LLMs) como GPT3 representan para todo Internet.

Estás leyendoEl dinero reinventadoUn análisis semanal de los Eventos y tendencias tecnológicos, económicos y sociales que están redefiniendo nuestra relación con el dinero y transformando el sistema financiero global. Suscríbase para recibir el boletín completo. aquí.

Puede que suene exagerado. Pero en la Readercon conocí a Neil Clarke, fundador y editor de la prestigiosa revista de ciencia ficción.Clarkesworld, que, junto con otras publicaciones de ficción, se ha convertido en una señal de alerta ante la descontrolada IA. El auge de ChatGPT ha inundado estas revistas con una avalancha de envíos de historias falsas generadas por GPT, una plaga tan grave que Clarkesworld se vio obligada a suspender temporalmente los envíos en febrero, lo que amenaza el trabajo y el sustento de los autores auténticos.

“Lo he estado llamando spam”, dice Clarke, “porque eso es. A veces me niego incluso a llamarlo 'inteligencia artificial'. No se pueden humanizar estas cosas. No es como la ciencia ficción de las películas, donde es consciente. Es un modelo estadístico [del lenguaje]”.

La mención del spam debería alertar a los observadores de Criptomonedas de larga data: el mismo problema se encuentra en los orígenes mismos de Bitcoin.

Entre 1998 y 2002, el informático Adam Back desarrolló el concepto de "Hashcash", cuyo objetivo principal era combatir el spam de correo electrónico al requerir un pequeño pago para ONE. Back y sus ideas se convirtieron en la base del desarrollo de Bitcoin, y actualmente es el director ejecutivo de Blockstream, empresa desarrolladora de Cripto .

Dos décadas después, con hordas de bárbaros robóticos preparados para inundar los sistemas de comunicación Human , tal vez sea momento de revisar el concepto de Hashcash.

Grandes estafadores del lenguaje

“ChatGPT salió a finales de noviembre”, dice Clarke, “e inmediatamente empezamos a ver envíos que lo usaban. Los primeros en adoptarlo fueron quienes ya enviaban trabajos plagiados. Fue rápidamente adoptado por quienes buscaban lucrarse QUICK con el trabajo de otros”.

Al enfrentarse al problema del spam, Clarke afirma que él y su equipo se dieron cuenta rápidamente de que el ataque estaba coordinado. Canales de YouTube y TikTok, centrados en estrategias para enriquecerse rápidamente, prometían a sus espectadores ganar miles de dólares enviando historias generadas por GPT a revistas de ficción como Clarkesworld. Clarkesworld paga unos cientos de dólares por historia, dependiendo de su extensión; no mucho más que el dinero de una cerveza en algunas partes del mundo, pero una cantidad muy significativa en otras.

Esas promesas fraudulentas de estafadores en línea parecen haberse extendido rápidamente. Clarke afirma haber recibido 54 envíos generados por IA en diciembre. En enero, recibió 117 historias falsas. En febrero, la cifra llegó a 514 antes de que Clarke cerrara el plazo de envíos al mediodía del 20 de febrero.

“Y solo esa mañana”, dice, “teníamos 50”.

Clarkesworld cuenta con un equipo reducido, que normalmente revisa unas 1100 solicitudes al mes. Por lo tanto, la creciente avalancha de basura amenazaba con desbordarlos, y las soluciones no eran evidentes.

“Tenemos un proceso de envío abierto, diseñado específicamente para acoger a nuevos escritores y nuevas voces”, dice Clarke. “Así que podríamos cerrar el envío de ciertos lugares [para combatir el spam], pero también tenemos autores legítimos que llegan de esos países. Y nos han dicho cosas como: ‘El pago de esta historia cubrirá mis facturas de un mes’”.

Autores como ese están siendo ignorados. Las publicaciones con IA perjudican a los nuevos autores y a autores que podrían no pertenecer a comunidades bien conectadas. Esta es una forma clara en que el contenido generado automáticamente amenaza con empeorar internet para los seres Human , especialmente para quienes viven en los márgenes.

“Si nos remontamos a hace 15 o 20 años, cuando recibíamos obras en papel”, dice Clarke, “tan solo el coste del envío postal bastaba para reducir considerablemente las obras de fuera de EE. UU., Canadá y el Reino Unido. Y en cuanto empezaron las obras digitales, tuvimos una avalancha de obras internacionales”. Esto ha propiciado una enorme diversificación del mundo de la ficción, un renacimiento creativo que ahora se ve amenazado por el auge de los LLM.

Clarke también es programador, lo que le proporcionó herramientas útiles para abordar el problema del spam. Empezó a asociar más metadatos con los envíos, como si se recibían a través de una VPN y la duración de la sesión del usuario. Estos y otros criterios se utilizan ahora como parte de un "sistema de puntos" que coloca las historias con mayor probabilidad de ser falsas en los últimos puestos de la cola de revisión. Esto ayuda a que los autores auténticos sean leídos primero, pero también garantiza que cada envío sea finalmente revisado.

Finalmente, si se determina que una historia fue generada por LLM, quien la envió queda excluido permanentemente del sistema.

Esas medidas han ayudado a Clarkesworld a reabrir los envíos, por ahora, pero un aumento continuo en el volumen de spam con el que lidian significaría que la solución es solo temporal.

“Peor que el peor escritor Human ”

Un aspecto importante de la experiencia de Clarke es que la calidad real de los envíos robóticos ha sido pésima. Son casi inmediatamente reconocibles para un lector Human y no tienen ninguna posibilidad real de ser publicados.

“ChatGPT3 escribía a un nivel inferior al de los peores escritores Human ”, dice Clarke, quien tras dos décadas como editor sabe exactamente cómo es lo peor. “GPT4 se acerca cada vez más a los peores escritores Human , pero incluso eso sigue siendo RARE”.

“Lo común es que tengan una gramática y una ortografía perfectas”, continúa Clarke. “Pero las historias en sí mismas T de sentido. Se saltan cosas importantes. Empiezan con una premisa básica, como el colapso ecológico, y presentan a científicos que pueden resolver el problema, y ​​de repente lo han resuelto. Les falta el núcleo de la historia y la enmarcan con inicios y finales estereotipados, muy mal hechos”.

Eso suena mucho a la reciente caracterización que Ted Chiang hizo del resultado de ChatGPT como“Una imagen JPEG borrosa de Internet”.Esta manifiesta chapuza desmiente felizmente gran parte del bombo publicitario absurdo en torno a los LLM. Pero también hace aún más deprimente la imagen de editores talentosos (y terriblemente mal pagados) obligados a filtrar la escoria.

La promesa de tarifas pequeñas y reembolsables

Otra opción para reducir el spam es establecer una tarifa de envío. Clarke afirma que no desea ni planea implementar una tarifa, debido a preocupaciones éticas y creativas primordiales. En particular, una tarifa de envío podría limitar el acceso, a lo que la comunidad de escritores de ciencia ficción se opone firmemente.

Pero más allá de eso, las deficiencias técnicas de la actual infraestructura de pagos globales también hacen que cobrar una tarifa antispam sea poco práctico, incluso si Clarke quisiera.

Por ejemplo, Clarke afirma que para cobrar una tarifa de envío, necesitaría poder reembolsarla, por ejemplo, a los escritores cuyas historias fueron aceptadas o simplemente no fueron generadas por IA. Una tarifa ideal para bloquear el spam también sería bastante baja, sin duda mucho menor que los 25 o 30 dólares de gastos de envío que mantenían alejados a los autores de países en desarrollo antes de internet.

Pero no hay forma de hacer eso con la tecnología actual.

"Dime una compañía de tarjetas de crédito donde pueda reembolsar casi todo. Perdería la cuenta", dice Clarke. Como cualquier buen experto en Cripto sabe, las tarjetas de crédito T son adecuadas para pagos pequeños. Pero esos T siquiera son el mayor problema.

“También existen problemas al intentar aceptar pagos en diferentes partes del mundo”, continúa Clarke. “Hay varios países africanos con los que las compañías de tarjetas de crédito no trabajan. Así que eso eliminaría a los autores. También he escuchado sugerencias sobre servicios de identidad, pero estos también tienen deficiencias a nivel nacional. Necesitamos algo que funcione para todos”.

Si estás leyendo esto, ya sabes hacia dónde nos dirigimos: al menos en principio, las Criptomonedas y los sistemas relacionados podrían ayudar a mitigar el problema de envíos falsos de Clarkesworld.

Exigir un pequeño pago por todos los envíos reduciría los envíos de baja calidad, aligerando la carga de trabajo de los editores y compensándolos por el spam recibido. Dado que los pagos podrían devolverse de forma económica, rápida y sencilla a los autores reales, el coste para los escritores Human sería mínimo. Y como estos sistemas no están limitados por fronteras nacionales, ningún escritor real se vería desplazado por los robots regurgitadores.

Aunque requeriría una elaboración considerable, alguna versión del mismo sistema podría algún día servir para propósitos paralelos en entornos menos especializados. ONE puede imaginar unSimilar a SteemSistema de incentivos de participación que se utiliza para castigar la publicación automatizada en foros o redes sociales, por ejemplo. Sistemas de identidad descentralizados más elaborados, comoIdentificación de abeto, son más desafiantes y, por ahora, más incipientes, pero podrían tener un potencial aún más profundo.

Para ser claros, nada de esto debería ser necesario. Los LLM se están revelando rápidamente como poco más que trucos de salón, cuya verdadera utilidad probablemente se limita, al menos a NEAR plazo, a la atención al cliente breve y al entretenimiento clickbait. (Tomemos como ejemploEl desastroso experimento de CNETcon el uso de GPT para escribir artículos de noticias).

El mayor impacto de la tecnología se observa, en cambio, en la difusión de un galimatías de mala calidad que desperdicia el tiempo y la capacidad intelectual de todos los humanos involucrados. Pero si esto es lo que los príncipes-dioses de Silicon Valley ven como la próxima frontera de la riqueza del capital riesgo, entonces es el mundo en el que tendremos que vivir. Como mínimo, las Cripto ofrecen una esperanza para contraatacar.