Los impulsores de la IA sacrificarían a la humanidad por un simulacro, siempre y cuando tengan el control.

Los humanos siempre han tenido una relación peculiar con la Tecnología. Ya sea el fuego, la palabra escrita o la inteligencia artificial (IA), las cosas que creamos para empoderarnos y expandirnos a menudo nos parecen fuerzas externas extrañas, con un impacto transformador en nuestras vidas y mentes tan profundo e impredecible como el de dioses caprichosos.

Este artículo es un extracto de The Node, el resumen diario de CoinDesk con las noticias más importantes sobre blockchain y Cripto . Puedes suscribirte para recibir la información completa. boletín informativo aquí.

En el siglo XXI, existen muchas tecnologías a cuyo impacto aún no nos hemos adaptado, como las redes sociales. Otras, en particular la inteligencia artificial y las Criptomonedas, aún no están completamente desarrolladas, pero podrían tener un gran impacto en nuestra forma de vida. Esto incluye moldear nuestra percepción del mundo: los grupos Human suelen estar profundamente influenciados por los sesgos inherentes a las tecnologías de las que dependen. (Esta relación entre la humanidad y su Tecnología fue el principal foco de mi carrera académica antes de dedicarme al periodismo).

Los casos de la IA y las Criptomonedas son particularmente fascinantes. Sus respectivos fundamentos tecnológicos se vinculan con ideas mucho más amplias sobre la sociedad e incluso la moral individual. Ambos conjuntos de ideas también parecen, en muchos sentidos, diametral y fundamentalmente opuestos. Por un lado, están los ideólogos de las Cripto , a menudo con algún tipo de libertarianismo; por otro, el tecnoutopismo de los promotores de la IA.

El principio CORE de la tecnología blockchain es la universalidad. La idea es que todos, en cualquier lugar, puedan acceder a estas herramientas y servicios, independientemente de si alguien con autoridad lo permite o no. Un corolario de este principio es la gran importancia que se le da a la Privacidad . Estos valores generan un gran caos, pero la filosofía subyacente incluye la creencia de que dicho caos es productivo, o al menos una compensación necesaria para el desarrollo Human .

Las comunidades de inteligencia artificial tienden a una visión del mundo muy diferente, estrechamente vinculada también a la estructura de la Tecnología. La función básica de una IA es observar el comportamiento Human y luego copiarlo, con todos sus matices. Esto tiene muchas implicaciones, pero entre las principales se encuentran el fin del trabajo Human , la centralización tecnológica y una tendencia hacia la transparencia total de los datos.

Estos pueden parecer inofensivos o incluso positivos. Pero, dicho sin rodeos, las implicaciones de los sesgos técnicos de la IA parecen bastante nefastas para la humanidad. Por eso resulta aún más fascinante ver a los promotores de la IA no solo aceptar estas sombrías implicaciones, sino trabajar incansablemente para hacerlas realidad.

Ya no eres Human

La manifestación más flagrantemente malévola de la cosmovisión de la IA podría no ONE. Worldcoin es aparentemente un proyecto de Criptomonedas diseñado para distribuir una "renta básica universal" (RBU) a cambio de... Recopilación de datos biométricos ultrasensiblesde poblaciones vulnerables.

Pero aunque a simple vista parezca una Cripto, Worldcoin es en esencia un proyecto de IA. Es la creación de Sam Altman, también fundador de OpenAI. Su objetivo de identificar a las personas y otorgarles una RBU se basa en un futuro en el que la inteligencia artificial se apodere de todos los trabajos Human , lo que requiere una redistribución centralizada de la riqueza generada por la IA.

Ver también:Por qué todo el mundo está enojado con Worldcoin de Sam Altman(2021)

Una implicación que a menudo se pasa por alto es que, en el futuro, personas como Sam Altman serán quienes aún tengan un trabajo significativo y libertad individual, porque estarán al mando de las máquinas. El resto, al parecer, tendremos que subsistir con Worldcoin.

Si esto suena deshumanizante, prueba esto: derechos Human para las máquinasEn un ensayo publicado en The Hill el 23 de marzo, la colaboradora Jacy Reese Anthis declaró: «Necesitamos un movimiento por los derechos de las IA». Como muchos señalaron, esto es filosóficamente sospechoso, ya que no hay pruebas contundentes de que las inteligencias artificiales tengan o puedan tener alguna experiencia subjetiva, ni de que experimenten sufrimiento de una forma que requiera protección.

Los entusiastas de la IA se han esforzado mucho por ocultar esta cuestión de la conciencia subjetiva. Han planteado...una serie de argumentos maliciosamente engañososque las IA –incluidos, absurdamente, los modelos de lenguaje actualmente existentes– poseen alguna forma de conciencia, o la experiencia subjetiva de estar en el mundo.La conciencia y sus orígenesse encuentran entre los grandes misterios de la existencia de todos los tiempos, pero los defensores de la IA a menudo parecen tener una comprensión superficial del tema, o incluso de lo que significa la palabra "conciencia".

Anthis, cofundador de algo llamado Sentience Institute, repite en su ensayo la falacia lógica cardinal de muchas investigaciones defectuosas sobre IA: aceptar acríticamente el resultado visible de la IA como un signo directo de alguna experiencia subjetiva interna.

Por descabellado que parezca el reclamo de derechos en materia de IA, aún no hemos tocado los límites más extremos de la exageración errónea sobre la IA. A finales de marzo, nada menos que el aspirante a rey filósofo Eleizer Yudkowsky sugirió que sus seguidores deberían estar preparados paracometer ataques violentos contra granjas de servidorescon el fin de frenar o detener el avance de la IA.

A algunos les sorprenderá que incluya a Yudkowsky entre las fuerzas pro-IA. Yudkowsky es el líder de un movimiento de "Seguridad de la IA" surgido de su blog "racionalista" LessWrong, y argumenta que la IA podría potencialmente dominar el mundo y destruir a la humanidad. La validez de estas ideas es debatible, pero lo importante es que Yudkowsky y sus supuestos colegas racionalistas no se oponen a la inteligencia artificial. Los yudkowskyitas creen que la IA puede crear una utopía (una utopía de la que ellos estarían a cargo), pero que conlleva graves riesgos. Son, fundamentalmente, defensores de la IA disfrazados de escépticos.

Esto contrasta con el escepticismo más genuino y fundamentado de figuras como Timnit Gebru yCathy O'NeilEstos investigadores, que no cuentan con tantos seguidores como Yudkowsky, no se preocupan por un apocalipsis lejano. Su preocupación radica en un peligro claro y presente: que los algoritmos entrenados con el comportamiento Human también reproduzcan las fallas de ese comportamiento, como la discriminación racial y otras formas de discriminación. Gebru fue notoriamente...despedido de Googlepor tener la temeridad deseñalarproblemas con la IAque amenazaba el modelo de negocio de Google.

Se puede notar la similitud aquí con otros movimientos ideológicos, particularmente las ideas relacionadas de“altruismo efectivo” y “largoplacismo”.Emile P. Torres, filósofo de la Universidad Leibniz de Alemania, se encuentra entre quienes describen la profunda alineación y las afiliaciones entre los yudkowskyistas, los “transhumanistas”, los altruistas eficaces y los longtermistas, bajo el acrónimoTESREALComo solo un pequeño ejemplo de esta alineación, FTX, el intercambio de Cripto fraudulento compuesto principalmente por altruistas eficaces y dirigido por un hombre que fingió ser ONE, hizo grandes donaciones (utilizando fondos supuestamente robados) aSeguridad de la IAgrupos, así como otras causas a largo plazo.

Este paquete de visiones del mundo, sostiene Torres, se reduce a “colonizar, subyugar, explotar y maximizar.” En Worldcoin en particular vemos un avance del autoritarismo implacable de un mundo donde las máquinas copian sin cesar los comportamientos Human y los reemplazan, a excepción del puñado de humanos que tienen sus manos en el timón.

Ver también:La intersección de la IA y las CriptoEl dinero reinventado

Hay mucho más que decir aquí, pero para quienes trabajan en el mundo de las Cripto , una declaración del eje TESCREAL merece especial atención. En un ensayo muy reciente, Yudkowsky declaró que la futura amenaza de la inteligencia artificial peligrosa podría requerir una vigilancia global muy estricta, que incluya rompiendo todo el cifrado, para evitar el comportamiento hostil de la IAG."

En otras palabras, para estas personas, la Privacidad y la autonomía de los humanos en el presente deben descartarse en favor de la creación de las condiciones para la expansión segura y continua de la inteligencia artificial en el futuro. Les dejo a ustedes decidir si ese es un futuro o un presente que cualquiera debería desear.