Frances Haugen: informadora de Facebook

No te gusta Facebook. A los demócratas no T gusta Facebook. A los republicanos no T gusta Facebook. Quizás sea lo ONE en lo que la mayoría de Estados Unidos esté de acuerdo.

Pero el “problema de Facebook” es casi seguro peor de lo que imaginas.

Ese es el mensaje CORE de Frances Haugen, exgerente de proyectos de Facebook, quien, en septiembre de 2021, divulgó más de 20.000 páginas de documentos que arrojaron luz sobre los lugares más oscuros de internet. La evidencia impulsó el reportaje de The Wall Street Journal.Los archivos de Facebook”, que encontró que la compañía, cuyo nombre corporativo ahora es Meta (FB), “sabe, con gran detalle, que sus plataformas están plagadas de fallas que causan daño, a menudo en formas que solo la compañía comprende completamente”.

Este artículo es parte deCamino al consenso, una serie que destaca a los oradores y las grandes ideas que discutirán enConsenso 2022El festival del año de CoinDesk del 9 al 12 de junio en Austin, Texas.Más Aprende.

Algunas de las conclusiones condenatorias: los algoritmos de Facebook deliberadamente hicieron que el sitio "se enojara más" para aumentar la participación, Facebook estaba tratando intencionalmente de reclutar preadolescentes (aunque la edad mínima es 13) y Facebook sabía que Instagram es tóxico para las adolescentes.

Haugen luego testificó ante el Congreso de los Estados Unidos, donde...cargadoque “los productos de Facebook dañan a los niños, avivan la división y debilitan nuestra democracia”. Con sede en Puerto Rico, ahora se describe a sí misma como una “defensora de la rendición de cuentas y la transparencia en las redes sociales”, y recientemente escribió unensayo para The New York TimesElogia la Ley de Servicios Digitales de Europa, que, en su opinión, «por primera vez revelará los algoritmos que deciden qué vemos y cuándo lo vemos en nuestros feeds». Está contenta con la Ley de Servicios Digitales, pero sabe que es solo el comienzo.

¿Una posible solución?

Cadena de bloques.

En una reciente llamada de Zoom, Haugen sugirió un interesante experimento mental: ¿Qué habría pasado si Facebook se hubiera fundado como una organización autónoma descentralizada? "Si hubiera existido una DAO que regulara Facebook, si hubiera sido propiedad de los usuarios, no creo que hubiéramos dicho: "Oigan, KEEP añadiendo cosas al azar en nuestras cuentas que no pedimos", dice Haugen.

Sospecha que una red social "distribuida", una que provenga de nuestros amigos y familiares, podría ofrecer un mejor camino a seguir. Haugen también explica por qué el problema es más global de lo que se cree, qué solución busca (pista: no son buenas noticias para el CEO Mark Zuckerberg) y por qué la compra de Twitter (TWTR) por parte de ELON Musk podría ser un WIN para las redes sociales.

Han pasado más de siete meses desde los "Archivos de Facebook". ¿Cuál te parece el mayor problema hoy en día?

Diría que se trata de la clasificación de algoritmos. En marzo de 2021, Nick Clegg [ PRIME ministro del Reino Unido y vicepresidente de asuntos globales de Meta] —¡Dios lo bendiga!— publicó un artículo titulado "Se necesitan dos para bailar el tango". Les recomiendo encarecidamente que... Ve a leer ese editorialEs una obra de arte.

Dice [y parafraseo]: "Oye, KEEP culpándonos por lo que ves en Facebook, pero seamos sinceros. Tú elegiste a tus amigos, tú elegiste tus intereses. Se necesitan dos para bailar el tango. Fíjate bien dónde apuntas con el dedo, porque cuatro dedos te están apuntando a ti".

¡Supongo que esto no te parece particularmente convincente!

Hablando de culpabilizar a la víctima. Dijo esto sabiendo que los investigadores de Facebook habían repetido el mismo experimento una y otra vez: tomaron cuentas vacías y las siguieron con intereses moderados. En el caso de Instagram, siguieron cuentas de alimentación saludable. Y, seamos sinceros, todos podríamos comer un poco más sano.

O mucho más saludable, en mi caso.

Y todo lo que [la gente] hacía era hacer clic en las primeras cinco o diez cosas cada día y Síguenos cualquier hashtag sugerido. En dos o tres semanas, recibían contenido activamente a favor de la anorexia y contenido activamente autolesivo. No era una situación de "dos personas bailando el tango". Era simplemente la escala de clasificación basada en la interacción.

¿Puedes explicarnos por qué esto es tan importante?

Les daré un pequeño ejemplo. Hace unas dos semanas, me entrevistó un periodista. Acababa de tener un bebé y creó una cuenta nueva para él. Es un bebé muy lindo. Solo publican fotos lindas de bebés. Una foto al día. El bebé no tiene más amigos que otros bebés lindos, ¿verdad?

Para ser sincero, parece un relato bastante bueno.

Solo publican fotos lindas de bebés. Y, sin embargo, el 10% de su feed son fotos de niños sufriendo. Son fotos de niños en el hospital, con los tubos saliendo de ellos. Son fotos de niños con deformidades graves. Niños moribundos. ¿Qué demonios te hace pasar de un bebé lindo a un niño destrozado?

Sigue leyendo: David Z. Morris - Facebook roba otra idea Cripto para su absurdo cambio de marca

Porque lo único que sabe el algoritmo es que existe algo llamado bebés, y que algunos contenidos de bebés generan más interacción que otros. Resulta que, aunque no ha comentado ni le ha dado "Me gusta" a ONE de ONE fotos, probablemente se obsesione con ellas.

Eso es inquietante como el infierno.

Piensen en lo que eso hace en otros contextos, ¿no? En el caso de los adolescentes, lleva a los jóvenes a morirse de hambre o a suicidarse. En el caso de los adultos, los lleva a estos extremos. Cuando experimentaron con un punto de vista de centroizquierda, se vieron empujados hacia la idea de "matar republicanos". Cuando lo hicieron con el centroderecha, se vieron empujados hacia el genocidio blanco. Y esto no ocurre en un mes, sino en una semana.

Es aterrador.

Piensa en lo que eso hace en la sociedad. Y aquí es donde se pone realmente aterrador. Por eso me levanto cada día. La versión de Facebook con la que interactuamos en Estados Unidos es la más limpia y desinfectada del mundo.

En 2020, destinaron el 87 % de su presupuesto para desinformación al inglés, a pesar de que solo el 9 % de los usuarios hablaba inglés. La mayoría de la gente desconoce que hay al menos mil millones de personas en el mundo —si no 2 mil millones— para quienes internet es equivalente a Facebook.

¿2 mil millones?

Facebook entró en sus países y, gracias a algo llamado Free Basics, dijo: "Si usas Facebook, tus datos son gratis. Si usas cualquier cosa en la web abierta, tendrás que pagar por los datos".

Piensen en cómo esa dinámica de mercado impulsa a todos a usar Facebook. Ahora, se trata de un país muy frágil. Los lugares más frágiles del mundo suelen tener diversidad lingüística, hablan lenguas minoritarias, y el modelo de negocio de Facebook ya no puede ofrecer sistemas de seguridad.

Cuando nos centramos en la censura, en lugar de centrarnos en la seguridad de los productos, básicamente dejamos atrás a quienes se encuentran en los lugares más frágiles del planeta. Y esas personas no pueden abandonar Facebook. No pueden dar su consentimiento.

¿Cuál cree usted que es el papel de blockchain en todo esto, como una posible solución?

Lo que más me emociona es: ¿qué habría pasado si hubiera existido una DAO que gobernara Facebook en 2008? Para que quede claro, el problema con Facebook no es tu familia ni tus amigos.

Facebook ha realizado experimentos donde simplemente te da más contenido al que das tu consentimiento. Se trata de contenido de personas que realmente agregaste como amigos, páginas que realmente seguiste, grupos a los que realmente te uniste. Cuando lo hace gratis, hay menos discurso de odio, menos desnudos, menos violencia. Simplemente dicen: "Oye, confiemos en tu criterio y te daremos más de lo que pides". No es ciencia espacial.

Pero Facebook tuvo que conseguir que consumieras más contenido cada trimestre desde 2008, y familiares y amigos lo decepcionaron. Facebook necesitaba que KEEP produciendo más y más contenido. Y cuando no lo hicieron, empezaron a hacer pequeños trucos raros.

¿Y cómo encajaría entonces una DAO en todo esto?

Si hubiera existido una DAO que regulara Facebook, si hubiera sido propiedad de los usuarios, no creo que hubiéramos dicho: "Oigan, KEEP metiendo información basura en nuestras cuentas que no pedimos". Seguiríamos teniendo algo parecido al Facebook de 2008. Así que soy cautelosamente optimista de que explorar diferentes modelos de negocio podría tener potencial.

Lo secundario es que creo que sería más fácil gestionar una versión de Facebook centrada en nuestra familia y amigos. La familia y los amigos no son el problema. Un sistema de amplificación que usa algoritmos para dirigir nuestra atención, ese es el problema.

Podcast: Lo que las patentes de Facebook nos dicen sobre la lucha por el alma del metaverso

Sabes, si puedes hacerlo de manera distribuida y [construir] un sistema muy parecido a Facebook, pero solo con tu familia y amigos, creo que sería mucho más seguro.

¿Qué cree usted que será necesario para resolver definitivamente el problema de Facebook?

Creo que, como mínimo, es un problema de gobernanza corporativa. ONE de los problemas fundamentales de Facebook es que no reconoce su poder. No puede reconocer su responsabilidad. Por ejemplo, veamos la situación de los chicos de secundaria que se fracturan huesos porque se pelean para subirlos a Instagram. Piénsenlo un momento. ¿Qué haría falta para que Instagram eliminara esa cuenta? ¿Por qué no la eliminan?

No pueden reconocer su responsabilidad. Así que, a menos que haya un cambio importante de liderazgo… Ayer hablé en una conferencia sobre riesgos, y el director ejecutivo de la organización comercial decía: «No se trata de tener listas de verificación. No se trata de asegurarse de que alguien complete un formulario. Se trata de tener una cultura de rendición de cuentas». Y, fundamentalmente, Facebook carece de una cultura de rendición de cuentas.

¿Qué esperas ver?

Mi esperanza es que la Comisión de Bolsa y Valores de EE. UU. actúe. Y una de las cosas que vamos a pedir es que exijan a Mark Zuckerberg que venda algunas de sus acciones. Eso permitiría a los accionistas intervenir. Esa es mi gran esperanza. ¿Quién sabe si sucederá?

Y creo que el hecho de que se haya aprobado la DSA [Ley de Servicios Digitales] significa que vamos a poder empezar a desarrollar soluciones.

¿Danos un ejemplo?

Te daré ONE que funciona en todos los idiomas. ¿Deberías hacer clic en un LINK para volver a compartirlo?

Eso tiene mucho sentido.

Twitter te obliga a hacerlo, Facebook no . Y reduce la desinformación entre un 10% y un 15%.

Hablando de Twitter, una vez sugeriste que un Twitter privado, propiedad de Musk [ el CEO de Tesla (TSLA)], podría ser más seguro. ¿Por qué?

¿Recuerdan lo que decía sobre cómo, si hubiera existido una DAO para Facebook, probablemente no nos habrían inyectado tanta basura en nuestras cuentas? Se habría centrado mucho más en nuestra familia y amigos. Hay muchas soluciones que no se basan en el contenido.

¿Qué quieres decir con eso?

Eso significa centrarse en la seguridad del producto, no en IA mágicas [inteligencia artificial] que extraen información [como forma de censura]. Pero la única manera de lograrlo es si se está dispuesto a sacrificar pequeñas porciones de ganancias y un número reducido de usuarios. Así que, en parte, estoy dispuesto a apoyar a ELON porque lo primero que dijo públicamente fue que eliminaríamos los bots.

Algo que la mayoría de la gente T , y que podría ser interesante para este público específico [de Cripto], es que cuando hablamos de dólares, tenemos leyes contables muy detalladas, ¿verdad? Entonces, si quieres decir que tienes un dólar o un pasivo, [existen] reglas muy específicas sobre cuándo debes reconocer estas cosas.

No tenemos un conjunto similar de reglas sobre qué es una persona, pero los valores de las empresas dependen enormemente de la cantidad de usuarios que dicen tener. Y he hablado con personas que dirigen las empresas más grandes. captchasen el mundo, y dicen que hay sitios web donde el 90% de los usuarios reportados son bots.

Maldición.

Cierto. Y esos sitios eligen intencionalmente configuraciones de captcha muy laxas porque quieren tener números más grandes, pero la principal amenaza para nosotros son los bots. Y ELON dijo: "Vamos a aprovechar que ya no tenemos que reportar el número de usuarios para empezar de cero".

Terminemos con una nota personal. Lo que hiciste fue increíblemente valiente. Si no te importa compartirlo, ¿cómo has Para ti las consecuencias?

Sabes, es interesante. La gente se imagina el rechinar de dientes, el drama, todo eso. Pero he tenido una transición sorprendentemente tranquila.

Me sorprende y me alegra mucho oír eso.

Supongo que me entrevistan mucho más. Pero en Puerto Rico ONE me reconoce, lo cual es genial. Incluso en línea es una locura. Creo que me han enviado entre 15 y 20 mensajes directos con malas palabras. Así que si quieres ser el primero... [Ambos ríen].

Y lo que me llama la atención es que [a menudo] las mujeres que son figuras públicas sufren un acoso sexual muy grave. Yo T siquiera sufro acoso sexual, lo cual me resulta chocante, ya que he trabajado en cuatro redes sociales. Así que no me puedo quejar. Ha sido bastante tranquilo.

Crucemos los dedos para que siga así. Gracias por hacer esto, ¡y nos vemos en nuestra nueva versión DAO de Facebook!