Comerciante: la promesa fallida de Facebook de una internet democrática

francis haugenmejor conocido como el denunciante de facebookcuenta una historia sobre su exjefe, Mark Zuckerberg, que ayuda a explicar por qué Facebook, y Twitter y Reddit, se sienten como un vertedero de desechos tóxicos en estos días.

En 2020, miembros del partido gobernante de Narendra Modi en India publicaron publicaciones en Facebook llamando a los musulmanes roedores y traidores, y diciendo que deberían ser fusilados. Dado que esto era claramente un discurso de odio y que tal propaganda es, históricamente, un indicador de violencia étnica inminente, los empleados dentro del gigante tecnológico sintieron que tenían que actuar.

“Más de treinta personas en toda la empresa”, recuerda Haugen en su nuevo libro, “El poder de uno”, convocada para determinar las “condiciones bajo las cuales Facebook debería intervenir y eliminar el discurso de los actores políticos”. El equipo elaboró ​​una propuesta que “proporcionó criterios detallados sobre lo que contaba como discurso que ponía en riesgo la violencia comunitaria”, y cuándo Facebook debería eliminar tales publicaciones.

Sin embargo, había un punto conflictivo: si Facebook eliminaba las publicaciones de los políticos indios por motivos de odio étnico, la empresa podría verse obligada a eliminar también las publicaciones de Donald Trump.

Aún así, todos en el equipo de Haugen esperaban que la propuesta obtuviera luz verde: la propia directora de operaciones, Sheryl Sandberg, estuvo de acuerdo en que las publicaciones deberían eliminarse. Después de todo, todos sabían muy bien lo que había sucedido en Myanmar cuando el partido gobernante recurrió a Facebook para difundir propaganda de odio e incitación a la violencia.

“La gente mató a sus vecinos”, me dijo Haugen.

Así que ella, junto con el resto de su equipo de Integridad Cívica, se quedaron boquiabiertos cuando Zuckerberg rechazó la propuesta. No importa que se hayan dedicado incontables horas afinando esta política, con docenas de expertos de la compañía interviniendo. Necesitarían una nueva, que Zuckerberg procedió a escribir él mismo, durante un solo fin de semana. Zuckerberg pudo fijarse un plazo tan ajustado, se dio cuenta Haugen, “porque su política era simple: Facebook no tocaría el discurso de ningún político, bajo ninguna circunstancia”.

Y eso fue eso. Todo el trabajo del equipo, anulado en un instante por un ejecutivo solitario e intachable.

La historia, que Haugen me detalló durante una parada reciente en la gira de su libro, ilustra por qué sintió que no tenía más remedio que hacer sonar el silbato si esperaba instigar el cambio. También ataca lo que está desgarrando el resto de la web tal como la conocemos también.

Después de todo, no es solo Facebook el que ha visto oscurecer su panorama, sumido en escándalos y empañado por decisiones comerciales dudosas. Gorjeo se está derrumbandosus ingresos abajo más del 50%. usuarios de reddit están en rebelión abierta. El año pasado, los críticos predijeron que la era de las redes sociales estaba terminando. Cada día parece más y más que tenían razón.

Podríamos haber visto venir el colapso hace mucho tiempo. Porque existe una paradoja que tienen en común todas estas llamadas empresas de la Web 2.0, que dependen de los usuarios para generar, compartir e incluso moderar contenido, y está conduciendo, inexorablemente, a su ruina. Todos prometieron democracia digital, pero entregaron dictaduras.

La estructura corporativa de Facebook es famosa no democrático; gracias en parte al asesoramiento del primer inversionista y miembro de la junta Peter Thiel, Zuckerberg organizó su empresa de una manera eso lo dejó al mando del 58% del voto de los accionistas. Tiene un poder casi absoluto sobre su vasto imperio de redes sociales. Él no está solo.

Desde que Elon Musk compró Twitter, tomó la empresa en privado y despidió a la mayoría del personal, el sitio se ha administrado solo de acuerdo con sus caprichos. Así es como las afirmaciones de “absolutismo de la libertad de expresión” conviven con las solicitudes rápidamente aceptadas para eliminar los mensajes disidentes en países autocráticos como Turquía y la India de Modi. Así es como se tolera el discurso de odio, pero las cuentas que rastrean datos de vuelos públicos no son.

Ya nadie cree que algún tipo de estructura política cohesiva guíe el gobierno de Twitter: lo que Elon quiere, Elon lo obtiene. Si se siente ofendido por las cuentas que se hacen pasar por él, puede estar seguro de que pronto habrá una política que prohíba esa práctica. Lo mismo ocurre con los productos de la competencia, como Substack Notes o Mastodon; si son vistos como una amenaza, se materializará una política para limitar su difusión en Twitter.

Incluso la nueva directora ejecutiva, Linda Yaccarino, contratada en un aparente intento de recuperar a los anunciantes que huían, todavía se refiere a Musk como “el jefe”. Está claro quién dirige el espectáculo. Es como Zuckerberg en ese sentido.

Gran cosa, se podría decir; estos hombres son ejecutivos de importantes empresas. Esto es lo que ellos hacen. Pero Facebook y Twitter no son como otras empresas. Son redes sociales que proporcionan una infraestructura digital crucial para cientos de millones de personas. Y son empresas que se han presentado como precursoras y facilitadoras de democratización — Facebook estado de la misión es “dar a las personas el poder de construir una comunidad y acercar al mundo”. (Es el anterior fue “hacer que el mundo sea más abierto y conectado”.) Twitter se aferra a su mito de permitir la #PrimaveraÁrabe, y Musk lo promociona hasta el día de hoy como el “mundo”plaza de la ciudad digital.”

Pero Musk y Zuckerberg no promueven la democracia ni mejoran las comunidades, ni siquiera dirigen organizaciones sociales. Están haciendo algo más cercano al polo opuesto.

Esta tensión, entre las necesidades multifacéticas de los millones de usuarios de las redes sociales más grandes de Internet y la forma cada vez más autocrática en que se gobiernan, finalmente se ha vuelto insostenible. Las necesidades radicalmente complejas de cientos de millones de personas que coexisten en espacios en línea no pueden y nunca serán satisfechas por ejecutivos que en última instancia son indiferentes e intolerantes con los principios democráticos en sus propias organizaciones.

Y no está claro qué pueden hacer los usuarios al respecto. En la mayoría de las empresas públicas, existen mecanismos para sacar del poder a un ejecutivo que ha perdido la confianza, no en Facebook. Y dado que Twitter, la empresa es privada, mientras que la plataforma que opera es muy, muy pública, Musk es libre de gobernarla como quiera.

Gracias a las filtraciones de Haugen, tenemos una visión interna de cuántas veces las personas dentro de Facebook hicieron sonar las alarmas o crearon una solución cuidadosamente diseñada para abordar un problema persistente, solo para ver que se esparcía por los aires. Grupos que tratan de controlar la toxicidad o prevenir futuros genocidios se disuelven.

En cuanto a Twitter, bueno, en estos días, incluso tiene vibraciones de dictadura: no solo se está desmoronando la infraestructura básica, con características que fallan a diestra y siniestra, y las políticas se están inventando en base a lo que hizo enojar a Musk la noche anterior, sino que esos quienes juran lealtad al líder mediante el pago de una cuota mensual a la administración obtienen una insignia especial y el privilegio de saltarse la fila en las respuestas. (Dice algo que el control más significativo sobre el poder de Twitter podría ser el de Zuckerberg, en forma de Threads, un casi clon de Twitter que ha acumulado decenas de millones de usuarios desde que Facebook lo lanzó el miércoles).

Lo peor de todo, quizás, es que el enfoque de Musk y Zuckerberg está, por ahora, ganando el día. Steve Huffman, el director ejecutivo de Reddit, que es posible en gran medida gracias al trabajo voluntario de los moderadores que operan los foros muy populares de los sitios, o subreddits, decidió recientemente cambiar radicalmente las políticas y comenzar a cobrar tarifas exorbitantes por el acceso a los datos y funciones que solía ser gratis. Dijo, explícitamente, que se inspiró en Musk.

Como resultado, muchos de esos moderadores que han trabajado, de forma gratuita, para construir comunidades en el sitio durante tanto tiempo, tomaron sus subreddits como privados en una muestra de protesta. El enfrentamiento entre el CEO y los trabajadores voluntarios no remunerados continúa hasta el día de hoy.

“El episodio ilustra una tensión básica en el corazón del paradigma Web 2.0”, Ben Tarnoff, autor de Internet para la gente, me dice un trabajador tecnológico y cofundador de Logic Magazine. “Por un lado, debe obtener la participación activa de sus usuarios para crear un entorno en línea donde la gente quiera pasar el tiempo. Necesitas crear una ‘comunidad’, en otras palabras, el concepto central de la Web 2.0”.

Tal como Facebook y Twitter se esforzaron por hacer. Pero esto también introduce un riesgo. “Los usuarios pueden comenzar a sentir, con justificación, que dado que es su actividad la que sostiene el sitio, deberían tener algo que decir sobre cómo se ejecuta el sitio”, dice Tarnoff.

“Sin embargo, en última instancia, se toparán con límites, por la misma razón por la que el autogobierno comunitario es incompatible con la estructura de propiedad de una empresa capitalista y su imperativo estructural de maximizar las ganancias”.

Mira, ese imperativo era siempre allá. Estas empresas nunca estuvieron ni remotamente cerca de cumplir sus promesas comunitarias y democráticas; no hubo ningún incentivo monetario para hacerlo. (Tenga en cuenta que los sitios web generados por los usuarios que son todavía prosperan las organizaciones sin fines de lucro, como Wikipedia).

En última instancia, el afán de lucro integrado en la Web 2.0 desde el principio iba a reemplazar cualquier interés en mantener comunidades sólidas, y simplemente estamos viendo que eso se manifiesta de manera más cruda en los dos casos en los que los ejecutivos en la cima han consolidado la mayor parte del poder y están menos interesados ​​en los usuarios que pasan tiempo allí, o en las personas de la empresa que intentan mejorarla.

Incluso los inversores reconocen esto. “No es prudente tener tanto poder concentrado en una sola persona”, el accionista activista Jonas Kron dijo en una reunión de accionistas de Facebook de 2019, como parte de un intento fallido de aprobar una resolución para disminuir el poder de Zuckerberg. La mayoría de los accionistas votó a favor, pero no importó, porque tiene más acciones.

Y si hubiera un organismo capaz de limitar el comportamiento errático de Musks en línea, la compañía se beneficiaría inmensamente: los anunciantes, que proporcionaban el 90% de los ingresos de Twitter antes de Musk, bien podrían regresar, por un lado. Pero en una dictadura de las redes sociales, no existe un mecanismo para apelar a tal cambio.

O cualquier otro tipo de cambio. La última década nos ha brindado una letanía de ejemplos de la toxicidad, el acoso, el racismo, la propaganda, el discurso de odio y la incitación a la violencia que pueden prosperar en una red de medios sociales cuando están dirigidas por líderes que no rinden cuentas con reglas antidemocráticas. “Cuando disolvieron el equipo de Integridad Cívica”, dijo Haugen, “fue cuando supe que nada iba a cambiar desde adentro”.

Su denuncia no derrumbó las paredes; de hecho, en los EE. UU., Facebook todavía ha enfrentado pocas o ninguna repercusión legal directa a pesar de sus muchas fechorías documentadas. Pero eso no significa que no sea vulnerable.

“Hay un dicho”, me dijo Haugen, parafraseando la cita de Hemingway, “que las cosas suceden lentamente, luego todas a la vez”.

Sí, las dictaduras pueden durar mucho tiempo. También pueden volverse quebradizos, sorprendentemente rápido. Y pueden colapsar.