XCII #2

—Sí, el algoritmo de las recomendaciones aumenta el extremismo, ¿lo entiendes?

Es una admisión explícita de que infla los mensajes falsos o que incitan a la violencia.

En otro documento está escrito esto: «Tenemos pruebas procedentes de diferentes fuentes de que el discurso de odio, el discurso político extremista y la desinformación en Facebook, y en el resto de apps , están afectando a sociedades en todo el mundo.

También tenemos pruebas concluyentes de que los automatismos de nuestro producto principal —que sean virales, las recomendaciones y la optimización para mantener a los usuarios en nuestra plataforma— constituyen una parte significativa de la razón por la que este tipo de discurso florece en la plataforma».

Weilmann estaba boquiabierto.

—¿Eso está escrito en los documentos internos de Facebook?

—Ipsis verbis.

—Fuck!

Tomás encontró otra anotación.

—Mira lo que dice este documento interno de Facebook: «Esto nos coloca en una posición difícil.

Tenemos métricas razonables que nos dicen cuándo un cambio en el ranking probablemente causará daños de integridad, y tenemos una noción clara de cuándo un cambio aumentará el discurso de odio o cuándo producirá otros daños la desinformación.

Sin embargo, no tenemos manera de reducir eficientemente este contenido; y, aunque la tuviésemos, la mayoría de las veces no podemos utilizarla debido a preocupaciones políticas».

—¿Preocupaciones políticas? ¿Qué es eso?

—Es una expresión ambigua, pero parece un eufemismo para referirse al lucro o al equilibrio político —aclaró el historiador—.

Es interesante que una publicación interna de Facebook señale que «la investigación ha mostrado que es más probable que la ira y la desinformación se hagan virales, y experiencias recientes que critican estos modelos indican que eliminarlos tendría un impacto positivo en las métricas de desinformación y odio», pero que algo sea viral «sucede porque lo fomentamos intencionalmente por razones comerciales».

—¡Joder! ¡Promueven los mensajes falsos... para ganar dinero!

—Por lo que «preocupaciones políticas» quiere decir una de dos cosas: o que resolver ese problema tendría como consecuencia disminuir las audiencias de Facebook, lo que tendría implicaciones comerciales, ya que reduciría los beneficios, o que atacar el problema restaría electorado a los políticos que ganan votos con mensajes falsos o que incitan a la violencia, y eso los llevaría a criticar a Facebook.

—Por tanto, Facebook no quiere ser criticada por quienes se benefician del caos que crean las redes sociales. Es decir, Trump y otros como él.

—Facebook es consciente de que su algoritmo promueve mensajes falsos o de incitación a la violencia. Este documento muestra que la red social es capaz de prever con relativo rigor el efecto de cada modificación de sus algoritmos en la producción y amplificación de ese tipo de mensajes de odio.

Weilmann sopesó lo que acababa de escuchar.

—Eso lo cambia todo —admitió—. Eso prueba que Facebook sabe que, para frenar la proliferación de mensajes falsos o que incitan a la violencia, la única solución sería borrar el algoritmo.

—Esa es la cuestión —insistió Tomás—. Facebook se presenta ante el público como una santa, una entidad neutral preocupada únicamente por la liberación de las personas, el bien de la humanidad y todo ese discurso beatificado, pero en secreto saben que son ellos quienes están provocando todo lo contrario.

Un documento interno llega a decir que «las experiencias dañinas del News Feed no son un fallo del sistema de ranking , sino algo inherente al proceso de ranking ».

Es decir, el problema es inherente al algoritmo.

—¿El documento usa la expresión «inherente al proceso de ranking »?

—Sí, y no es el único documento en el que aparece.

Otro informe interno dice textualmente: «La mecánica de nuestra plataforma no es neutral».

Y eso no ocurre solo en Facebook, que elige las noticias que cada usuario va a leer.

El problema está en todo lo demás. En la selección, en las recomendaciones, en si se hace viral y en los grupos.

Facebook los presentó como algo bueno, porque salvaguardaría la privacidad, la seguridad de las personas, etcétera.

Pero la documentación interna muestra que la empresa sabe muy bien que son los medios perfectos para hacer proliferar los mensajes falsos o que incitan a la violencia.

Está escrito en un informe interno de Facebook: «Nuestros instrumentos de recomendación provocan el sesenta y cuatro por ciento de la adhesión a grupos extremistas; la mayor parte de la actividad viene de los algoritmos, como es el caso de las sugerencias.

Nuestros sistemas de recomendación aumentan el problema».

—¡Guau!

—El algoritmo no solo viraliza artificialmente las noticias falsas y las que incitan a la violencia, sino que además desencadena violencia en la vida real, incluidas limpiezas étnicas.

—¿Limpiezas étnicas? ¡Oh, vamos! No exageres, man .

—¿Crees que exagero? —preguntó el portugués.

Señaló hacia el exterior del hotel—. Cuando los budistas birmanos atacan a los rohinyás, los matan o los expulsan en masa, ¿crees que Facebook no tiene nada que ver con eso?

¡Claro que sí! Una investigación interna descubrió que sus algoritmos estaban promoviendo activamente los vídeos del monje Wirathu que incitan a la violencia contra los rohinyás.

Facebook concluyó que el setenta por ciento de las personas que los vieron llegaron a ellos gracias a un automatismo interno llamado «encadenamiento», cuyo algoritmo propuso activamente a los budistas que vieran los vídeos de Wirathu.

Ahora bien, esos vídeos asustaron a la población budista y la convencieron de que los rohinyás iban a atacarlos, por lo que decidieron atacar primero.

Fue una tragedia de proporciones bíblicas.

Todo por culpa de los algoritmos amplificadores de Facebook.

—No tenía ni idea.

—Cuando un documento interno afirma que «esto nos deja en una posición difícil», lo que ese documento de verdad dice es que Facebook tiene que elegir una de dos opciones difíciles: o deja de utilizar el algoritmo, y eso resuelve el problema de la violencia social, pero reduce sus beneficios; o mantiene el algoritmo, y eso intensifica el problema de la violencia social, pero ganan más.

Es esa elección la que deja a Facebook en una «posición difícil».

En tu opinión, ¿cuál crees que fue el camino «difícil» que eligieron?

—Los beneficios, claro.

El historiador se levantó de su silla, abrió los brazos y los alzó hacia el cielo, como haría un profeta ante la revelación final.

—¡Y la verdad nos hará libres!