XCII

—¿Una farsa?

La última frase de Tomás Noronha pilló a Kurt Weilmann desprevenido.

Todo lo que su interlocutor le había revelado hasta entonces tenía sentido y concordaba con lo que él mismo sabía sobre la naturaleza humana y la forma en que la gente se expresa en las redes sociales.

Entonces, ¿qué quería decir el historiador con aquella afirmación?

Tomás asintió.

—Sí, una farsa —reiteró—. Es cierto que las personas se transfiguran cuando están en las redes sociales y adoptan comportamientos de una agresividad y violencia inauditas.

Las redes sociales apelan a la emoción, a la rabia, al comportamiento justiciero, al castigo, a la humillación.

Todo eso es cierto. Pero, aunque la naturaleza humana sea una parte del problema, la esencia del problema no está ahí.

—Entonces, ¿dónde está?

—En los algoritmos.

—¿Ahora la culpa la tienen los algoritmos? ¡Anda ya! Quienes escriben los mensajes son seres humanos, man .

—Pero quien controla las redes sociales no son seres humanos, es la inteligencia artificial.

Ese es el gran secreto. Los seres humanos escriben los mensajes, cierto, pero son los algoritmos los que gestionan todo el sistema de incentivos y de promoción de esos mensajes.

El problema es la prioridad de los algoritmos: no pretenden ayudar ni salvar a la humanidad, sino atraer y retener a más personas en las redes sociales para garantizar más audiencias y, como consecuencia, más ventas publicitarias.

Si eso provoca caos y disturbios en la sociedad humana, a los algoritmos se la traen al pairo.

—Sí, ya lo has dicho, me ha quedado claro.

Pero es indudable que los que escriben los mensajes son seres humanos y es indudable que las tecnológicas actúan identificando y eliminando mensajes falsos o que incitan a la violencia.

Tú lo has dicho: ¡hasta expulsaron a Trump de Twitter!

Eso demuestra que las tecnológicas están decididas a lidiar con el problema.

La mano de Tomás reposó suavemente sobre el smartphone que Leroy Roderick le había entregado: la verdadera respuesta estaba ahí.

—Si hay algo en lo que el Estado ruso se ha especializado es en el hacking —recordó—.

Desde los tiempos de la Unión Soviética se han dedicado no a la innovación, sino a la piratería, al robo de propiedad intelectual, al plagio.

No inventan nada y todo lo copian de Occidente.

Que yo sepa, el espionaje industrial siempre fue, junto con el militar, político y geoestratégico, uno de los pilares de la actividad de la KGB y fuente de conocimiento para los soviéticos.

Ese cambio repentino de tema desconcertó a Weilmann.

—Perdona, ¿por qué estás hablando de eso ahora?

—Espera y verás —replicó el historiador, pidiendo paciencia—. Me imagino que a lo largo del tiempo tu agencia, DARPA, habrá tratado el problema de los soviéticos.

—Sí —confirmó Weilmann—. De hecho, el espionaje científico y técnico era una de las áreas más activas de la KGB.

Los soviéticos utilizaban, sobre todo, las instituciones culturales y las cámaras de comercio para robar tecnología a Occidente.

Se infiltraron en todas las grandes empresas occidentales, sobre todo, en las alemanas, gracias a ingenieros y obreros alineados ideológicamente.

IG Farben, Telefunken, Siemens... Se infiltraron en todas para robar.

Incluso el secreto de la bomba atómica: consiguieron infiltrarse en el Proyecto Manhattan. Pero ¿a dónde quieres llegar con esto?

—Como sabes, la postura de los rusos no ha cambiado.

El FSB y el GRU siguen empeñados en el espionaje científico y tecnológico y, para ello, hoy en día cuentan con un nuevo instrumento: el hacking .

Entran en los ordenadores de las empresas occidentales y lo roban todo.

Hoy en día, las mayores empresas del planeta son las tecnológicas, como Google, Microsoft, Apple.

Los rusos también se infiltran en ellas con los objetivos de siempre.

En una de esas acciones, en Facebook, los hackers rusos se toparon con una serie de documentos confidenciales muy reveladores.

Los copiaron y, basándose en ellos, desarrollaron una doctrina a la que llamaron Protokol Kaosa .

Al oír la expresión en ruso, el rostro de Weilmann se contrajo en una mueca interrogativa.

—¿Protocolo Caos?

—Explica cómo se cambia la mente y las intenciones de toda una población recurriendo a las redes sociales. En su base hay un descubrimiento fundamental. ¿Te acuerdas de que hace un momento hablamos de Tay?

—¿El bot de Microsoft que empezó diciendo que los seres humanos eran superagradables y acabó haciendo elogios a Hitler?

—Para intentar explicar lo que había pasado, Microsoft dijo que en ningún momento permitió que un algoritmo entrara en contacto con enormes cantidades de información que no hubiera sido previamente fiscalizada —señaló Tomás—.

El problema es que eso es precisamente lo que hacen Facebook, YouTube y el resto de las redes sociales.

Los algoritmos se entrenan a partir de miles de millones de entradas diarias de los usuarios.

Aprenden con las personas y se radicalizan, y así radicalizan aún más a las personas. ¿Te haces una idea?

—Por tanto, es un proceso en espiral de radicalización mutua.

—Exactamente. Es fundamental entender que quienes dirigen ese proceso no son las personas, sino los algoritmos. ¿Y quién los concibió? ¿Quién los ha programado para que sean así?

—Las empresas tecnológicas.

—¡Entonces son ellas las que están en el origen del problema!

Weilmann meneó la cabeza.

—Facebook, X, YouTube y el resto de las plataformas cuentan con departamentos enteros dedicados a la moderación de contenidos, para detectar y eliminar los mensajes falsos o que incitan a la violencia. Tú mismo lo has dicho: se esfuerzan por resolver el problema.

—Ese es el cuento que nos venden —fue la respuesta del portugués—. Moderan los contenidos por culpa de la presión política. Si por ellos fuera, acabarían con la moderación.

—Imposible. A pesar de todo, las empresas tecnológicas tienen conciencia social...

Tomás soltó una carcajada.

—En DARPA trabajáis con alta tecnología, pero por lo visto todavía no has entendido cómo razonan las tecnológicas —le devolvió con acidez—.

Mira, Kurt, el negocio de esas empresas no es mejorar el mundo.

Eso es lo que dicen para seducirnos con su producto.

Su negocio es hacer dinero. Y, para hacer dinero, necesitan algoritmos que capten y mantengan al público pegado a las redes sociales.

Si eso requiere promover mensajes falsos, que agudicen la rabia, que enfrenten a las personas y que desencadenen verdaderas guerras civiles...

, ¡mala suerte! No es su problema. Los algoritmos no tienen brújula moral.

Existen para hacer dinero, no para proporcionar armonía.

Peor aún, las empresas tecnológicas solo ganan dinero cuando provocan el caos en la sociedad.

Y esto, amigo mío, no es ninguna casualidad. Es consciente y deliberado.

El responsable de la DARPA frunció el ceño.

—¿Consciente y deliberado? —preguntó—. Lo que dices es muy grave. ¿Puedes probarlo?

La mano de Tomás volvió a posarse sobre el smartphone .

—Las pruebas están aquí.

—Muéstramelas.

El historiador miró el bloc de notas donde había registrado todo lo que había encontrado en el teléfono móvil que recuperó de las manos de Leroy Roderick.

—Los documentos que los hackers rusos lograron obtener de Facebook muestran que los algoritmos que operan en esa red social, en particular los que seleccionan noticias para el News Feed —que hacen las recomendaciones y que establecen los rankings —, están específicamente concebidos para amplificar e incitar a la violencia y a la discriminación identitaria y para canalizar ese contenido directamente hacia los usuarios que con mayor probabilidad actuarán en consecuencia.

—¿Perdona?

—Es lo que muestran los propios documentos internos de Facebook —subrayó Tomás—.

Las iniciativas para moderar los contenidos, es decir, para identificar y eliminar mensajes falsos o que incitan a la violencia, son solo una cortina de humo para distraernos e impedirnos ver lo esencial.

Un documento interno dice: «Nunca vamos a eliminar todo lo que es perjudicial en un medio de comunicación usado por tantas personas».

Otro, copiado por los rusos, establece explícitamente que «solo actuamos contra aproximadamente el dos por ciento del discurso de odio en la plataforma», ya que «no tenemos, y posiblemente nunca tendremos, un modelo que capture la mayor parte de los problemas de integridad, particularmente en las áreas sensibles».

—Es decir, el problema son las personas. Son ellas las que inundan las redes con ese tipo de mensajes. Es lo que acabo de decir.

—Escucha hasta el final —pidió el historiador—.

Lo que estos documentos revelan es que Facebook sabe que el problema no se resuelve con la moderación de contenido.

Pero esto es solo el preámbulo. Lo más importante aparece en otros documentos internos de Facebook que los rusos copiaron.

Uno de ellos dice abiertamente: «Nuestro sistema de recomendaciones amplifica el problema del extremismo».

—¿Amplifica?