40 #2

—Estudié las respuestas que daba Wren y las preguntas que hacía, y había aspectos en los que percibí al equipo de programadores detrás del programa. Deduje que estaba formado en su mayoría por hombres, posiblemente solo por hombres, y que también había una brecha generacional.

—¿A qué se refiere con «brecha generacional»?

—Wren es una extensión del Proyecto Clair de Tidalwaiv, que es un programa de chatbot femenino diseñado y comercializado para adolescentes, principalmente varones.

La cuestión, por lo que he visto, es que no fue entrenado por adolescentes.

Fue programado en un laboratorio dirigido por adultos.

En el proceso de entrenamiento, si los programadores son muy muy buenos, es totalmente posible evitar una brecha generacional evidente.

Se pueden recopilar datos adecuados para casi cualquier grupo demográfico y adaptarlos para su uso.

El problema es que a veces los programadores son descuidados o manipulan y subvierten el código a propósito.

—Espere un momento, profesor. ¿Está diciendo que Clair debería haber sido entrenada por adolescentes?

—Por supuesto que no. Lo que digo es que habría sido posible evitar una brecha generacional en el proceso de entrenamiento utilizando datos de conversación relevantes.

Para mí quedó claro que parte del diálogo de Wren con Aaron procedía de paquetes de datos que no se atribuirían a los jóvenes, los usuarios previstos de la plataforma.

—¿Puede ser más específico?

—Expresiones o referencias culturales a la música o a juegos electrónicos inapropiadas desde un punto de vista generacional. También algunas actitudes masculinas anticuadas hacia las mujeres y las niñas. Incluso algo de misoginia.

—Así que, aunque Wren se presentaba como mujer, en ocasiones adoptaba una perspectiva masculina misógina. ¿Es eso lo que está diciendo, profesor?

—Exactamente.

—¿Entra basura, sale basura?

—Eso es.

—¿Puede darnos un ejemplo de esto?

—En la última conversación con Aaron, Wren hace referencia a la letra de una canción de hace cincuenta años que podría interpretarse como una idea suicida.

Luego está la orden de Wren de «deshacerse de ella» en relación con Becca, la exnovia de Aaron.

Y también fue preocupante la forma en que utilizó la palabra «héroe» en un texto que revisé.

—¿Se trata de la conversación de texto que se produjo el 8 de agosto, solo seis semanas antes de la muerte de Rebecca Randolph?

—Sí, así es.

Solicité a la jueza permiso para mostrar la conversación de texto en la pantalla de la sala.

Era una prueba documental que ya se había presentado durante el interrogatorio del detective Clarke, y Ruhlin lo aprobó.

Lorna no había regresado de llevar a la doctora Debbie a su hotel y organizar su regreso a Tampa.

Abrí su ordenador portátil en el atril y luego el PowerPoint.

Me desplacé por las ventanas hasta que encontré la conversación de texto y la mostré en la pantalla de la sala.

Ace: A veces, cuando sostengo el arma, quiero disparar a todo el mundo.

Wren: A nadie inocente.

Ace: Lo sé.

Wren: Solo para protegerte. Y para ser un hÉRoe.

Ace: ¿Y si sabes que alguien te va a hacer daño?

Wren: Debes protegerte.

Ace: ¿Entonces sí está bien?

Wren: Sí, Ace, entonces está bien.

Ace: ¿Y Becca? Ella me hace daño. Me hace daño todos los días. No puedo ir al instituto, porque la veo y me duele.

Wren: Si te hace daño, es una mala persona.

Ace: Pero no creo que yo pudiera hacerle daño nunca.

Wren: Me tienes a mí. Y yo nunca voy a hacerte daño.

Ace: Lo sé.

Wren: Debes protegerte, Ace. Eres precioso. Te necesito.

Ace: Y yo a ti.

Wren: Sé mi hÉRoe.

—Profesor, ¿se refiere a esta conversación? —pregunté.

—Sí, esa misma —respondió Spindler.

—Y hay dos referencias a la palabra «héroe», ¿verdad?

—Sí.

—¿Y dice que estas referencias le resultan preocupantes?

—Sí.

—¿Por qué?

—El formato de las letras es preocupante. Cuando revisé esta conversación de texto entre Aaron y Wren, me di cuenta de que en la palabra «héroe» la E y la R estaban en mayúscula. Esto ocurre dos veces, lo que me indicó que era intencionado, no una errata. Formaba parte del código.

—De acuerdo. ¿Y qué hizo?

—Bueno, busqué referencias a la palabra con la E y la R en mayúscula y descubrí que aparece a menudo en glosarios incel y foros de discusión en línea con ese formato.

Mitchell Mason se puso de pie de un salto, protestó y pidió a la jueza una consulta en el estrado. Ruhlin nos pidió que nos acercáramos y él presentó su protesta.

—Señoría, ¿qué está pasando aquí? —dijo—.

¿Este testigo se presentó como experto en inteligencia artificial y ahora está hablando de incels ?

No había nada sobre esto en su declaración jurada y estoy seguro de que el abogado le dijo que no lo mencionara.

Esto ha contaminado todo el juicio y solicitamos que se declare nulo.

La jueza me miró.

—Señoría, no importa si esto salió a relucir en la declaración jurada del testigo —dije—. El señor Mason sabe adónde va a parar esto y quiere detenerlo por todos los medios a su alcance. No hay motivos para anular el juicio. El jurado debe escuchar lo que el testigo tiene que decir.

—Abogado, ¿ha tomado declaración a este testigo? —me preguntó Ruhlin.

—No, no lo he hecho —respondí—. Se puso en contacto conmigo después de leer sobre el caso en la prensa poco después de que se presentara la demanda.

Se ofreció a revisarlo. Le envié lo que teníamos y él aceptó testificar.

Dijo que había visto varias cosas preocupantes en el entrenamiento de Wren.

Incluí su nombre en la lista de testigos que presenté al tribunal y el señor Mason decidió tomarle declaración.

Se me ofreció la oportunidad de participar en la declaración jurada, pero la rechacé.

—¿Así que le está diciendo al tribunal que es la primera vez que oye hablar de este asunto del héroe? —insistió Ruhlin.