33 #2

—Es un modelo de aprendizaje automático diseñado para generar lenguaje natural.

La IA se entrena con grandes cantidades de datos y texto, y luego, cuando se le pide que mantenga una conversación o responda a una pregunta, lo analiza todo y lo filtra en busca de patrones y relaciones.

Estos modelos adquieren capacidad predictiva en términos de lenguaje humano.

Sin embargo, la desventaja actual es que también copian los sesgos o inexactitudes contenidos en los datos de entrenamiento.

—Está diciendo que, «si entra basura, sale basura».

—Exactamente. Y ahí es donde entra en juego un especialista en ética. Tiene que asegurarse de que hay salvaguardas que impidan que la basura entre.

Hice una pausa mientras volvía a mi caso.

—Ha declarado antes que se incorporó al Proyecto Clair tres años después de su inicio, ¿es correcto?

—Unos treinta meses después.

—De acuerdo, ¿y sustituyó al especialista en ética original del proyecto?

—No, antes de que yo me incorporara no tenían ninguno. Normalmente se contrata a un especialista en ética cuando un proyecto alcanza cierto nivel de inversión y viabilidad.

—De acuerdo, así que usted se incorporó tres años después. ¿Revisó lo que había ocurrido en el proyecto durante esos tres primeros años?

—Sí.

—Cuando hizo esa revisión, ¿hubo algo que la alarmara?

—Sí, varias cosas, en realidad.

—De acuerdo, ¿hizo una lista de esas cosas preocupantes?

—Sí.

—¿Qué era lo primero?

—Bueno, vi en el documento inicial de la misión que la aplicación que estaban desarrollando era, desde el principio, un proyecto para mayores de trece años, lo que significa que estaba pensada para adolescentes jóvenes.

—¿Y por qué le inquietó eso?

—No me alarmó en sí mismo ni como objetivo del proyecto. Fue al profundizar en mi revisión cuando me preocupó que estuvieran creando algo que no era adecuado para adolescentes jóvenes. Habían entrenado a Clair desde el principio con datos más orientados a personas mayores. Adultos.

—Deje que la pare ahí. ¿Puede explicar al jurado qué quiere decir «entrenamiento» en relación con el Proyecto Clair?

Esta era una pregunta que habíamos trabajado repetidamente durante la preparación. Su respuesta, si podía darla sin objeciones, sería la base sobre la que construiríamos la acusación contra Tidalwaiv por negligencia imprudente.

—Crear un amigo virtual de IA es, en muchos sentidos, como criar a un niño —dijo Kitchens—, pero de una forma mucho más limitada en cuanto al tiempo.

Enviamos a nuestros hijos al colegio durante doce o dieciséis años, o incluso más; les llenamos el cerebro de conocimientos, habilidades sociales y experiencias.

La IA es similar, pero mucho más rápida, porque todo es digital.

Los datos se descargan. No se basa en experiencias reales ni en nuestro concepto humano del aprendizaje.

Por eso se llama inteligencia «artificial». No es real.

—De acuerdo —dije—, pero ¿qué la alarmó de este proceso en lo que respecta al Proyecto Clair?

—Mi problema era que estaban creando una aplicación que iban a comercializar para adolescentes, pero no la estaban entrenando como si fuera uno.

No estaban editando la información introducida para que se ajustara a los parámetros de su mercado.

En términos humanos, era como darle a un niño de trece o catorce años un amigo de veinticinco.

Este compañero virtual tendría datos y conocimientos muy superiores a los del ser humano al que tendría que servir según los objetivos de promoción.

Había salvaguardas en las declaraciones de misión sobre Clair, pero no estaban bien situadas.

Estaban en los documentos, pero no en el entrenamiento real.

—Eran salvaguardas solo sobre el papel.

—Exactamente.

—¿Puede darnos algún ejemplo concreto de algo que observara como especialista en ética del proyecto que demostrara esto?

—Bueno, tuve repetidos enfrentamientos con un programador del proyecto que introducía datos personales en el programa, por ejemplo, sus listas de Spotify y sus clasificaciones personales de las diez mejores películas, programas de televisión y destinos de viaje.

Tenía veintitantos años en ese momento, y eso me parecía problemático.

Se suponía que Clair era una compañera adecuada para un niño de trece años.

No me parecía apropiado que tuviera conocimientos sobre los barrios rojos de Tailandia.

Marcus Mason se opuso de inmediato, argumentando que eran hechos que no figuraban en las pruebas. Ruhlin desestimó la protesta sin comentarios y me pidió que continuara.

—Naomi, ¿planteó su preocupación a las partes interesadas en este proyecto?

—Preocupación es decirlo suavemente. Estaba alarmada y escribí varios informes y mensajes de correo a personas de toda la lista de directores del proyecto. Tuve reuniones. Sentía que era para lo que me habían contratado, que la última salvaguarda era yo.

Me volví y miré a Lorna, que estaba en la primera fila, y asentí con la cabeza. Ella pasó al otro lado de la puerta baja, ocupó mi asiento en la mesa, y procedió a abrir el ordenador portátil y a iniciar la presentación de PowerPoint.

—Señoría —dije—, tengo una serie de informes y mensajes de correo escritos por la testigo a varios directivos y partes interesadas del Proyecto Clair que solicito al tribunal que admita como pruebas documentales y nos permita mostrar en la pantalla de la sala.

—Muy bien —dijo Ruhlin—. ¿Por qué no dejamos al jurado que se tome el descanso de la tarde mientras reviso sus documentos?

Esperaba que alguno de los Mason se opusiera a la aprobación general que estaba solicitando, pero permanecieron en silencio en la mesa de la defensa.

Kitchens bajó del estrado y, mientras los miembros del jurado volvían a la sala de reuniones, llevé una copia de los documentos al secretario para que la jueza los examinara y otra a la mesa de la defensa.

—Seguro que ya los tenéis, chicos —dije—, pero por si acaso.

Empecé a colocar los documentos delante de Marcus. Él levantó la mano como para apartarlos.

—No te molestes —repuso—. Por mucho que pongas tu PowerPoint, Haller, los miembros del jurado no recordarán nada cuando termine con tu supuesta última salvaguarda.

Actué como si se tratara de una simple provocación, pero noté cierto sarcasmo en la voz de Marcus que me molestó. Después de comprobar con Lorna que la presentación estaba lista, salí al pasillo para buscar a Naomi Kitchens. La encontré sentada en un banco fuera de la sala con su hija.

—Lily, ¿te importa si hablo con tu madre a solas unos minutos? —le pregunté.

Ella miró a su madre, que asintió con la cabeza para indicar que no había problema. Se levantó y atravesó las puertas dobles para volver a la sala del tribunal. Yo ocupé su lugar en el banco.

—Los Mason no parecen muy preocupados por sus informes y sus mensajes —le dije.

—¿Eso es bueno o malo? —preguntó Kitchens.

—Podría ser cualquiera de las dos cosas, pero me preocupa que tengan algo.

—¿Como qué?

—Algo sobre usted, Naomi. Ya se lo he preguntado antes, pero dígame ahora si hay algo que no me haya contado y que ellos puedan usar en su contra para dañar su credibilidad.

Kitchens negó con la cabeza.

—No hay nada —afirmó—. Ya lo sabe todo.

—Ha dicho que no tenía nada que ver con los delitos de Quentin Holgard —dije—. Eso tiene que sostenerse, Naomi, o estamos jodidos.

—En primer lugar, le dije anoche y hoy que no quería testificar. Usted me ha obligado.

—¿Y en segundo lugar?

—Es la verdad. Yo no miento.

Escruté su rostro, buscando alguna grieta en la determinación y el desafío que mostraba. No vi ningún atisbo de duda. No parpadeó.

—En ese caso, de acuerdo —dije—. Espero que todo vaya bien. Voy a intentar agotar el tiempo con usted.

—¿Qué significa eso? —preguntó ella.

—Voy a mantenerla en el estrado de los testigos hasta que terminemos por hoy. De esa manera, si tienen algo que no sabemos, los Mason no podrán utilizarlo hasta mañana. ¿Le parece bien?

—Me parece bien. Pero no tienen nada, a menos que se inventen algo.

—Bueno, supongo que lo averiguaremos.