24. Quién decide

Quién decide

●    ●    ●

Samuel ha elegido la sala más pequeña del laboratorio.

No tiene cristales ni una pantalla en la pared. Solo una mesa, tres sillas y un portátil sin conexión a la red.

La puerta cierra con un clic demasiado sólido. El ventilador del portátil es el único ruido constante.

—Eso tranquiliza muchísimo —digo.

—Es la idea.

Son casi las 20:00. Llevo desde antes de las 18:00 moviéndome entre la casa, VALDERYN y conversaciones que siempre terminan abriendo otra conversación. El teléfono sigue en mi mano.

Nora me ha enviado una fotografía de los macarrones que mi padre le ha dejado preparados. Hay demasiado queso y un vaso de leche al lado.

Le escribo: «Llego tarde. No me esperes despierta». La respuesta llega enseguida.

No pensaba hacerlo. Sonrío y guardo el móvil.

Samuel espera.

—¿Qué voy a ver?

—No R-17.

—Empezamos bien.

—Vas a ver de dónde salió.

Se sienta frente al portátil.

—Si mañana Calder Quay entra aquí pensando que existe una máquina que adivina lo que hará la gente, habremos empezado la reunión con una mentira.

—¿La adivina?

—No. Y tampoco diría que la predice —dice Samuel—. Estima probabilidades con los datos que tiene. Si le falta media vida de una persona, le falta media explicación.

—Eso suena menos espectacular.

—Es la idea.

Abre un archivo antiguo. En la pantalla aparece una decisión empresarial sencilla. Un comité tiene que decidir si continúa un proyecto que lleva meses perdiendo dinero.

Samuel me enseña dos documentos. Los números son idénticos.

En el primero, la primera página habla del dinero ya invertido.

En el segundo, empieza por lo que costará continuar.

—Mismos datos —dice Samuel—. Solo cambia el orden.

—Y la gente decide distinto.

—A veces. Los sesgos no los inventó tu madre.

Pasa a otra pantalla. Hay cientos de decisiones anonimizadas y una columna de resultados.

—Al principio VALDERYN buscaba algo bastante menos espectacular: detectar cuándo una decisión era demasiado sensible a cómo se presentaba la información. Servía para control interno, riesgo y auditoría.

—Eso suena útil.

—Lo era. El problema empezó cuando dejamos de mirar solo la decisión.

Ahora, junto a cada decisión, aparece una historia previa: elecciones anteriores, cambios de criterio, reacciones a plazos, quién estaba en la sala, qué tipo de pérdida había hecho cambiar de opinión a la misma persona antes.

No necesito entender las columnas para entender la diferencia.

—Ya no miraba solo la decisión. Miraba a quien decidía.

Samuel asiente. Cuanto más historial incorporaban, mejor distinguía el sistema entre alguien que cambiaba de opinión porque había aprendido algo y alguien que cambiaba porque el contexto lo empujaba.

—¿Y eso es la capa adaptativa?

Me mira.

—¿Quién te ha dicho ese nombre?

—He oído a Inés usarlo con Daniel.

Samuel se queda quieto. No mucho.

Lo suficiente.

—No era un nombre oficial.

—Eso ya me lo han dicho dos personas. Empieza a preocuparme.

—Era una expresión del equipo original.

—En el equipo original estaban Helena, Gabriel, yo y dos investigadores que ya no están en VALDERYN.

—¿Marc e Inés?

—Marc conocía el trabajo, pero no tocaba el modelo. Inés no debía estar en esas reuniones; pudo estar en alguna.

—Y Daniel conoce el término.

—Eso parece.

La sala pierde el ruido. No necesito que Samuel me diga qué significa.

Alguien llevó más información a Calder Quay de la que figura en la due diligence .

—¿Qué vio Daniel? —pregunto.

—No lo sé.

—Inés admite que le enseñó una demostración.

—Una demostración puede significar muchas cosas.

—Tú eres muy bueno consiguiendo que una palabra no signifique nada.

—Es más seguro que conseguir que signifique demasiado.

Me enseña otra pantalla. Esta vez hay una sola cifra junto a una decisión.

61 %.

—¿Sesenta y uno por ciento de qué?

—De que esa persona cambie de elección si recibe los mismos datos en otro orden. No significa que vaya a hacerlo; significa que, con ese historial, el contexto pesa.

—¿Acertaba?

—Lo suficiente para que Helena quisiera seguir. Y lo suficiente para que Marc empezara a preguntar de dónde salían los datos.

Eso me detiene.

—Los datos otra vez.

—Sí. El sistema empezó a rendir mejor de lo que debía con los conjuntos autorizados. Ahí Marc pidió una auditoría.

—Entonces había información que no debería estar ahí.

Samuel cierra la ventana sin confirmarlo.

—¿Y mamá?

—Quería seguir. Ahí empezaron las peleas.

Abre un último documento. No es código.

Es una nota corta de Helena. Nueve días antes de la caída.

«No permitir demos externas hasta resolver origen de datos. Revisar separación entre análisis general y personalización. Nada de intervención».

La última línea está subrayada dos veces.

—¿Intervención qué significa? —pregunto.

Samuel se rasca debajo de las gafas.

—En aquel equipo significaba demasiadas cosas: cambiar el orden de una información, elegir cuándo mostrarla o generar varias formas de plantear el mismo estímulo y ordenarlas según la reacción esperada. Frases, asuntos, preguntas. El sistema proponía; una persona decidía.

—O sea, podía generar texto, pero no enviarlo.

—Exacto. Y hasta el domingo yo no sabía qué parte de esa rama seguía existiendo.

Cierra el portátil.

—Para Helena, la línea roja era esa: una cosa es observar cómo alguien decide y otra utilizar ese conocimiento para escoger cómo empujarle.

—¿R-17 llegó a cruzar esa línea?

—La versión que te he enseñado, no. De otras ramas no voy a fingir que sé qué sobrevivió después de tres años de copias, congelaciones y accesos revocados.

El portátil cerrado queda delante de mí.

—Entonces Calder Quay no sabe qué compra.

—Eso es.

Me vuelve la frase de mi padre, dicha en la cocina de Vallvidrera: «No sé qué creen que están comprando».

—Y mamá no quería venderlo.

Samuel niega despacio.

—Helena no quería que saliera de su control antes de resolver qué era y de dónde había aprendido.

—Eso no es lo mismo que querer destruirlo.

—No. —Samuel responde sin dudar. Me duele más de lo que esperaba.

—Quería conservarlo.

—Quería decidir ella. —Pienso en Teresa diciendo casi lo mismo. Me levanto.

—Una última cosa.

Samuel espera.

—Si esto solo analizaba decisiones, todavía no explica los mensajes ni la voz de mamá.

—No. Esa es la pieza que falta.

Abro la puerta.

—Mañana, cuando Calder Quay pregunte qué hacía R-17, ¿qué vas a contestar?

Samuel tarda un momento.

—Que no intentaba adivinar el futuro. Medía cómo cambia una decisión humana según quién decide y en qué contexto.

—Eso sigue sonando bastante mal.

—Sí.

Salgo de la sala. Hasta ahora me preocupaba qué podía hacer R-17.

Ahora me preocupa de dónde había sacado suficiente información para hacerlo tan bien.