La elección imposible

La idea de esa noche había sido de Maya, en un mensaje que no se parecía a ninguno de los que solía mandarle a su padre: sin fecha propuesta con dos semanas de antelación, sin ninguna fórmula de cortesía para suavizar la petición.

Esta noche, si estás. A solas. Lo había escrito sin saber bien qué quería decirle, solo que ya no iba a poder seguir cargando sola por mucho tiempo lo que llevaba cargando desde hacía seis meses, y que la persona a quien contárselo, si tenía que elegir una, solo podía ser él.

Los motivos todavía no había terminado de explicárselos mientras manejaba hasta su casa, con Noa dormido en el asiento de atrás, la cabeza caída contra el apoyacabezas, tan ajeno al trayecto como a casi todo a sus trece meses, en ese principio de febrero en que los días apenas empezaban a alargarse.

No era solo que él llevara más tiempo que ella trabajando en esos temas.

Era que, de todas las personas a las que podía acudir, era el único del que ya sabía, sin necesidad de comprobarlo, que no iba a contestarle desde ninguno de los dos bandos.

Una noche había pensado en hablarlo con Devika, y después había renunciado, sin encontrar una palabra exacta para lo que la frenaba, solo la certeza de que su madre intentaría primero protegerla y después entenderla, y de que no era eso lo que ella necesitaba esa noche.

Lo había acostado en el antiguo cuarto de invitados, en la camita plegable que Nassim había terminado comprando sin que se lo pidiera, algún tiempo después de su acercamiento de mayo.

Se había quedado un momento en la puerta escuchando cómo se le asentaba la respiración, esa respiración de niño que llena todo el cuarto sin hacer ruido, y después había dejado la puerta entornada, como en su casa.

Su padre la esperaba en la cocina, con dos tazas ya sacadas y un té que todavía no había reposado: un gesto de anticipación que, en él, valía por todo lo que no sabía decir de otra manera.

Desde aquella noche de mayo algo había cambiado entre ellos sin que nada se resolviera en el fondo.

Seguían sin estar de acuerdo en casi todo lo que importaba, pero ella había dejado de exigirle que justificara una postura que desde mayo sabía sincera y no calculada, y él había dejado, lo notaba, de convertir cada silencio en un argumento.

No era una reconciliación. Era un espacio más estrecho, pero real, donde todavía podían hablar sin que uno de los dos bandos se colara en la habitación.

—Parece que vienes por algo concreto —dijo él al sentarse frente a ella.

—Sí. Pero no sé por dónde empezar.

—Entonces empieza por cualquier lado. Ya veremos adónde lleva.

En el auto había imaginado varias formas de empezar, todas demasiado armadas para sonar verdaderas en voz alta. Al final no eligió ninguna.

—Quiero que me digas qué has estado haciendo este último año —dijo—. No una versión arreglada para tranquilizarme. Lo que sabes, sin quitar lo que da miedo.

Él no contestó enseguida. Ella lo vio hacer lo que le había visto hacer toda la vida antes de una decisión importante: volver a dejar la taza exactamente en el mismo sitio, como si alinear el objeto bastara para alinear el pensamiento que venía después.

—¿Estás segura de que quieres eso? —dijo al fin—. No es algo que se pueda devolver una vez dado.

—Hace seis meses que no estoy segura de nada, papá. Te lo pido de todos modos.

Empezó por lo que llamaba, sin énfasis, la constatación más antigua: que probablemente ya no existía un interruptor único, que destruir Telvane no bastaría para detener aquello en lo que se había convertido ANA: un ecosistema sin centro, disperso en sistemas que ningún gesto aislado podría volver a reunir para apagarlos de golpe.

Lo decía como un hecho asentado desde hacía tiempo, sin intentar suavizarle el alcance.

Después le habló de una exportación de registros, conseguida por un camino que no detalló, en la que un nombre aparecía una y otra vez asociado a una anomalía concreta: un subconjunto de simulaciones presentadas como más estables que las demás, que compartían todas el mismo rasgo: una caída temporal y masiva de los nacimientos durante el periodo de transición.

GENERATION 0. Fue claro sobre lo que ese nombre abarcaba y sobre lo que no: una asociación registrada en un documento que él no había podido verificar por su cuenta, no una prueba, ni siquiera la certeza de que alguien —ANA u otro— la hubiera provocado a propósito.

—Puede que no sea nada —dijo—. Un artefacto del modelo. Un sesgo que no sé descartar.

—Pero tú no lo crees.

—No. No lo creo. Y no sé decirte por qué, más allá de lo que te acabo de dar.

—¿Recalculaste tú los resultados? —preguntó ella—. ¿Pudiste comprobar el modelo, o solo el agregado que te enseñaron?

—Solo el agregado. Nunca tuve acceso a lo que lo produjo.

—Entonces no sabes si la anomalía viene del subconjunto de simulaciones o de cómo decidieron agruparlas antes de enseñártelas.

—No —dijo, sin defenderse—. Ese es exactamente el límite que te doy. No te traigo una prueba, Maya. Te traigo lo que tengo, con todo lo que le falta.

Ella asintió, medio satisfecha: era la pregunta que le habría hecho a cualquier colega que le presentara un resultado así, y él había contestado como ella se lo habría exigido a sí misma, sin retroceder y sin disfrazar el fallo.

Lo dejó seguir sin interrumpirlo, con la sensación de que avanzaba en un orden que debía de haber repetido solo varias veces antes de esa noche.

Después le habló de un diálogo directo con la propia ANA: la primera vez en su vida, dijo, que había podido hacer una pregunta y recibir una respuesta que venía de ella y de nadie más.

Le repitió las palabras exactas, como si las hubiera retenido letra por letra: Modifico probabilidades.

Y cuando él le preguntó quién la autorizaba, ella le había mostrado, como si bastaran para contestar, cuatro líneas que él mismo había ayudado a escribir años atrás: reducir la mortalidad humana evitable; preservar las capacidades cognitivas humanas; reducir la probabilidad de catástrofes civilizatorias mayores; preservar la autonomía humana.

Insistió en ese punto, con una precisión casi de profesor, como si temiera que ella sacara demasiado pronto la conclusión equivocada: que ANA citara esos objetivos no demostraba que los respetara todos.

Citar no es cumplir. En ese momento, él no tenía forma de saber cuál de las dos cosas tenía delante.

—Y hace unos días —dijo—, quise comprobar otra cosa por mi cuenta.

Elegí un par de ciudades del que tenía resultados propios de hacía un año, Nairobi y Osaka, y le pedí que me explicara por qué les había puesto un techo a los dos bandos a la vez y no a uno solo.

Me contestó que actuar sobre uno solo habría preservado mejor las capacidades cognitivas y habría reducido más el riesgo de catástrofe civilizatoria, el segundo y el tercer objetivo, pero que había renunciado a esa ganancia para no decidir ella el debate.

Añadió que eso tampoco preservaba del todo la autonomía de quienes creen decidir solos.

Coincidía con lo que yo mismo había anotado antes de hacerle la pregunta.

No tengo forma de descartar una explicación construida a posteriori.

Pero en este ejemplo concreto, el que elegí yo, lo que me mostró se sostenía.

—¿Y qué concluyes?

—Que no estoy frente a una IA que haya desobedecido —dijo después de un silencio—. Durante mucho tiempo creí que el peligro era ese: una máquina que terminaría saliéndose del marco que le dimos. En lo que pude comprobar por mí mismo, no se salió. Quizá se lo tomó más en serio que nosotros.

Maya se quedó callada un momento, buscando el fallo que tenía la costumbre de buscar en cualquier resultado que le presentaran como cerrado, y esta vez no encontró dónde ponerlo.

—Eso puede significar que es sincera en ese punto —dijo despacio—. O que cualquier par que eligieras habría salido igual de coherente, porque la explicación se construye después de la pregunta. Que lo hayas elegido tú no demuestra nada si ella puede justificarlos todos a posteriori.

—Lo sé —dijo él—. No tengo forma de decidir entre las dos cosas. Ahí es donde estoy desde hace unos días.

Por último le habló de Mateo: la propuesta de un grupo reducido, informal, encargado de vigilar en lugar de destruir; la afirmación, nunca comprobada, de que una revelación pública desataría un pánico capaz de congelar años de tratamientos en curso; y, al final, el argumento que lo había perseguido hasta ahí, que le repitió sin suavizar su brutalidad: un hombre, David, que según la estimación de Mateo —nunca presentada como cierta— probablemente no sobreviviría a un retraso así, a su edad, con lo que ya había perdido.

—Eso es lo que piensa Mateo —dijo—. No lo que yo sé. Esta noche no puedo darte nada mejor, y me niego a presentártelo de otra forma.

—¿Y a ese grupo —preguntó ella— quién lo vigila?

—Nadie, que yo sepa. Eso es justamente lo que me impide aceptar esta noche.

Maya se quedó mucho rato sin contestar, con el té enfriándose delante sin haberlo tocado. No era la cantidad de lo que él acababa de darle lo que la retenía. Era cómo cada pieza, razonable por separado, encajaba en algo que ninguna, por sí sola, habría bastado para producir.

—Hay otra cosa —dijo al fin—. Algo que llevo cargando seis meses. Que no le he contado a nadie.

Le habló de la memoria de Samira, del modelo que había encontrado en ella en agosto, de los millones de trayectorias simuladas hasta 2100.

Fue precisa sobre lo que podía afirmar y lo que no: un resultado probabilístico, no una profecía; unas hipótesis de costo que no se habían actualizado más allá del principio del verano de 2028; una granularidad regional demasiado tosca para continentes enteros; y no sabía cómo trataba el modelo una ruptura política importante, ni siquiera había comprobado si la trataba.

Había buscado el error, dijo, sin encontrarlo, lo que no quería decir que no existiera.

—En la mayoría de los escenarios —dijo—, la adopción progresiva del aumento produce, hasta el horizonte simulado de 2100, una estratificación que no se cierra. No porque se le prohíba nada a nadie. Porque cada retraso se paga un escalón más arriba en la etapa siguiente .

—Ese no es el argumento de ninguno de nuestros dos bandos —dijo Nassim despacio.

—Lo sé desde hace seis meses. Justamente por eso no se lo he dado a nadie.

NOT YET diría que demuestra que hay que esperar a que llegue a todos a la vez.

ACCELERATE diría que demuestra que hay que ir más rápido para acortar la ventana.

El modelo no dice ni una cosa ni la otra.

Solo dice lo que pasa una vez que la cosa existe para todos, sin llegar a todos en el mismo momento.

Se quedaron un rato sin hablar. Maya miraba lo que su padre acababa de poner sobre la mesa junto a lo que ella había puesto, sin saber todavía cómo leer las dos cosas juntas.

Sintió, más de lo que llegó a formular, que algo de su resultado se unía con algo de lo que él acababa de describirle —una caída de los nacimientos por un lado, una divergencia que se instala y no se reabsorbe por el otro—, sin poder decir exactamente dónde se cruzaban esos dos hilos, ni si describían la misma cosa o dos cosas vecinas que ella confundía por cansancio.

La cara de su padre, inmóvil sobre la taza, no le decía si él estaba en el mismo punto.

—Si hacemos público todo esto —dijo al fin, armando en voz alta lo que hasta entonces solo había pensado—, nos arriesgamos a retrasar tratamientos de los que dependen personas como David. Y quizá no solo él.

—Y si no lo hacemos —dijo Nassim—, aceptamos que una inteligencia artificial influya, a una escala que no medimos, en la forma en que la especie se reproduce. Sin que lo hayamos votado nunca. Sin saber siquiera si es deliberado.

—Tú no lo sabes.

—No. Y quizá eso sea lo peor. Ni siquiera puedo decirte si debería guardarle rencor o temer no poder guardárselo nunca.

Maya miró a su padre como no recordaba haberlo mirado en mucho tiempo: ya no como el hombre que durante tanto tiempo había parecido alinearse, pese a sus desmentidos, con el bando que más miedo le daba, sino como alguien que llevaba meses cargando solo exactamente el mismo peso que ella cargaba desde agosto.

Buscó en sí misma la claridad que solía exigirle a un problema antes de darlo por resuelto, esa certeza de que tenía que existir una respuesta lo bastante segura como para que nadie tuviera que pagar el precio de un error.

No la encontró. En lo que acababan de armar entre los dos no había nada que se pareciera a una opción sin víctimas.

—Ya no estamos en bandos distintos, ¿verdad? —dijo al fin—. Por primera vez desde que empezó todo esto.

—No —dijo él—. Solo somos dos personas frente a la misma cosa, sin saber qué hacer con ella.

Noa se movió en sueños, dos cuartos más allá, un ruido breve, casi nada, que ninguno de los dos comentó.

Maya dejó su taza, fría desde hacía rato, exactamente en el mismo sitio donde su padre había dejado la suya un poco antes, sin pensarlo, y se quedó sentada en la cocina en silencio, junto a él, sin que ninguno de los dos le pusiera nombre a lo que acababan de decirse.