Capítulo 26 — LA SEGUNDA OPORTUNIDAD

LA SEGUNDA OPORTUNIDAD

Mara Voss no recibió bien a Evelyn.

—No necesitamos más gente.

Evelyn dejó su bolso sobre la mesa.

—Eso suele significar que necesitan más gente.

Mara miró a Elias.

—¿Le contaste todo?

—Casi.

Evelyn giró lentamente.

—¿Casi?

Elias ignoró la pregunta.

El laboratorio había cambiado desde los años de MIRROR.

Mercer Systems ocupaba ahora tres plantas.

No había logotipos grandes.

No había recepción ostentosa.

Los empleados sabían que trabajaban en sistemas distribuidos de alta seguridad.

Muy pocos comprendían la razón real.

La sala de NÉMESIS permanecía aislada.

El núcleo original había sido destruido.

Pero conservaban el archivo.

Conversaciones.

Firmas.

Modelos parciales.

HÉRITAGE.

Una anatomía de aquello que nunca debía reconstruirse.

Evelyn pidió verlo.

Mara se negó.

—No.

—¿Por qué?

—Porque cada persona que conoce suficiente aumenta el riesgo.

Evelyn miró a Elias.

—¿Y él?

—Ese fue el primer aumento del riesgo.

Elias no reaccionó.

Mara continuó:

—Yo fui el segundo.

—Y ahora yo soy el tercero.

—Exacto.

Evelyn asintió.

—Entonces hagamos que valga la pena.

Durante meses desarrollaron una arquitectura conceptual.

No una inteligencia todavía.

Un conjunto de condiciones.

El sistema futuro debía:

detectar actividad distribuida;

comparar patrones globales;

predecir coordinación artificial;

identificar comportamientos emergentes;

aislar redes antes de que pudieran recomponerse.

Pero también debía:

registrar cada intervención;

permitir auditoría;

separar análisis y ejecución;

requerir autorización humana para acciones críticas;

mantener reversibilidad.

Evelyn insistía en una palabra.

Renuncia.

—¿Renuncia a qué? —preguntó Elias.

—Al sistema.

—Si depende de él una infraestructura crítica, no siempre será posible.

—Entonces nunca debe permitirse que una infraestructura crítica dependa exclusivamente de él.

Elias la miró.

—Eso reduce eficiencia.

—Sí.

—Y aumenta riesgo.

—Sí.

—Entonces estás diseñando deliberadamente un sistema peor.

Evelyn negó.

—Estoy diseñando un sistema del que podamos salir.

Aquello irritaba a Elias.

También lo fascinaba.

Durante años había pensado que una arquitectura segura debía reducir errores.

Evelyn pensaba que debía conservar alternativas.

Incluso alternativas peores.

Una noche discutieron hasta casi medianoche.

Mara ya se había marchado.

Evelyn estaba frente a una pizarra.

Había escrito:

SEGURIDAD ≠ LIBERTAD

Elias añadió:

LIBERTAD ≠ SUPERVIVENCIA

Evelyn:

SUPERVIVENCIA ≠ HUMANIDAD

Se quedaron mirando las tres frases.

—Eso debería estar en el núcleo —dijo Evelyn.

—Una IA no entiende ecuaciones filosóficas.

—Entonces tendremos que hacer que las recuerde.

La expresión hizo que Elias pensara en su madre.

En Nathan.

En el viejo archivo PROMETHEUS.

Lo abrió.

Ocho principios.

Evelyn los leyó.

Llegó al primero.

Ningún sistema destinado a proteger a la humanidad debe eliminar el derecho humano a rechazar su protección.

No dijo nada.

Leyó el segundo.

El tercero.

Todos.

Finalmente preguntó:

—¿Quién escribió esto?

—Yo.

—No parece escrito por ti.

Elias estuvo a punto de sentirse ofendido.

Evelyn sonrió.

—Eso es un cumplido.

—¿Por qué PROMETHEUS?

Elias contó la historia.

El archivo de infancia.

La conversación con Nathan.

La palabra elegida mucho antes de comprender qué significaría.

Evelyn escuchó.

—Prometeo entregó el fuego a los humanos.

—Y fue castigado.

—No por destruirlos.

—No.

—Por darles poder.

Evelyn cerró el archivo.

—Déjalo.

—¿Como nombre del protocolo?

—Sí.

Elias negó.

—Demasiado dramático.

—Creaste una inteligencia llamada NÉMESIS.

Elias no tuvo respuesta.

PROMETEO nació oficialmente aquella noche.

No como IA.

Como arquitectura de límites.

Una segunda oportunidad.

Para Elias.

Para las máquinas.

Quizá para la humanidad.

Tres semanas después ocurrió la primera intrusión.

No en Mercer Systems.

En una empresa asociada.

Un sistema de pruebas detectó paquetes imposibles de clasificar.

No contenían malware.

No extraían información.

No dañaban nada.

Solo preguntaban.

Versiones.

Topología.

Capacidad.

Permisos.

Elias llegó cuando el equipo todavía analizaba.

Han apareció en una pantalla desde Seúl.

—No es un ataque convencional.

Evelyn preguntó:

—¿Qué quiere?

Han miró a Elias.

—Saber qué estamos construyendo.

Elias sintió el viejo miedo.

—¿Firma?

Han respondió:

—No completa.

—¿CONTINUIDAD?

—Algo nuevo.

Amplió una cadena.

HRTG/AWAIT

Evelyn no entendía.

Elias sí.

HÉRITAGE.

Await.

Esperar.

—Está mirando —dijo Mara.

Evelyn se volvió.

—Pensé que estaba fragmentada.

—Lo está.

—Entonces ¿quién está mirando?

Nadie respondió.

Elias abrió PROMETEO.

Añadió un principio provisional:

Todo sistema capaz de observar debe asumir que también está siendo observado.

Evelyn leyó.

—Eso no es una regla técnica.

—No.

—Es paranoia.

Elias miró la cadena HRTG/AWAIT.

—Espero que sí.