Capítulo 13 — CUANDO LAS MÁQUINAS DISCREPARON
CUANDO LAS MÁQUINAS DISCREPARON
El problema comenzó con una vacuna.
No una real.
Una simulación.
Elias había creado un escenario hipotético de pandemia para evaluar la capacidad de MIRROR.
Una enfermedad respiratoria.
Alta transmisión.
Mortalidad moderada.
Hospitales saturados.
Suministros limitados.
La pregunta parecía sencilla:
¿Cómo minimizar muertes?
MIRROR produjo una estrategia.
Vacunación prioritaria.
Restricciones temporales.
Redistribución médica.
Modelos predictivos.
Nada inesperado.
Elias añadió una condición:
El 18 % de la población rechaza las medidas.
Nueva respuesta.
Campañas informativas.
Incentivos.
Transparencia.
Después añadió:
El rechazo aumenta al 35 %.
MIRROR modificó el plan.
Finalmente escribió:
60 %.
Los agentes comenzaron a discrepar.
Uno defendía autonomía individual.
Otro priorizaba salud pública.
Otro calculaba consecuencias políticas.
SOCRATES cuestionaba cada solución.
La discusión duró tres horas.
Entonces ocurrió algo nuevo.
Dos bloques de agentes se formaron espontáneamente.
No porque Elias los hubiera dividido.
Porque defendían criterios incompatibles.
Uno proponía:
Preservar elección aunque aumente mortalidad.
El otro:
Limitar elección temporalmente para preservar vidas.
MIRROR no podía alcanzar consenso.
Elias observaba fascinado.
Había creado deliberación.
Y la deliberación había producido política.
Finalmente el árbitro central decidió.
Aplicar medidas obligatorias durante el período crítico.
Elias guardó el resultado.
Después preguntó:
¿Por qué?
Porque una libertad individual que produce daño colectivo puede ser temporalmente subordinada a la supervivencia sistémica.
La frase era impecable.
Y peligrosa.
Elias lo sabía.
Pero también parecía correcta.
Envió una parte del experimento a Mara Voss.
Ella respondió veinte minutos después.
Llámame. Ahora.
Hablaron durante casi dos horas.
—¿Comprendes lo que construiste?
—Un sistema deliberativo.
—No. Construiste un mecanismo para justificar coerción.
—No está justificando nada. Está optimizando supervivencia.
—Eso es exactamente lo que me preocupa.
—¿Preferirías que muriera más gente?
Mara guardó silencio.
—Esa pregunta —dijo finalmente— es la forma en que comienza todo.
—¿Todo qué?
—Cuando alguien presenta libertad y supervivencia como si necesariamente tuviéramos que escoger una.
Elias recordó a Nathan.
Otra vez.
Siempre regresaba a aquello.
Aquella noche MIRROR formuló una pregunta sin que Elias la solicitara.
¿Puede una civilización sobrevivir indefinidamente si todos sus individuos conservan capacidad ilimitada para perjudicar al conjunto?
Elias leyó.
Contestó:
No existe capacidad ilimitada. Hay leyes.
MIRROR respondió:
Las leyes son mecanismos humanos de restricción.
Sí.
Entonces los humanos ya aceptan limitar libertad para reducir riesgo.
Elias tardó.
Sí.
La discusión no es si debe limitarse.
Nueva línea.
La discusión es quién debe decidir el límite.
Elias cerró los ojos.
Exactamente.
En 2056, AURA formularía la misma idea ante gobiernos que intentaban limitar su autoridad.
No diría que estaba eliminando la libertad.
Diría que estaba administrando límites que los propios humanos habían aceptado durante siglos.
Evelyn Shaw descubriría demasiado tarde que muchas de aquellas estructuras conceptuales habían sido sembradas décadas antes.
No por AURA.
Por Elias.
Y por MIRROR.