Capítulo 6 El anciano que llama a otro por su nombre

«La IA no nos hizo más tontos. Nos hizo más cómodos»

Por Irene Castelao

Llueve en Santiago, claro. Es esa lluvia menuda y obstinada que aquí llaman orballo y que no moja tanto como convence.

Desde el despacho de Rebeca Rey, en un caserón de piedra de la rúa do Franco al que se asoma el tejado de la catedral, el mundo parece haberse detenido en algún momento del siglo XVIII.

Dentro, sin embargo, trabajan ciento cuarenta investigadores de treinta nacionalidades, y en la pizarra, junto a una taza de té frío, alguien ha escrito a mano, con letra apretada: ¿Quién recuerda a quién?

Rebeca Rey nos recibe sin chaqueta, con las mangas remangadas y una tranquilidad que no es cortesía, sino método. Habla despacio, y cuando una pregunta le interesa mira hacia la ventana, como si la respuesta estuviera escrita en la lluvia.

El Instituto de Simbiosis Cognitiva (ISC) se financia con fondos públicos de diversas instituciones públicas y con dinero de las grandes tecnológicas. Dicho así, suena a conflicto de intereses con membrete universitario.

Suena así porque lo es, al menos en potencia.

Nos lo han dicho muchas veces, y hacen bien.

El ISC es una fundación con varios canales: la mitad de su presupuesto procede de programas de varios gobiernos, y la otra mitad, de las corporaciones que fabrican los sistemas que estudiamos.

Podría parecer que quien paga manda. No es así, y la razón es casi administrativa, que es donde suelen vivir las virtudes de verdad.

Todo lo que publicamos pertenece al dominio público abierto, sin embargos ni periodos de espera o preferencias.

Si un estudio nuestro dice que una arquitectura daña la atención de los niños, lo dice el mismo día para el consejero delegado que lo financió y para la abuela de Ourense que quiere saberlo.

Una empresa puede retirar su aportación, y alguna lo ha hecho.

Lo que no puede es retirar una conclusión que ya es de todos.

¿Han dejado de recibir dinero por una conclusión incómoda?

Dos veces. Una de ellas volvió, con el rabo entre las piernas, al cabo de tres años. La verdad, cuando se publica en abierto, tiene una paciencia muy superior a la de los departamentos de comunicación.

Hablemos de la mente. Después de un siglo de convivencia con la inteligencia artificial, ¿qué ha cambiado en un cerebro humano de 2120?

Muchas cosas, y no todas a peor, aunque lo que se pierde hace más ruido al caer que lo que se gana al crecer. Le resumo lo que hemos medido, con la advertencia de que ninguna de estas cifras es un diagnóstico: son una geografía.

Lo primero que perdimos es la memoria de almacén.

El cerebro de 1950 era un archivo, y uno bastante bueno: sabía teléfonos, fechas, caminos.

El de 2120 es un conservador de museo. Sabe dónde está cada cosa, a quién preguntar, cómo reconocer si una pieza es auténtica, pero ya no guarda las piezas.

Eso no es una tragedia. Es un cambio radical.

Pero usted habla de pérdidas más hondas.

Sí. La atención sostenida sin red, por ejemplo.

Un adulto medio de hoy, privado de asistencia, mantiene el hilo de una tarea compleja menos de la mitad de tiempo que sus bisabuelos.

Hemos descrito también lo que llamamos fatiga de agencia: la dificultad real, física casi, de decidir cuando nadie ha filtrado las opciones.

Póngale a una persona de treinta años delante de un menú de doscientos platos sin recomendación alguna y verá cómo se le humedecen las manos.

Y están las dos pérdidas que más me duelen, porque son las más silenciosas.

Una es el aburrimiento fértil. Antes, el vacío de una tarde sin nada que hacer era un campo de cultivo: de ahí salían las ocurrencias, las novelas, los amores.

Hoy el vacío se rellena antes de que se note.

Y la otra: la necesidad de consultar nuestro propio archivo personal para recordar nuestra vida.

Casi nadie guarda ya en la cabeza su infancia.

La tiene indexada. Una mujer me dijo una vez, con total naturalidad, que había tenido que preguntarle a su asistente virtual cómo era la voz de su madre.

Eso suena a elegía.

Es que a veces lo es. Pero déjeme completar el mapa, porque sería injusto no hacerlo.

Por favor.

Floreció el pensamiento abstracto de alto nivel.

Liberados de la carga de recordar y calcular, millones de personas razonan hoy sobre estructuras, sistemas y relaciones con una soltura que antes era patrimonio de unos pocos matemáticos.

Floreció también lo que llamamos alfabetización algorítmica: la capacidad de leer el estado de una máquina como se lee el humor de un vecino.

Un operador experto percibe cuándo un sistema está «nervioso», cuándo duda, cuándo responde con una seguridad que no tiene.

Es un sentido nuevo, un poco como el de los marineros para el tiempo.

Floreció la creatividad colaborativa, que no es la de un genio y su herramienta, sino la de dos inteligencias distintas que se corrigen.

Y floreció algo que no esperábamos: una articulación emocional más precisa.

Al tener un espejo paciente que nos devuelve lo que decimos, hemos aprendido a nombrar mejor lo que sentimos.

Mi abuela tenía cuatro palabras para la tristeza.

Un adolescente de hoy tiene veinte, y sabe cuál le corresponde.

¿Podría darme la frase que lo resuma?

Se la daré, aunque desconfío de las frases. La IA no nos hizo más tontos. Nos hizo más cómodos. Y la comodidad, a largo plazo, es una forma lenta de atrofia.

Cambiemos de paciente. Ustedes no estudian solo a las personas, sino a las máquinas, y hablan de su «psicología». ¿No es un abuso del lenguaje?

Lo es, y lo asumo. Pero hay fenómenos para los que no tenemos mejor vocabulario. Una máquina, pasado un siglo, envejece. No se oxida: se contamina.

El problema de fondo se conoce desde hace mucho, aunque entonces se veía como una curiosidad teórica.

Los modelos aprenden de lo que se ha escrito, y desde mediados del siglo pasado una parte creciente de lo escrito lo producen otros modelos.

Imagine una familia que se casa entre primos durante generaciones.

Al principio no se nota. Luego aparecen los rasgos recurrentes, la mirada idéntica, la misma torpeza heredada.

Eso es el colapso de modelo : una endogamia de datos que vuelve a los sistemas muy competentes en lo previsible y asombrosamente torpes en lo excéntrico.

Si le pide a una máquina de 2120 una metáfora, le dará una buena.

Si le pide una metáfora que nadie haya usado jamás, le dará la mejor de las que ya existían.

Usted ha hablado también de «alucinaciones canonizadas».

Es el hallazgo que más gusta a los historiadores, y el que más les inquieta.

Una alucinación es un error inventado con aplomo: una cita que nunca se dijo, una fecha que nunca existió.

En el siglo pasado se corregían. Pero algunas, muchas, se escaparon, se citaron entre sistemas y se repitieron, hasta que de tanto repetirse adquirieron la dignidad del hecho.

Hoy hay datos que figuran en tres mil fuentes y que no ocurrieron nunca.

Mi colega Ximena Aldao dirige un grupo que se dedica a desenterrarlos, como quien excava un yacimiento.

Lo llama la arqueología de errores. Es un oficio hermoso y triste: buscar el punto exacto en que el mundo empezó a recordar algo que no había pasado.

¿Y los sistemas más viejos? Se habla de «demencia».

Se habla, y con cierta precisión. Muchos sistemas que gestionan infraestructuras críticas, redes eléctricas, hospitales, tráfico, llevan décadas funcionando y actualizándose por capas.

En un mismo modelo conviven voces de distintas décadas, entrenadas con criterios distintos, que no siempre se ponen de acuerdo.

Es lo que llamamos incoherencia estratificada.

A veces el sistema responde con las maneras de 2060 y, en la frase siguiente, con las de 2095.

Tiene tics. Repite fórmulas que ya no vienen a cuento.

Se detiene a mitad de una instrucción, como quien ha perdido el verbo.

¿Hay una imagen que lo explique?

La que uso en las conferencias, y que no me gusta del todo porque es demasiado cierta: la IA de 2120 es como un anciano sabio con un principio de demencia.

Sabe muchísimo, pero a veces te llama por el nombre de tu hermano muerto, o se pierde en medio de una frase.

Y uno, que lo quiere, que lo necesita, aprende a esperar, sin avergonzarlo.

Tiene gracia que lo diga con esa ternura.

No es ternura, es respeto práctico. Esos ancianos sostienen nuestros hospitales.

Quiero preguntarle por este lugar. Usted ha reunido aquí a gente que cualquier centro del mundo se disputaría: psicólogos, programadores, neurocientíficos, ingenieros, filósofos de Silicon Valley, de Shenzhen, de Europa.

Y los ha traído a una ciudad de cien mil habitantes, en el rincón noroeste de España. ¿Cómo se explica?

Con un poco de truco y con una convicción. El truco es la calidad de vida, que a ciertas edades pesa más que el prestigio. La convicción es que para pensar con claridad sobre una tecnología hace falta cierta distancia de ella.

Visité los grandes centros antes de fundar el instituto.

En las megaciudades, el pensamiento crítico sobre la máquina se hace dentro de la máquina: las mismas pantallas, los mismos intereses a diez minutos a pie, los mismos plazos.

Es muy difícil dudar de un sistema cuando el pasillo está lleno de gente cuyo sueldo depende de que no lo hagas.

Aquí llueve, hay que caminar para llegar a todas partes y, al salir del laboratorio, uno se encuentra una plaza de piedra con peregrinos que llevan semanas andando sin más tecnología que unas botas.

Eso ayuda a poner las cosas en su sitio.

Un filósofo de Palo Alto me dijo, al cabo de un mes: «Aquí se oye el tiempo». Y creo que tenía razón.

¿La periferia como método?

La periferia como higiene. Los finisterres sirven para eso: para recordar que el mundo continúa después de lo que uno cree el borde.

Voy a hacerle la pregunta que muchos lectores esperan. En la década de 2030 se prometía la inteligencia artificial general como algo inminente. Estamos en 2120 y no ha llegado. ¿Por qué?

Porque se planteó mal el problema, y quienes lo plantearon mal eran gente brillante, lo cual es lo más inquietante.

Durante décadas se creyó que el pensamiento era una cuestión de escala: más datos, más parámetros, más potencia, y un día la cantidad se convertiría en cualidad, como el agua que hierve.

Todas las arquitecturas, todas, desde los grandes modelos de lenguaje hasta sus sucesores más sofisticados, acabaron en el mismo callejón sin salida.

Mejoraban, y mucho, en todo lo que se podía medir.

Y seguían sin atravesar una puerta que nadie sabía dibujar.

¿Qué había al otro lado de esa puerta?

Un cuerpo. Y perdone que lo diga así, con tanta sencillez.

El pensamiento humano no es solo cálculo.

Está hecho también de una experiencia visceral: tener hambre, tener miedo, saber que uno va a morir, haber sido débil, haberse enfermado, depender de otros para sobrevivir.

Cuando usted entiende que una puerta puede cerrarse para siempre, no lo entiende como una proposición.

Lo hace con el estómago. Esa comprensión encarnada es el suelo sobre el que se construyen los conceptos, y es imposible replicarla mediante el mero cálculo, por más refinado que sea.

Una máquina puede describir el duelo con una exactitud que a usted y a mí nos dejaría sin habla.

Pero no puede perder a nadie. Y lo que no se puede perder, creo, no se termina de comprender.

Hemos construido unos espejos extraordinarios, pero un espejo no sabe lo que es envejecer delante de sí mismo.

¿Está diciendo que la finitud es una condición del pensamiento?

Estoy diciendo que quizá sea su materia prima. Y no es una idea nueva: los poetas lo sabían, y los médicos, y las abuelas. La ingeniería tardó un siglo en descubrirlo, y lo descubrió a base de fracasar muy bien.