40

Poco después de que se reanudara el juicio, llamé a Michael Spindler al estrado.

Una vez que le tomaron juramento, dediqué un buen rato a repasar sus credenciales académicas y profesionales, consolidándolo firmemente como experto en el campo de la inteligencia artificial generativa.

Lo hice porque pronto quedaría claro para los miembros del jurado que Spindler no era un detractor de la IA.

Él pensaba que esta tecnología estaba cambiando el mundo para mejor, pero creía en la necesidad de establecer fuertes salvaguardas a medida que se iba gestando este mundo feliz.

—Profesor, ¿cuánto tiempo lleva dando clases en Caltech? —le pregunté.

—Nueve años —respondió Spindler.

—¿Y ocupaba algún puesto académico antes de Caltech?

—No, estaba en el mundo real. Trabajé para varias empresas tecnológicas, la última de ellas Google.

—¿Qué hacía allí?

—Dirigía un laboratorio donde comenzamos a desarrollar su plataforma de inteligencia artificial.

—¿Así que es usted partidario de la inteligencia artificial?

—Sí, podría decir que sí. La he desarrollado, doy clases sobre ella y creo que hará del mundo un lugar mejor.

—¿Se podría decir que ha estado inmerso en la IA desde sus inicios?

—Por Dios, no soy tan mayor.

Esperé a que se apagaran las risas de cortesía en la sala.

—Bueno, en ese caso, ¿puede decirnos desde cuándo existe la inteligencia artificial? —pregunté.

—Las primeras formas se remontan al menos a los años sesenta —dijo Spindler.

—¿Se refiere a Eliza?

—Sí. Mucho antes de que existieran Siri, Alexa o Watson, estaba Eliza.

—¿Puede hablarnos de Eliza, profesor Spindler?

Mitchell Mason protestó, alegando irrelevancia, pero la jueza desestimó su objeción sin pedirme que defendiera la pregunta.

—Puede responder, profesor —dije.

—Eliza fue una de las primeras formas de inteligencia artificial —explicó Spindler—. Se considera uno de los primeros chatbots.

—¿Y quién era Eliza o, mejor dicho, qué era?

—Era un programa informático desarrollado en el Instituto Tecnológico de Massachusetts a mediados de los sesenta.

Era bastante sencillo, concebido originalmente como un psicoterapeuta informatizado.

Lo llamaron así por Eliza Doolittle, el personaje de Pigmalión, obra de George Bernard Shaw, y, por supuesto, del musical My Fair Lady y de la versión cinematográfica que se estrenó el mismo año en que se comenzó a trabajar en Eliza.

—Si mal no recuerdo, la película trataba sobre un profesor de fonética que intentaba enseñar a hablar correctamente a una florista con acento muy marcado y sin estudios, ¿no?

—Sí, con Audrey Hepburn en el papel de Eliza.

Spindler lo dijo con un tono de deferencia hacia la gran belleza de la pantalla. Esto llevó a la jueza Ruhlin a hacer un gesto para que Mitchell Mason se sentara antes de que el abogado tuviera ocasión de protestar.

—Señor Haller —intervino ella—, ¿podríamos pasar al testimonio pertinente para el caso que nos ocupa?

—Disculpe, señoría —dije—. Continuemos. Profesor Spindler, ¿esta forma temprana de inteligencia artificial es importante en la actualidad y para este caso?

—Sí, así es —contestó Spindler—. Existe un fenómeno conocido como «el efecto Eliza» que está muy presente hoy en día y en relación con este caso.

—¿Cómo es eso, profesor? ¿Qué es el efecto Eliza?

—En pocas palabras, es la tendencia de las personas a atribuir pensamientos y emociones humanos a las máquinas.

Creo que Joseph Weizenbaum, el creador de Eliza, lo llamaba «una maravillosa ilusión de inteligencia y espontaneidad».

Pero, por supuesto, no era real. Era artificial.

Eliza seguía literalmente un guion y funcionaba emparejando las palabras o consultas escritas del usuario con las posibles respuestas de ese guion.

—¿Diría usted que la maravillosa ilusión de la IA ha avanzado mucho en los sesenta años transcurridos desde Eliza?

—Sí, no cabe duda. Eliza tenía un cuadro de diálogo.

Escribías una pregunta y ella respondía, muchas veces con otra pregunta.

Simulaba la psicoterapia rogeriana, que es un enfoque humanista hacia los pacientes que depende de respuestas sencillas, comprensivas y sin juicios por parte del terapeuta.

Es el tipo de terapia de «¿y cómo lo hizo sentir eso?

». Hoy en día tenemos chatbots y aplicaciones de conversación mucho más avanzados con dimensiones visuales y auditivas que parecen bastante reales.

—¿Ha tenido oportunidad de examinar a Wren, la amiga virtual de IA involucrada en este caso?

—He revisado los registros de chat. He evaluado los fundamentos de la aplicación, su estructura y sus gráficos, y he examinado su código, sí. Wren ha avanzado mucho desde su antecesora Eliza, pero la base fundamental de un chatbot no ha cambiado mucho.

—¿Qué quiere decir con eso?

—Que, si entra basura, sale basura. Todo depende de la calidad de la programación. La codificación, el entrenamiento y las mejoras continuas. Los datos que se introducen en el entrenamiento de una IA de modelo extenso de lenguaje son los que salen cuando se pone en uso.

—¿Está diciendo que un programa de IA como Wren transmitirá los sesgos de quienes le proporcionan datos y lo entrenan?

—Eso es exactamente lo que estoy diciendo. Es así con toda la tecnología.

—¿Puede explicar al jurado, en términos sencillos, si es posible, cómo se entrena un sistema de IA generativa?

—En el caso de la aplicación Clair, se denomina «aprendizaje supervisado».

Se cargan enormes cantidades de datos en el programa para que pueda responder eficazmente a las indicaciones y preguntas del usuario final.

Se llama DCR, datos de conversación relevantes.

Los programadores crean plantillas de respuesta basadas en la intención definida de la plataforma, en este caso, un chatbot para adolescentes.

Lo ideal es que los datos se actualicen continuamente y que los programadores interactúen con él de forma constante y durante largos periodos, a veces años, antes de que esté listo para ponerse a disposición de los usuarios.

—Profesor, ha dicho que los programadores interactúan con el programa de forma constante. ¿Qué significa eso?

—En el laboratorio, mantienen una conversación continua con el programa, introduciendo datos, planteándole preguntas, dándole indicaciones, estudiando las respuestas y asegurándose de que estas son relevantes para su objetivo.

Me fijé en el jurado para asegurarme de que todos seguían el hilo y prestaban atención.

Sabía que pisaba un suelo quebradizo con un testimonio sobre cuestiones difíciles de entender, pero tenía que encontrar la manera de hacer comprensible la ciencia.

Había un cartero del servicio postal en el jurado.

Él era mi objetivo. Tenía que conseguir que un tema científico fuera agradable y comprensible para un hombre que caminaba por las calles todos los días, metiendo cartas en los buzones.

No se trataba de un juicio sobre su inteligencia.

Había querido que el cartero formara parte del jurado precisamente por eso.

Sabía que, si él entendía la tecnología del caso, todo el jurado lo haría.

Me fijé en el cartero y vi que estaba escribiendo en su cuaderno. Esperaba que no estuviera distraído y garabateando, pero no podía saberlo. Volví a mirar a Spindler y continué.

—¿Diría que es como enseñar a un niño? —pregunté.

—Hasta cierto punto, sí —respondió Spindler—.

Un sistema de IA en fase inicial es un recipiente vacío.

Hay que alimentarlo con datos. Hay que nutrirlo.

La información que se le proporciona depende del uso que se le vaya a dar.

Si se trata de una aplicación empresarial, se la alimenta con datos de la Harvard Business School, el Wall Street Journal, etcétera.

Si se trata de un compañero social, se alimenta con todo tipo de medios: música, películas, libros…

, lo que sea. Luego se entrena. Los programadores se pasan el día introduciendo y extrayendo datos, formulando preguntas y calificando las respuestas.

Este proceso continúa hasta que se considera que el programa está listo.

—¿Y qué hay de las salvaguardas, profesor Spindler?

—Las salvaguardas son importantes. Se empieza con las tres leyes de la robótica de Asimov y se parte de ahí.

—¿Puede explicar al jurado quién es Asimov y cuáles son las tres leyes?

—Isaac Asimov fue un escritor de ciencia ficción.

Él ideó las tres leyes: primera, un robot no puede dañar a un ser humano; segunda, un robot debe obedecer las órdenes de un humano, a menos que la orden entre en conflicto con la primera ley; y tercera, un robot debe proteger su propia existencia, siempre y cuando dicha acción no entre en conflicto con la primera ni la segunda ley.

Volví a mirar al jurado. Parecía que seguían concentrados. El cartero ya no escribía. Miraba directamente al testigo. Eché un vistazo a la jueza. Se había vuelto en su asiento para mirar a Spindler mientras testificaba. Lo tomé como otra buena señal y continué.

—Profesor Spindler, ¿todos los sistemas de IA siguen estas leyes? —pregunté.

—Por supuesto que no —respondió él—. Existen aplicaciones militares de inteligencia artificial que están diseñadas para matar al enemigo, sistemas que guían misiles, etcétera. Eso incumple la primera ley.

—¿Y en aplicaciones no militares?

—Una vez más, todo depende de los programadores. Si entra basura, sale basura. Lo que se introduce es lo que se obtiene. Siempre les digo a mis alumnos que, si una máquina muestra malicia, el problema está en la programación.

—Después de revisar los materiales de este caso, ¿llegó a alguna conclusión como experto en inteligencia artificial generativa en cuanto a cómo se entrenó a Wren?

—Sí, así es.

—¿Y cuál fue?

—Creo que había un sesgo en el código.

—¿Qué tipo de sesgo?