..”

Al comienzo de su novela Machines Like Me, título traducido al español como Máquinas como yo y gente como vosotros, el célebre novelista británico Ian McEwan recoge este breve texto de Rudyard Kipling, tomado de su relato «El secreto de las máquinas».

El consejo, expresado con estas palabras, resulta muy acertado en tiempos de supuesta posverdad, cuando se dan por buenas ese tipo de mentiras emotivas que alimentan diariamente a la gente como nosotros y pretenden dar forma a la opinión pública. Objetivo que suelen alcanzar con éxito, porque mentir no suele tener malas consecuencias para el mentiroso, y resultan raras, por escasas, noticias como la del pago de 785,5 millones de dólares a que se vio obligada Fox por sus mentiras. El abogado de Dominion Voting Systems, tras cerrarse el caso, afirmó: «La verdad importa». Ojalá tuviera razón.

Precisamente el hecho de que las máquinas supuestamente inteligentes sean incapaces de entender una mentira es la clave del libro de McEwan, en el que muestra magistralmente cómo resulta imposible sobrevivir en nuestro mundo sin la capacidad de discernir entre veracidad y engaño, entre la comunicación veraz, que busca el entendimiento, como es propio de la palabra, tanto en la vida privada como en la pública, y la manipulación del lenguaje para obtener ventajas espurias. Y justamente es lo que nos está pasando en un tiempo en que se oscurece la labor de la razón comunicativa y pasa a primer plano la razón estratégica, hasta ocupar todo el espacio público. No puede decirse que ésta sea una buena noticia para fortalecer la democracia, que es una tarea tan urgente, porque está en peligro en todo el mundo.

Por si faltara poco, esto ocurre cuando el avance de la IA impregna nuestra existencia y aumenta en todos los niveles los canales de lo que debería ser una comunicación llamada a resolver los grandes problemas de un universo que es ya cosmopolita. Por eso es urgente analizar la textura de este nuevo mundo y un buen punto de partida puede ser la mención del libro de McEwan, que da pie a un sinfín de reflexiones, tanto éticas como ontológicas, acerca de si los llamados «sistemas inteligentes», las máquinas supuestamente inteligentes, tienen una inteligencia como la humana —o pueden llegar a tenerla— y si son o pueden llegar a ser personas, seres autoconscientes y autónomos, a los que se debe proteger con derechos y a la vez exigir responsabilidades. La gran pregunta es si esas máquinas son instrumentos de los que los seres humanos podemos valernos para alcanzar diversas metas, o si irán sustituyendo paulatinamente a los seres humanos, de modo que se vaya poniendo fin a lo que se ha llamado «Antropoceno», la era del Homo sapiens.

La novela tiene un narrador, que forma parte de la «gente como nosotros», capaz de entender una mentira, es decir, de entender que se puede afirmar lo contrario de lo que se piensa con intención de engañar. El nombre del narrador y protagonista es Charlie, y cuenta cómo habiendo heredado algún dinero a la muerte de su madre, decide emplearlo en comprar uno de los primeros humanos manufacturados, verdaderamente viables, que han sido puestos a la venta por 86.000 libras. En un primer lote se habían fabricado veinticinco individuos (es lo más neutral que podemos decir): trece Evas y doce Adanes. Charlie deseaba una Eva, pero las Evas se agotaron al cabo de una semana y tuvo que contentarse con un Adán. A pesar de la decepción, le consolaba algo saber que también había adquirido uno igual Alan Turing, el creador de la célebre máquina de Turing y del test de Turing, que permite descubrir la inteligencia de una máquina comprobando si sus respuestas son indistinguibles de las de un ser humano. Como es bien conocido, durante la Segunda Guerra Mundial Turing dio con las claves para descifrar códigos nazis, particularmente de la máquina Enigma. La intervención de Turing al final de la novela con un largo y emocionado discurso es decisiva.

Obviamente, a diferencia de los hijos biológicos, que nacen con sus características individuales (lo que John Rawls llamaría la «lotería natural» que a cada uno cabe en suerte, pero también la «lotería social», porque el feto va absorbiendo las enseñanzas de su entorno sociocultural y los entornos son muy diferentes según el país y el código postal), la personalidad de Adán tiene que ser programada, y por eso se vende al humano manufacturado con un manual de instrucciones de cuatrocientas setenta páginas. Llevar a cabo la tarea de programarlo es ineludible para ponerlo en funcionamiento —¿para darle la vida?—, pero a la vez es un tanto frustrante, porque, a pesar de la programación inicial, el aprendizaje de máquinas irá configurando su personalidad y condicionando sus decisiones a lo largo de su existencia. No digamos ya desde la aparición de la IA generativa, capaz de producir contenidos originales, inesperados en todas las actividades sociales.

Estas innovaciones parecen refrendar la sugerencia de algunos autores de educar a las máquinas en aquellos valores morales que consideramos importantes, empezando el proceso educativo antes de que nazcan, insertándoles en el «cerebro» de silicio unos valores que ya irán rumiando desde el comienzo y que desarrollarán sin tener que esperar al largo proceso de la evolución. A mi juicio, es hoy por hoy pura especulación y plantea una buena cantidad de problemas, como veremos más adelante.

Porque desde el comienzo de la obra de McEwan se plantea la gran pregunta: ¿es posible que la máquina tenga motivaciones, sentimientos subjetivos, autoconciencia, incluida la capacidad para la deslealtad y la traición? A lo largo de la historia no se tiene noticia de ninguna máquina que haya sido desleal y traidora. Según el narrador, el nuevo Adán parece estar hecho para el bien y la verdad y, sin embargo, ¿puede hablarse de «inclinación al bien y a la verdad» en seres que no están dotados de las características que acabamos de mencionar?