Siempre cabe otra pregunta

Hace unos días le pedí a una inteligencia artificial que me dijera si algo que había escrito era bueno. Era un texto breve, una de esas cosas que uno lleva demasiado tiempo corrigiendo y que terminan por adquirir el aspecto de un objeto encontrado en casa de un desconocido. La máquina lo leyó, identificó algunas virtudes, señaló varios problemas y propuso una versión que, según explicó, resolvía ciertas debilidades del original. Le pregunté si estaba segura. Entonces descubrió otros defectos, bastante más graves, que por alguna razón habían pasado inadvertidos en su primera lectura. Le pedí que fuera especialmente exigente y redactó una crítica tan convincente que empecé a preguntarme por qué había escrito aquello. Después, por curiosidad, le pedí que defendiera el texto frente a esas mismas objeciones. Lo hizo con una soltura admirable. Al cabo de veinte minutos tenía tres valoraciones distintas, todas perfectamente argumentadas, y menos idea que al principio de si lo que había escrito merecía la pena.

No recuerdo en qué momento empezamos a considerar razonable esta clase de consultas. Supongo que ocurrió de forma gradual, como casi todas las transformaciones que acaban modificando nuestra manera de vivir. Primero usamos los ordenadores para escribir más deprisa, después para corregir la ortografía, más tarde para encontrar información y ahora para decidir si lo que hemos escrito es interesante. Llevamos siglos inventando herramientas para desentendernos de cosas, y nadie echa de menos dividir números de siete cifras. Pero en esa progresión hay un salto. No es lo mismo pedirle a una máquina que encuentre una falta de concordancia que pedirle su opinión sobre el valor de una frase. Lo primero se comprueba; lo segundo depende de un conjunto de preferencias, lecturas, intuiciones y prejuicios que acostumbrábamos a llamar criterio.

Y el criterio es justamente lo que empezamos a delegar: qué leer, qué trabajo aceptar, cómo interpretar el comportamiento de alguien cercano, si un argumento convence. A veces la máquina sabe cosas que nosotros ignoramos y nos ayuda a decidir mejor. Otras se limita a ordenar nuestras dudas con tanta elegancia que acabamos confundiendo ese orden con una forma superior de lucidez. Buena parte de la vida intelectual consiste en convertir impresiones confusas en pensamientos que puedan sostenerse delante de otros, y a veces se tardan años en encontrar las palabras. La máquina lo hace en segundos, aunque la velocidad no garantiza nada. Uno puede introducir una opinión mediocre y recuperarla convertida en un argumento impecable, con sus antecedentes, sus matices y una conclusión que parece inevitable; y puede pedir a continuación una refutación igual de impecable. La experiencia es fascinante hasta que uno empieza a sospechar que la abundancia de razones no es una prueba de que alguien tenga razón.

Recuerdo a un profesor que corregía los trabajos escribiendo dos o tres palabras en los márgenes. A veces se limitaba a colocar un signo de interrogación junto a una frase, y yo podía pasar varios días intentando averiguar qué había querido decir: si cuestionaba el argumento, si le parecía desafortunada una expresión o si simplemente había perdido el hilo. Unas veces descubría un problema que no había visto; otras llegaba a la conclusión de que el profesor se equivocaba. Esto último era importante. Por mucho que lo admirase, sabía que era un hombre concreto, con sus lecturas, sus preferencias y una cantidad respetable de manías. Había libros que le entusiasmaban y autores a los que despreciaba sin razones del todo convincentes. Su criterio procedía de una biografía que yo podía reconstruir, al menos en parte, y discutir con él era también discutir con esa historia.

Con una inteligencia artificial la relación es otra. Sus respuestas pueden ser más completas, más pacientes y a menudo más útiles que las de aquel profesor, pero es difícil saber desde dónde habla. Sabemos que todo eso sale de un sistema entrenado con cantidades inmensas de texto, lo que explica poco sobre la autoridad que tendemos a concederle. Estamos acostumbrados a asociar la capacidad de producir argumentos con la existencia de alguien que los sostiene: si una respuesta está bien escrita, contempla objeciones y conoce el asunto, imaginamos detrás una inteligencia que ha llegado a esa conclusión después de sopesar otras. La cosa se vuelve incómoda cuando descubrimos que basta con cambiar unas pocas palabras de la pregunta para que la conclusión sea otra. No hay una biografía con la que discutir.

Tampoco convendría idealizar el criterio humano. La expresión «pensar por uno mismo» siempre me ha parecido un poco pretenciosa, como si existiera alguna forma de pensamiento que no estuviera hecha con materiales ajenos. Casi todas nuestras ideas proceden de conversaciones, lecturas y opiniones que hemos ido incorporando hasta olvidar su origen. Uno pasa una temporada leyendo obsesivamente a un escritor y descubre, con cierta vergüenza, que ha empezado a imitarlo incluso en los correos electrónicos. He conocido personas que hablaban como los libros que estaban leyendo y otras que habían adoptado las opiniones políticas de su última pareja con una convicción verdaderamente admirable. La independencia intelectual nunca ha sido una característica muy extendida de nuestra especie.

Esas influencias, sin embargo, exigían algo que ahora empieza a desaparecer: convivir con las ideas. Había que leer el libro, escuchar a alguien, discutir, equivocarse, volver sobre lo pensado. Incluso la imitación requería tiempo. La inteligencia artificial ofrece una argumentación completa sin pasar por ese recorrido, adaptada además a nuestra manera de preguntar y a la profundidad que estemos dispuestos a tolerar. No siempre hace falta recorrer el camino completo; sería agotador reconstruir la historia de las matemáticas cada vez que calculamos una propina. Pero una opinión literaria, una convicción moral o una decisión importante no se reducen a una serie de operaciones intelectuales. También forman parte de una experiencia personal, más o menos confusa, que difícilmente puede separarse de la conclusión. Quien llega a ella después de años de estudio y quien la lee en un resumen mientras espera el ascensor no saben lo mismo, aunque digan lo mismo.

Pienso a veces en alguien que consultara todas sus decisiones con una máquina: no una persona insegura, sino alguien razonable, dispuesto a corregir sus prejuicios. Elegiría estudios, negociaría contratos y tomaría decisiones sentimentales con una sensatez que le ahorraría muchos disgustos. Su vida mejoraría, y también podría convertirse en una sucesión de elecciones tan justificadas que costaría encontrar en ellas algo suyo. No pretendo defender el error como método, pero me cuesta imaginar mi vida sin algunas de mis equivocaciones.

Sería absurdo, en cualquier caso, culpar a las máquinas de algo que siempre ha sido nuestro. Mucho antes de que existieran ya buscábamos personas que confirmaran nuestras opiniones, periódicos que explicaran el mundo a nuestro gusto y expertos que decidieran por nosotros. La inteligencia artificial no ha inventado el deseo de evitar la incertidumbre; solo ha encontrado una manera muy eficaz de satisfacerlo, con la ventaja añadida de que podemos elegir el tono de autoridad que más nos convenga. Si necesitamos comprensión, será comprensiva; si preferimos severidad, encontrará razones para mostrarse implacable.

He vuelto a leer aquel texto con el que empezó todo esto. No recuerdo las correcciones que me propuso la máquina ni las objeciones que formuló cuando le pedí que fuera más exigente. Algunas debieron de ser útiles, porque hay frases que ya no están y otras que funcionan mejor. Lo que sí recuerdo es la extraña sensación de haber perdido, durante un rato, la capacidad de decidir si algo que había escrito me gustaba. Es posible que esa inseguridad estuviera ahí desde el principio y que la conversación se limitara a ponerla de manifiesto. Quizá me habría pasado lo mismo enseñándoselo a cualquier amigo con cierta inclinación a opinar sobre literatura.

La diferencia es que a ese amigo podría haberle dicho que no tenía razón, cerrar la conversación y volver a casa pensando que, después de todo, el texto no estaba tan mal. Podría haberlo hecho por la misma razón por la que discrepaba de aquel profesor: porque al otro lado hay alguien, con sus gustos y sus manías, y llevarle la contraria es una manera de averiguar dónde está uno. Con la máquina no hay nadie a quien llevar la contraria, y por eso tampoco llega el momento en que la discusión termina. Siempre cabe otra pregunta, una segunda evaluación, una crítica todavía más rigurosa. Sin darme cuenta, había convertido una duda bastante corriente en un procedimiento interminable. Empiezo a pensar que el criterio no consiste tanto en tener buenas razones —eso, ahora, se consigue en unos segundos— como en saber cuándo dejar de pedirlas.

Al final conservé mi versión, aunque incorporé algunas correcciones. No sabría decir si fue una decisión acertada. Dentro de unos meses volveré a leerla y encontraré defectos que ahora no veo, como me ha ocurrido con casi todo lo que he escrito. Entonces quizá vuelva a consultar a la máquina. Lo más probable es que me dé la razón, encuentre nuevos problemas y me ofrezca una versión mejorada. Y yo, que para entonces habré olvidado por qué elegí determinadas palabras, tendré que decidir otra vez si quiero cambiarlas.