Recientemente me topé con un ensayo de Douglas Hofstadter que me hizo feliz. Hofstadter es un eminente científico cognitivo y autor de libros como "Gödel, Escher, Bach" y "Soy un bucle extraño". El ensayo que me complació tanto, titulado "La superficialidad de Google Translate", fue publicado en The Atlantic en enero de 2018.
En aquel entonces, Hofstadter argumentaba que las herramientas de traducción de inteligencia artificial (IA) podrían ser muy buenas para algunas tareas pedestres, pero no estaban cerca de replicar las habilidades creativas y sutiles de un traductor humano. "Se trata de un procesamiento ultrarrápido de fragmentos de texto, no de pensar, imaginar, recordar o comprender. Ni siquiera sabe que las palabras representan cosas", escribió.
El artículo me hizo feliz porque aquí estaba un científico que admiro enormemente argumentando un punto de vista al que yo mismo he llegado. En los últimos meses, me he convertido en un limitationista de la IA. Es decir, creo que aunque la IA será una herramienta increíble para, por ejemplo, enseñar a niños de todo el mundo o resumir reuniones, no se compara con la inteligencia humana. No posee comprensión, autoconciencia, conceptos, emociones, deseos, un cuerpo o biología. Es mala en el pensamiento causal. No posee el conocimiento no verbal y tácito que los humanos dan por sentado. No es consciente. Hace muchas cosas mucho más rápido que nosotros, pero le falta la profundidad de una mente humana.
Considero que esto es una buena noticia. Si la IA está limitada de estas formas, entonces la revolución de la IA resultará ser similar a las muchas otras revoluciones de la información que los humanos han producido. Esta tecnología se utilizará de muchas maneras excelentes, y algunas terribles, pero no nos reemplazará, no causará la gran disrupción social de la que advierten los exageradores y no despertará un día deseando conquistar el mundo.
El ensayo de Hofstadter de 2018 sugirió que él también es un limitationista y reforzó mi sentido de que esta visión es correcta.
Por eso me sorprendió ver este mes el siguiente titular en uno de los boletines de IA a los que estoy suscrito: "Douglas Hofstadter cambia de opinión sobre el aprendizaje profundo y el riesgo de la IA". Seguí el enlace a un podcast y escuché a Hofstadter decir: "Es una experiencia muy traumática cuando algunas de tus creencias más fundamentales sobre el mundo comienzan a desmoronarse. Y especialmente cuando piensas que los seres humanos pronto serán eclipsados".
Aparentemente, en los cinco años desde 2018, ChatGPT y sus compañeros han alterado radicalmente el pensamiento de Hofstadter. Él continúa: "Simplemente hace que la humanidad sea un fenómeno muy pequeño en comparación con algo más inteligente y que se volverá incomprensible para nosotros, tan incomprensible como nosotros lo somos para las cucarachas".
Llamé a Hofstadter para preguntarle qué estaba pasando. Compartió su genuina alarma sobre el futuro de la humanidad. Dijo que ChatGPT estaba "haciendo acrobacias que nunca hubiera imaginado que podría hacer. Simplemente me da un miedo increíble". Además, agregó: "Casi todo el tiempo, estoy nervioso. Me considero afortunado si puedo distraerme con algo, ya sea leyendo, escribiendo, dibujando o hablando con amigos. Pero es muy difícil encontrar paz".
Hofstadter ha argumentado durante mucho tiempo que la inteligencia es la capacidad de analizar una situación compleja y encontrar su esencia. "Poner el dedo en la esencia de una situación significa ignorar grandes cantidades de información sobre la situación y resumir la esencia de manera concisa", dijo.
Los humanos generalmente hacen esto a través de analogías. Si me dices que no leí mi columna y yo te respondo que no me importa porque de todas formas no quería que la leyeras, pensarás: "Este tipo está lleno de rencor". Tienes esta categoría en tu cabeza, "rencor". Estás comparando mi comportamiento con todos los demás comportamientos que has presenciado. Coincido con la categoría del rencor. Has derivado una esencia para explicar mi estado emocional.
Hace dos años, según Hofstadter, la inteligencia artificial (IA) no podía realizar este tipo de pensamiento de manera confiable. Pero ahora lo está haciendo todo el tiempo. Y si puede realizar estas tareas de manera coherente, según Hofstadter, ¿cómo podemos decir que carece de comprensión o que no está pensando?
Y si la IA puede realizar todo este tipo de pensamiento, concluye Hofstadter, entonces está desarrollando conciencia. Ha argumentado durante mucho tiempo que la conciencia tiene grados y que si hay pensamiento, hay conciencia. Una abeja tiene un nivel de conciencia, un perro un nivel más alto, un bebé un nivel más alto aún y un adulto un nivel más alto todavía. "Estamos llegando al punto en el que nos resultará difícil decir que esta máquina está totalmente inconsciente. Tendremos que otorgarle cierto grado de conciencia, cierto grado de vida", dice.
Normalmente, cuando los ejecutivos de la tecnología me dicen que la IA pronto logrará una inteligencia general a nivel humano, pienso en silencio: "Esta persona puede conocer la tecnología, pero no conoce realmente la inteligencia humana. No comprende lo compleja, vasta y profunda que es realmente la mente humana".
Pero Hofstadter sí comprende la mente humana, tanto como cualquiera. Es un humanista hasta la médula, con una reverencia por el misterio de la conciencia humana, que ha escrito de manera conmovedora sobre el amor y la profunda interpenetración de las almas. Así que sus palabras llevan peso. Me sacudieron.
Pero hasta ahora no me ha convertido por completo. Sigo viendo estas cosas como herramientas inanimadas. Durante nuestra llamada, intenté contrarrestar brevemente a Hofstadter argumentando que los bots no están realmente pensando; simplemente están aprovechando el pensamiento humano. Comenzando desde bebés, los humanos comenzamos a construir modelos del mundo, y esos modelos se basan en experiencias difíciles y alegres, pérdidas emocionales y deleites, triunfos y fracasos morales, el caos de la vida humana. Gran parte de la sabiduría resultante se almacena profundamente en los recesos inconscientes de nuestras mentes, pero parte de ella se convierte en lenguaje.
La IA es capaz de sintetizar estas expresiones lingüísticas, que los humanos han puesto en Internet y, por lo tanto, en su base de entrenamiento. Pero, aún así, argumentaría, la máquina no está teniendo nada parecido a una experiencia de aprendizaje humana. Juega superficialmente con el lenguaje, pero el proceso empapado de emoción de aprendizaje a partir de experiencias reales y la acumulación ardua de lo que llamamos sabiduría están ausentes.
En un artículo para The New Yorker, el científico de la computación Jaron Lanier argumentó que la IA se debe considerar mejor como "una forma innovadora de colaboración social". Mezcla las expresiones lingüísticas de las mentes humanas de manera estructurada para ser útil, pero no es, según argumenta Lanier, "la invención de una nueva mente".
Creo que todavía sigo creyendo en esta visión limitacionista. Pero confieso que lo creo con mucho menos fervor que la semana pasada. Hofstadter básicamente pregunta: si la IA resuelve coherentemente problemas intelectuales, ¿quién eres tú para decir que no está pensando? Tal vez es más que una simple combinación de expresiones humanas. Tal vez está sintetizando el pensamiento humano de manera genuinamente creativa, produciendo nuevas categorías y nuevos pensamientos de verdad. Quizás el tipo de pensamiento de una máquina desencarnada que mayormente encuentra el mundo a través del lenguaje es radicalmente diferente al tipo de pensamiento realizado por una mente humana encarnada en una persona que se mueve en el mundo real, pero es una inteligencia de cierto tipo, que opera de forma mucho más rápida y superior a la nuestra. Además, Hofstadter señala, estos cerebros artificiales no están limitados por los factores que limitan los cerebros humanos, como tener que caber dentro de un cráneo. Y, recalca, están mejorando a un ritmo asombroso, mientras que la inteligencia humana no lo está haciendo.
Es difícil desechar ese argumento.
No sé ustedes, pero esto es lo que ha sido para mí desde que se lanzó ChatGPT 3. Me encuentro rodeado de una incertidumbre radical, no solo acerca de hacia dónde se dirige la humanidad, sino también de lo que significa ser humano. Tan pronto como empiezo a creer que estoy comprendiendo lo que está sucediendo, algo sorprendente ocurre: las máquinas realizan una nueva tarea, una figura de autoridad cambia de opinión.
Abatido por lo desconocido, me pongo a la defensiva y me vuelvo asertivo. Me encuentro aferrándome al núcleo más profundo de mi ser: el vasto y en su mayoría oculto reino de la mente, de donde emergen las emociones, de donde fluye la inspiración, de donde pulsan nuestros deseos; la parte subjetiva del espíritu humano que nos hace ineludiblemente quienes somos. Quiero construir un muro alrededor de esta región sagrada y decir: "Esto es la esencia de ser humano. Nunca será replicado por una máquina".
Pero luego algún tecnólogo susurra: "No, solo son redes neuronales hasta el fondo. No hay nada especial ahí adentro. No hay nada de ti que no pueda ser superado".
Algunos de los tecnólogos parecen extrañamente tranquilos al hablar de esta manera. Al menos Hofstadter es lo suficientemente humanista como para horrorizarse.
