Pero Hofstadter hacer comprender la mente humana, tan bien como cualquiera. Es un humanista hasta la médula, con reverencia por el misterio de la conciencia humana, que escribió conmovedoramente sobre el amor y la profunda interpenetración de las almas. Sus palabras tienen peso. Me sacudieron.
Pero hasta ahora, no me ha convertido por completo. Todavía veo estas cosas como herramientas inanimadas. Durante nuestra llamada, traté de contrarrestar brevemente a Hofstadter diciendo que los bots en realidad no piensan; sólo se injertan en el pensamiento humano. Comenzando como bebés, los humanos comenzamos a construir modelos del mundo, y estos modelos están informados por experiencias difíciles y experiencias alegres, pérdidas emocionales y placeres, triunfos morales y fracasos morales: el desorden de la vida humana. Gran parte de la sabiduría resultante se almacena profundamente en los recovecos inconscientes de nuestra mente, pero parte se transforma en lenguaje.
La IA es capaz de sintetizar estas expresiones lingüísticas, que los humanos han puesto en Internet y por tanto en su base de entrenamiento. Pero aún diría que la máquina no tiene nada que ver con una experiencia de aprendizaje humano. Es un juego superficial con el lenguaje, pero el proceso emocionalmente cargado de aprender de la experiencia real y la acumulación de lo que llamamos sabiduría están ausentes.
En un artículo para The New Yorker, el informático Jaron Lanier argumentó que la IA se ve mejor como «una forma innovadora de colaboración social». Mezcla las expresiones lingüísticas de la mente humana de forma suficientemente estructurada para ser útil, pero no es, según Lanier, «la invención de una nueva mente».
Creo que todavía creo en esa visión limitacionista. Pero reconozco que creo en ello con mucho menos fervor que la semana pasada. Hofstadter esencialmente pregunta: si la IA resuelve de manera convincente los problemas intelectuales, ¿quién eres tú para decir que no piensa? Es quizás más que una mezcla de expresiones humanas. Tal vez se trate de sintetizar el pensamiento humano de una manera verdaderamente creativa que realmente produzca nuevas categorías y nuevos pensamientos. Tal vez el tipo de pensamiento de una máquina incorpórea que se encuentra con el mundo principalmente a través del lenguaje es radicalmente diferente del tipo de pensamiento de una mente humana encarnada contenida en una persona que se mueve por el mundo real, pero es una especie de inteligencia que funciona en algunas formas mucho más rápidas y superiores a las nuestras. Además, señala Hofstadter, estos cerebros artificiales no están limitados por los factores que limitan los cerebros humanos, como tener que caber dentro de un cráneo. Y, señala, están mejorando a un ritmo asombroso, a diferencia de la inteligencia humana.