En el cuento clásico de ciencia ficción de Isaac Asimov "Robbie", la familia Weston posee un robot que actúa como niñera y compañero de su hija precoz preadolescente, Gloria. Gloria y el robot Robbie son amigos; su relación es afectuosa y mutuamente cuidadosa. Gloria considera a Robbie como su fiel y diligente cuidador. Sin embargo, la Sra. Weston se preocupa por esta relación "unnatural" entre el robot y su hija y teme que Robbie pueda dañar a Gloria (a pesar de que está explícitamente programado para no hacerlo); está claro que está celosa. Después de varios intentos fallidos de alejar a Gloria de Robbie, su padre, frustrado y agotado por las protestas de la madre, sugiere una visita a una fábrica de robots: allí, Gloria podrá ver que Robbie es simplemente un robot fabricado, no una persona, y dejará de amarlo. Gloria debe aprender cómo funciona Robbie, cómo fue hecho; entonces entenderá que Robbie no es quien ella piensa que es. Este plan no funciona. Gloria no aprende cómo Robbie "realmente funciona" y, en un giro argumental, Gloria y Robbie se vuelven aún mejores amigos. La Sra. Weston, la aguafiestas, es frustrada una vez más. Gloria sigue "engañada" sobre quién es Robbie "realmente".
¿Cuál es la moraleja de este cuento? Lo más importante es que aquellos que interactúan y socializan con agentes artificiales, sin saber (o prestar atención a) cómo funcionan "realmente" internamente, desarrollarán relaciones distintivas con ellos y les atribuirán aquellas cualidades mentales apropiadas para sus relaciones. Gloria juega con Robbie y lo ama como compañero; él la cuida a cambio. Hay una danza interpretativa en la que Gloria participa con Robbie, y las operaciones internas y la constitución de Robbie no tienen relevancia en ella. Cuando surge la oportunidad de aprender detalles así, más pruebas de la funcionalidad de Robbie (después de que salva a Gloria de un accidente) distraen y evitan que Gloria aprenda más.
Filosóficamente hablando, "Robbie" nos enseña que al atribuirle una mente a otro ser, no estamos haciendo una afirmación sobre qué tipo de cosa es, sino revelando cuánto comprendemos profundamente cómo funciona. Por ejemplo, Gloria piensa que Robbie es inteligente, pero sus padres piensan que pueden reducir su comportamiento aparentemente inteligente a operaciones de máquina de nivel inferior. Para ver esto de manera más amplia, observe el caso contrario donde atribuimos cualidades mentales a nosotros mismos que no estamos dispuestos a atribuir a programas o robots. Estas cualidades, como la inteligencia, intuición, comprensión, creatividad y entendimiento, tienen en común esto: no sabemos qué son. A pesar de las afirmaciones extravagantes que a menudo se hacen por parte de los practicantes de la neurociencia y la psicología empírica, y por parte de los diversos científicos cognitivos, estos autocomplacimientos siguen sin definirse. Cualquier intento de caracterizar uno emplea el otro ("la verdadera inteligencia requiere visión e creatividad" o "el verdadero entendimiento requiere visión e intuición") e involucra, más bien, exige, extensos gestos explicativos.
Pero incluso si no estamos seguros de qué son exactamente estas cualidades o en qué se fundamentan, cualquiera sea la cualidad mental, está seguro de que los humanos la tienen y las máquinas como los robots no, incluso si las máquinas actúan como nosotros, produciendo los mismos productos que los humanos y, ocasionalmente, replicando hazañas humanas que supuestamente requieren inteligencia, ingenio o cualquier otra cosa. ¿Por qué? Porque, al igual que los padres de Gloria, sabemos (gracias a la información proporcionada por los creadores del sistema en los medios populares) que "todo lo que están haciendo es [búsqueda en tabla / completación de preguntas / búsqueda exhaustiva de espacios de solución]". Mientras tanto, los atributos mentales que aplicamos a nosotros mismos están tan vagamente definidos y nuestra ignorancia de nuestras operaciones mentales es tan profunda (en la actualidad) que no podemos decir "la intuición humana (comprensión o creatividad) es simplemente [llene los espacios con actividades físicas banales]".
Los debates actuales sobre la inteligencia artificial se desarrollan como lo hacen porque cada vez que nos encontramos con una "inteligencia artificial", cuyas operaciones (creemos) entendemos, es fácil responder rápidamente: "Todo lo que este agente artificial hace es X". Esta descripción reductiva desmitifica sus operaciones y, por lo tanto, estamos seguros de que no es inteligente (o creativo o perspicaz). En otras palabras, aquellos seres o cosas cuyas operaciones internas de nivel inferior entendemos y podemos señalar e iluminar, simplemente están operando según patrones conocidos de operaciones físicas banales. Aquellas entidades aparentemente inteligentes cuyas operaciones internas no entendemos son capaces de tener visión, comprensión y creatividad. (La semejanza con los humanos también ayuda; negamos más fácilmente la inteligencia a los animales que no se parecen a nosotros).
Pero, ¿qué pasaría si, al igual que Gloria, no tuviéramos ese conocimiento de lo que está haciendo algún sistema, ser, objeto o extraterrestre cuando produce sus respuestas aparentemente "inteligentes"? ¿Qué cualidades le atribuiríamos para entender lo que está haciendo? Este nivel de incomprensibilidad tal vez se acerque rápidamente. Observen las reacciones perplejas de algunos desarrolladores de ChatGPT ante su comportamiento supuestamente "emergente", donde nadie parece saber exactamente cómo ChatGPT produjo las respuestas que dio. Por supuesto, podríamos insistir en que "todo lo que está haciendo es (algún tipo de) completación de preguntas". Pero en realidad, también podríamos decir acerca de los humanos: "Solo están disparándose neuronas". Pero ni ChatGPT ni los humanos tendrían sentido para nosotros de esa manera.
La evidencia sugiere que si nos encontráramos con una entidad lo suficientemente complicada e interesante que pareciera inteligente, pero no sabemos cómo funciona y no podemos pronunciar nuestra línea despectiva habitual, "Todo lo que hace x es y", comenzaríamos a usar el lenguaje de la "psicología popular" para gobernar nuestras interacciones con ella, para entender por qué hace lo que hace y, lo más importante, para tratar de predecir su comportamiento. Por analogía histórica, cuando no sabíamos qué movía el océano y el sol, les otorgamos estados mentales. ("El mar enfadado cree que los acantilados son sus enemigos mortales." O "El sol quiere ponerse rápidamente.") Una vez que supimos cómo funcionaban, gracias a nuestro creciente conocimiento de las ciencias físicas, los degradamos a objetos puramente físicos. (¡Un cambio con consecuencias ambientales desastrosas!). De manera similar, una vez que perdemos nuestro entendimiento sobre los sistemas de inteligencia artificial, o crecemos con ellos sin saber cómo funcionan, también podríamos atribuirles mentes. Esto es una cuestión de decisión pragmática, no de descubrimiento. Porque esa podría ser la mejor manera de entender por qué y qué hacen.
