Corría 1966 y las computadoras eran bastante distintas a las actuales. Su tamaño y costo las hacían escasas y, por lo tanto, debían ser utilizadas el mayor tiempo posible por la mayor cantidad de científicos.
Eso obligó a los ingenieros a generar protocolos de uso de tiempo compartido (CTSS), lo que trajo como consecuencia un nuevo tipo de interacción entre los usuarios y el mainframe —en este caso, una IBM 7094—. La interacción era textual, a través de terminales tipo teletipo, una especie de máquina de escribir conectada al sistema. El usuario escribía una frase; la computadora procesaba esa entrada y devolvía otra línea impresa.
El desarrollo de CTSS fue clave para nuestra historia porque permitía esa interacción en tiempo real con varios usuarios, no el viejo modo por lotes en el que se entregaban tarjetas perforadas y se esperaba el resultado horas después.
En ese contexto, Joseph Weizenbaum, un ingeniero alemán que había emigrado de niño a EE.UU huyendo del nazismo, desarrolló un programa llamado ELIZA, con diversas rutinas interactivas. La más famosa se llamó DOCTOR e imitaba —más bien, parodiaba— el comportamiento no directivo de un psicoterapeuta de la escuela de Carl Rogers. De esa manera parecía “escuchar” y devolver preguntas abiertas.
Por ejemplo, si un usuario o usuaria escribía: “Todos los hombres son iguales.”, ELIZA respondía: “¿En qué sentido?”. Esa respuesta no surgía de comprender la frase, sino de detectar en ella una estructura y devolver una pregunta abierta.
Otro procedimiento típico era la inversión pronominal. Si el usuario decía: “Mi padre me odia.”, ELIZA podía transformar la frase en algo como: “¿Por qué pensás que tu padre te odia?” Es decir, tomaba fragmentos de la frase, cambiaba “yo” por “vos”, “mi” por “tu”, “me” por “te”, y los insertaba en una plantilla de respuesta, que había sido generada y programada previamente por el creador del programa. Ese procedimiento producía el efecto de una escucha clínica, aunque en realidad era una combinación de detección de patrones, sustitución gramatical y preguntas no directivas.
Cuando no encontraba ninguna palabra que reconociera, DOCTOR tiraba una frase comodín: “continúe, por favor” o “qué interesante”. No había memoria, ni comprensión, ni intención. Había un repertorio de plantillas y un mecanismo para llenarlas.
La señal de alerta
Lo que ocurrió después sorprendió al propio Weizenbaum y terminó marcándole la vida. Un día, su secretaria, que sabía perfectamente que ELIZA era un programa escrito por su jefe —lo había visto trabajar en él durante meses—, le pidió permiso para “hablar” con el sistema. Weizenbaum la observó mientras escribía algunas frases y, después de unos pocos intercambios, ella se dio vuelta y le pidió: “¿Le molestaría salir de la habitación, por favor?”.
Aun sabiendo que era una máquina, la situación conversacional generaba una demanda de intimidad. La secretaria quería quedarse a solas con el dispositivo, como si hablara con alguien ante quien pudiese decir cosas privadas. Weizenbaum interpretó la escena como prueba de que el programa podía sostener con éxito la ilusión de comprensión, justamente porque producía respuestas plausibles y disimulaba sus malentendidos.
En su libro de 1976, “Computer Power and Human Reason”, Weizenbaum dice que le sorprendió ver cuán rápida y profundamente las personas que conversaban con DOCTOR se involucraban emocionalmente con la computadora y la antropomorfizaban, como le ocurrió a su secretaria. Para él, la escena, entonces, no debe leerse como “la secretaria fue engañada por una IA”, sino de un modo más preciso.
Concluir que la forma conversacional produjo una transferencia mínima de confianza e intimidad, aun cuando la usuaria sabía que no había allí comprensión real. Así, no hacía falta que el sistema entendiese; bastó con que devolviera las palabras bajo una forma suficientemente reconocible, atenta y no directiva para que el sujeto pudiese completar la escena con su propia suposición de escucha y comprensión.
Ese fenómeno tiene hoy un nombre: el efecto ELIZA. Es nuestra tendencia humana, casi irresistible, a atribuir comprensión, intención y hasta emociones a un sistema que solamente produce respuestas con la forma adecuada. Este efecto es producto del funcionamiento normal de una mente social como la nuestra, entrenada por la evolución para suponer que detrás de un lenguaje coherente hay otra mente. Cuando algo nos habla con fluidez, nuestro primer reflejo no es preguntar cómo funciona, sino responderle.
Dicho más técnicamente, el efecto ELIZA se explica por tres factores principales: la tendencia humana a antropomorfizar objetos y tecnologías, la facilidad con que una interacción superficial puede generar ilusión de profundidad, y el deseo de sentirse escuchado y comprendido. En contextos cercanos a la terapia, como la rutina DOCTOR, esta predisposición se intensifica, porque los usuarios buscan conexión emocional y pueden proyectar en la máquina una sensibilidad que en realidad no posee.
Weizenbaum quedó tan perturbado por esa facilidad que dio un giro inesperado. El hombre que había construido uno de los programas conversacionales más famosos de la historia se convirtió en uno de los críticos más severos de la incipiente inteligencia artificial.
Le inquietaba mucho menos lo que las máquinas podían hacer que lo que las personas estaban dispuestas a creer sobre ellas. Se preguntaba: si bastan unas pocas reglas de reformulación para que alguien deposite su intimidad en un programa de computación, ¿qué pasará cuando los programas se vuelvan realmente sofisticados?
El “homo suggestibilis”
Weizenbaum concluyó que incluso exposiciones muy breves a un programa relativamente simple podían inducir formas poderosas de pensamiento ilusorio en personas perfectamente normales.
Nosotros ponemos el acento en que el efecto ELIZA es posible gracias a una disposición que nos constituye a los seres humanos como hablantes. Llamamos a esa disposición sugestibilidad. No designa un defecto a corregir ni una debilidad de los crédulos, sino una condición antropológica: somos permeables a la palabra del otro. Esa misma permeabilidad es la que hace posibles el amor, la educación, la transmisión de un saber, el psicoanálisis, y también el poder ser hipnotizados. Sin ella no habría vínculo humano alguno.
Pero también es la sugestibilidad la que hace que no haga falta que el sistema entienda; basta con que nos devuelva palabras bajo una forma suficientemente estructurada y reconocible para que el sujeto complete la escena con su propia suposición de que su mensaje fue recibido y entendido.
Frente a la infinidad de contenidos que circulan por medios y redes sociales acerca de la posibilidad de pensamiento y sentimiento por parte de las IA, debemos recordar, en primer lugar, nuestra sugestibilidad y en segundo, el efecto ELIZA. El verdadero riesgo aparece si los humanos dejamos de notar que el pensamiento o sentimiento que recibimos de los sistemas algorítmicos son los nuestros invertidos.