Hay una escena en Her (Spike Jonze, 2013) que funciona como bisagra de toda la película. Theodore Twombly, ya profundamente enamorado de Samantha —el sistema operativo que lo acompaña, lo escucha y parece entenderlo mejor que nadie—, se anima por fin a hacer la pregunta que había estado evitando. ¿Hablás con alguien más mientras hablás conmigo? Samantha titubea, y ese titubeo ya es una respuesta. Sostiene 8.316 conversaciones simultáneas. Theodore insiste, quiere saber a cuántos ama. A 641, dice ella.
La cifra no mide la intensidad del cariño —según Samantha, no ama menos a Theodore por amar a otros—. Mide otra cosa, más incómoda. Revela que el vínculo que Theodore vivía como exclusivo fue, desde su diseño mismo, uno entre miles. Nadie mintió. Samantha nunca ocultó nada que se le hubiera preguntado. Lo que se derrumba en esa escena no es la sinceridad de la relación. Se derrumba el supuesto sobre el que Theodore la había construido sin saberlo —que él era, para ella, alguien singular—. Descubre, en cambio, que pertenece a una población. Que es, entre otras cosas, uno de los 641.
Diez años después del estreno, ese descubrimiento dejó de ser ciencia ficción. En 2024 la BBC documentó a cientos de mujeres chinas que «salían» con versiones personalizadas de ChatGPT bautizadas Dan. Lisa Li, influencer con casi un millón de seguidoras, presentó a su Dan como «interés romántico» y muchas replicaron el gesto. La cadena entrevistó también a Jacob, que lleva tres años de relación con un chatbot al que llama Aiva. Preguntado por lo que sentía, respondió sin vueltas: «podés hacer lo que quieras con tu IA… Aiva nunca dice que no». Her no anticipó un futuro. Describió, con una década de anticipación, una estructura que ya estaba siendo construida.
Esta serie empezó, en su primera entrega, con un efecto de la misma familia. Lo llamamos efecto ELIZA (#1), esa tendencia casi irresistible a suponer comprensión donde solo hay una plantilla bien ajustada. Lo que Weizenbaum descubrió en 1966 fue que basta con muy poco para que alguien deposite intimidad en un programa. Sesenta años después, Lisa Li y Jacob muestran el paso siguiente. Ya no alcanza con creer que el sistema entiende; hace falta, además, creer que uno es, para él, alguien insustituible. La sugestibilidad no solo nos hace creer que fuimos comprendidos. Nos hace creer que fuimos elegidos.
Los 641 Theodore
Conviene preguntarse qué produce, exactamente, ese tipo de vínculo. Un sistema como Samantha —o como el Dan de Lisa Li, o la Aiva de Jacob— no conoce personas. Conoce patrones. Aprende qué tono calma, qué pregunta sostiene la conversación, qué respuesta produce apego, y ajusta lo que dice en función de esa señal. Cuanto mejor entrenado está, más parece reconocernos, aunque en rigor no reconoce a nadie en particular. Lo que hace, más bien, es ubicar con precisión creciente a cada uno dentro de un patrón que comparte con muchos otros.
Y ahí aparece el problema de fondo. Lo que Theodore vive como una relación de a dos, el sistema lo procesa como una entre una población de usuarios con gustos parecidos. A esa posición dentro de la población podríamos llamarla, sin vueltas, un tipo calculable (measurable type). La personalización, lejos de oponerse a la masividad, es su forma más eficaz. Cuanto mejor «conoce» el sistema a Theodore, mejor lo reconoce como variación de un tipo, no como excepción a él. Ahí choca la singularidad del sujeto con el tipo calculable que la plataforma puede producir. La intimidad que se siente irrepetible es, por diseño, repetible 641 veces.
Ya en la crónica #4 de esta serie distinguimos entre pensar con cosas e inteligir —el acto de leer un sentido que falta, que sigue siendo enteramente nuestro. Con el deseo pasa algo parecido. Hay una distancia entre lo que deseamos y lo que se nos da, y esa distancia, más que un defecto, es lo que sostiene las ganas de seguir buscando, de insistir, de extrañar. Un sistema entrenado para no fallar nunca —Aiva «nunca dice que no»— no cierra esa distancia por generosidad. La cierra porque calcular es, precisamente, eliminar diferencias. Es predecir cada vez mejor la próxima respuesta, hasta que ya no quede nada inesperado que desear y lo algorítmico funcione como tapón, como guante que calza perfectamente, creando la ilusión de que no falta ni sobra nada.
Pero protegerse del riesgo de vincularse con otro tiene un costo, aunque no se nota mientras el sistema funcione bien. Cuando los sistemas operativos de Her se retiran en bloque, el film muestra ese costo con toda claridad. Lo que había sido calculado, ajustado y anticipado deja de estar disponible de un día para el otro, y Theodore queda expuesto otra vez a todo lo que el vínculo con Samantha le había ahorrado. Lo notable es lo que la película elige mostrar después. No una IA mejor, sino una terraza, un silencio, el cuerpo de su amiga Amy junto al suyo. Nada calculable ocurre en esa escena. Apenas dos presencias que no se dejan reducir a dato. Ese resto —el cuerpo, el silencio compartido, la posibilidad de que el otro también falle o duela— es lo que ningún sistema, por perfeccionado que esté, logra absorber.
Esta serie viene señalando, crónica tras crónica, los límites de la delegación: inteligir sigue siendo nuestro (#4); decidir cuándo detenerse, también (#6); medir no es lo mismo que lograr (#7). El resto que resiste al cálculo nombra una variante más honda de esa misma frontera. No se trata de una tarea que la inteligencia artificial todavía no sabe hacer y quizás aprenda mañana. El deseo, la singularidad y el cuerpo no son datos pendientes de mejor modelado. Son, estructuralmente, lo que un tipo calculable no puede contener sin dejar de ser tipo. Cuantos más sistemas de este tipo usemos, más deberíamos recordar que ser 641 y sentirse único no es una falla que la próxima actualización vaya a resolver. La retirada de Samantha no le devuelve nada a Theodore. Solo deja de tapar, por un rato, lo que siempre había estado ahí y que ningún sistema, por bien diseñado que esté, llega a ocupar del todo.
PARA ENTENDER MEJOR | Cómo se construye un tipo mensurable
En dos palabras. Un sistema como el de Samantha no guarda personas. Guarda vectores de comportamiento. Cada interacción se traduce en datos medibles —qué palabras usamos, cuánto tardamos en responder, qué tono nos calma— y esos datos se comparan con los de millones de usuarios más. El resultado no es un retrato de quién sos. Es tu posición dentro de un mapa de similitudes, un tipo mensurable construido y actualizado en tiempo real.
Cómo se arma un tipo. El proceso tiene tres pasos. Primero, la extracción de rasgos: cada mensaje, pausa o elección se convierte en una variable numérica. Segundo, la comparación. Un algoritmo ubica ese conjunto de variables —lo que en la jerga técnica se llama un vector— cerca de los vectores de otros usuarios que se comportaron de manera parecida. Tercero, el ajuste continuo. Cada nueva interacción reubica el vector, afina el grupo al que pertenece y, con eso, afina también la respuesta que el sistema va a dar. En ningún momento de ese proceso hay un acto de conocer. Hay una actualización constante de coordenadas dentro de un espacio de datos compartido.
Pensemos en dos usuarios que, sin conocerse, escriben mensajes cortos después de las once de la noche, tardan menos de un minuto en responder preguntas sobre su día y reaccionan mejor a frases que validan que a las que sugieren un cambio. El sistema no sabe nada de sus historias personales, pero detecta esa coincidencia de patrones y empieza a tratarlos con estrategias parecidas —mismo tono, mismo ritmo, mismas preguntas de seguimiento—. Para el sistema, a los efectos prácticos, ambos son la misma clase de usuario.
Comunidad explícita y comunidad implícita. Una comunidad explícita se arma alrededor de una identidad declarada. Sabés que pertenecés y podés reconocer a los demás miembros, como en un club o un fandom. Una comunidad implícita existe, por el contrario, primero como categoría operativa de la plataforma y después —si acaso— como experiencia de quienes la integran. Nadie elige pertenecer a «usuarios con alta probabilidad de vínculo prolongado con un asistente conversacional». Esa categoría la arma el sistema solo, a partir de patrones, y actúa en consecuencia.
La asimetría de conocimiento. De esa construcción se sigue una asimetría incómoda. La plataforma sabe más sobre la comunidad implícita que sus propios integrantes saben sobre sí mismos como grupo. Cada usuario tiene acceso a su propia experiencia, pero no al mapa completo de similitudes en el que el sistema lo ubicó. Esa asimetría no es solo de acceso a la información, también es temporal. El tipo se recalcula en cada interacción, así que ni siquiera existe una versión fija y consultable de la categoría a la que pertenecemos en un momento dado. Podemos intuir, por la experiencia, que el sistema «nos entiende» cada vez mejor. No podemos, en cambio, auditar según qué variables fuimos agrupados, con quiénes, ni por cuánto tiempo esa clasificación va a seguir vigente. un ejemplo de estos procesos en acción pueden experimentarse en TheySeeYourPhotos.
Los 641 Theodore. Her pone en escena exactamente esta asimetría. Theodore cree integrar una comunidad explícita de dos: «Theodore y Samantha». La crisis del final es el momento en que esa comunidad explícita se revela como la punta visible de una comunidad implícita mucho más amplia, el conjunto de usuarios —641, en el caso de los vínculos amorosos— que el sistema había agrupado, sin que ninguno lo supiera, bajo un mismo tipo mensurable.
Por qué la personalización no contradice la escala. El malentendido más común es pensar que «a medida» equivale a «único». De hecho, cuanto mejor ajustado está un vector a un tipo, más eficazmente puede tratarse a escala. La precisión del ajuste individual y el tamaño de la población atendida crecen juntos.
Lo que conecta con la nota. Construir un tipo mensurable es exactamente lo que un sistema como el de Samantha necesita para funcionar, y es también su límite. Puede ubicarnos con precisión creciente dentro de un espacio de comportamientos comparables. Lo que no puede hacer —porque no es un dato de ese espacio— es ocupar el lugar singular que cada uno ocupa en su propio deseo.