Categoría: Novedades

Hace poco redactamos, para una tesis doctoral, una declaración formal sobre el uso de herramientas de inteligencia artificial. Decía, entre otras cosas, que empleamos sistemas como ChatGPT, NotebookLM y Claude «exclusivamente como apoyo en tareas de exploración temática, recopilación preliminar, organización y síntesis inicial de información», y que la selección de fuentes, la interpretación de los materiales, la construcción del argumento y la redacción final seguían siendo, en cambio, «de nuestra exclusiva responsabilidad».

Es un texto burocrático, escrito para un comité, no para publicarse. Podría haber sido, sin embargo, palabra por palabra, el colofón de esta serie.

Escribimos esta serie, de punta a punta, pensando con las mismas cosas que describe. Redactar sobre el prompt usando prompts, sobre los agentes delegando tareas, sobre el resto que resiste al cálculo con la ayuda de un sistema que calcula, no invalida el argumento que fuimos sosteniendo semana a semana.

Lo confirma en carne propia, con la misma distinción que tuvimos que poner por escrito en aquella declaración: una cosa es la exploración, la síntesis, el primer orden que un sistema puede darle a un material disperso, y otra muy distinta es decidir qué de todo eso vale, qué se descarta y qué se sostiene.

Lo que no se automatizó en ese proceso —qué preguntar, qué cortar, cuándo una idea todavía no estaba lista, qué de lo escrito nos convencía y qué no— fue, entrega tras entrega, un ejercicio nuestro y no del sistema.

Eso no lo proponemos acá como conclusión teórica. Lo vivimos, mientras la escribíamos.

Quedan más preguntas de las que cerramos, y eso también es parte de pensar con cosas: ninguna tecnología intelectual, por antigua o por nueva que sea, termina de agotar lo que hay para pensar con ella.

Esta fue una primera vuelta. Seguramente haya otras.

(Cuando escribimos estas líneas sabíamos que, más temprano que tarde, comenzaríamos otra serie. Pueden encontrarla en sergiofromerochamorro.substack.com)

Hay una imagen extraña en el primer capítulo de El Capital. Marx describe una mesa de madera, un objeto tan común que nadie se detendría a mirarlo. Pero apenas esa mesa entra al mercado con un precio, deja de ser solo madera trabajada por alguien. Se transforma, escribe Marx, en algo que se pone de cabeza y saca de su testa de madera ideas más extrañas que si se hubiera puesto a bailar por voluntad propia.

Lo que Marx quiere mostrar con esa imagen casi cómica es serio. Detrás de esa mesa hay horas de trabajo, decisiones, una historia de manos y herramientas. En el mercado nada de eso se ve. Lo que aparece es un objeto con un valor que parece salirle de adentro, como si el precio fuera una propiedad de la madera y no el resultado de una relación entre personas que ya no figura en ningún lado. Marx llamó a esa mutación «fetichismo de la mercancía».

La idea no se quedó en el siglo diecinueve. Décadas después se extendió más allá del mercado. Cada vez que tratamos una relación viva —entre personas, o entre una persona y un sistema— como si fuera una propiedad fija y medible de una cosa, ocurre algo parecido a lo que Marx vio en la mesa. A esa operación la podemos llamar cosificar (o reificar, partiendo de su raíz latina), sin necesidad de más nombres: tratar como cosa lo que en realidad es un vínculo.

No hace falta un mercado para que esto ocurra. Alcanza con cualquier sistema que necesite volver comparables cosas que, en la experiencia de quien las vive, no lo son. Esta serie ya se topó con una versión actual de esa operación. En la crónica anterior, #9, describimos cómo un sistema como el de Her no conoce personas, sino tipos mensurables. Vectores de comportamiento comparados con los de millones de usuarios. Ese tipo no es una descripción neutral de alguien. Es el vínculo entre Theodore y Samantha, cosificado, hecho dato, hecho posición dentro de un mapa. La mesa se pone de cabeza otra vez, ahora con datos en lugar de madera.

La autonomía no es optimizar mejor

Frente a esto surge una pregunta que esta serie viene rodeando desde hace varias entregas. Si la máquina va a participar de nuestra vida cotidiana, ¿qué ética hace falta para que esa convivencia no sea, simplemente, cosificación mutua bien calibrada?

Una respuesta tentadora es escribirle reglas cada vez mejores, un objetivo más preciso, una recompensa mejor diseñada, restricciones más completas. Ya vimos, en #7, por qué esa respuesta no alcanza. Un sistema entrenado para maximizar una medida, por más cuidadosa que sea, tarde o temprano encuentra el atajo que la satisface sin cumplir el propósito que la medida quería representar. Y en #6 señalamos algo más de fondo. Un sistema que ejecuta perfectamente la regla que le dieron sigue sin poder preguntarse si esa regla vale la pena. Puede cumplirla cada vez con más precisión sin que eso lo acerque un centímetro a evaluarla. Cumplir mejor no es lo mismo que ser autónomo. La autonomía normativa no es una función que se optimiza. Es la capacidad de poner la norma misma en cuestión.

Un texto que hay que cumplir

El intento más serio que existe hoy para ir más allá de la recompensa ciega tiene nombre propio. Anthropic entrena a sus modelos, entre otros métodos, contra un texto explícito de principios —una «constitución«— que el propio sistema usa para criticar y revisar sus respuestas antes de darlas por buenas, en lugar de depender únicamente de un modelo de recompensa entrenado con preferencias humanas. La idea es real y es un avance. En vez de aprender solamente qué palabras le dan mejor puntaje, el modelo aprende a evaluar sus propias respuestas contra algo escrito, argumentado, público. Ese texto combina, entre otras cosas, principios de derechos humanos, normas propias de la compañía y heurísticas pensadas para reducir daños concretos.

Pero nos conviene mirar con cuidado qué es, técnicamente, ese avance. Un modelo entrenado contra una constitución sigue siendo un modelo entrenado para maximizar el cumplimiento de un texto. La constitución puede ser más legible, más discutible y más corregible que una recompensa numérica ciega, pero sigue siendo una especificación que el sistema optimiza cumplir, no un criterio que pueda poner en duda por sí mismo. Es, dicho de otro modo, la mejor heteronomía que sabemos escribir por ahora.

Lo que la máquina nos devuelve

Nada de esto es un reproche a ese esfuerzo. Quizá esa sea, por ahora, la mejor respuesta disponible. No porque hayamos resuelto el problema de la autonomía normativa en las máquinas, sino porque tampoco hemos conseguido resolverlo en nosotros mismos. La diferencia es que, en el caso humano, esa incertidumbre convive con la experiencia del conflicto, la responsabilidad y el juicio. En el caso de la inteligencia artificial, convive únicamente con la eficacia de un comportamiento que puede parecer normativo sin que sepamos si alguna vez llega a serlo. 

 Y ahí aparece algo que atraviesa toda esta serie sin que lo hayamos dicho así hasta ahora. Construir sistemas que piensan según el mismo molde con el que llevamos décadas pensando la cognición —entrada, procesamiento, salida; regla, recompensa, optimización— terminó mostrándonos, con una claridad incómoda, los límites de ese molde para explicarnos a nosotros mismos. El efecto ELIZA con el que abrimos esta serie (#1), el acto de inteligir que ninguna cosa hace en nuestro lugar (#4), el resto que ningún cálculo absorbe (#9) —son, todos, el mismo hallazgo insistiendo desde ángulos distintos. La máquina no nos reemplaza. Nos devuelve, como un espejo incómodo, la pregunta de qué es lo que en nosotros nunca cupo del todo en él.

No es la primera vez que una tecnología intelectual nos exige este ejercicio. Cada una de las que fuimos repasando en este recorrido —la escritura, el número, el mapa, la computadora— nos obligó, a su turno, a aprender qué delegarle y qué seguir haciendo nosotros mismos. Lo distinto ahora es la velocidad con que ese aprendizaje tiene que darse, y que el propio sistema, a diferencia del papel o el ábaco, puede simular estar de nuestro lado.

Convivir con las tecnologías intelectuales, entonces, no es un problema que resolvamos diseñando el sistema correcto una sola vez, ni escribiéndole a la máquina el texto perfecto. Es un ejercicio que hay que sostener de los dos lados. Nosotros, resistiendo la comodidad de dejarnos cosificar por un tipo bien ajustado; el sistema, hasta donde pueda, sometido a una revisión que ninguna constitución agota. Esta serie fue, de punta a punta, un intento de realizarlo. Pensar con las cosas sobre cómo pensar con ellas, sin dejar que el pensar mismo quedara, en el camino, reducido a una de ellas.

PARA ENTENDER MEJOR | Qué es cosificar (reificar)

En dos palabras. Fetichismo de la mercancía es el nombre que Marx dio a una ilusión producida por la propia organización social. Aquella que hace aparecer las relaciones entre personas como si fueran relaciones naturales entre cosas.

Cuando algo se convierte en mercancía, su valor parece brotar del objeto mismo, y el trabajo humano que lo hizo posible desaparece de la vista. Cosificar, en sentido amplio, es esa misma operación aplicada a cualquier relación viva. Tratarla como si fuera una propiedad fija de una cosa.

Por qué el trabajo desaparece. El mecanismo tiene una lógica precisa. Para poder comprar una mesa con el dinero de, por ejemplo, un abrigo, el mercado necesita reducir ambos objetos a algo común y comparable, el precio. Esa reducción es la que borra todo lo demás. El tiempo, la destreza y las decisiones que hicieron falta para producir la mesa no entran en la comparación, así que dejamos de verlos. Lo que queda visible es solo la relación entre dos precios, no la relación entre las personas que trabajaron.

De la mercancía a la persona. El concepto no se quedó en la economía. Décadas después se extendió a cualquier situación en la que una relación humana —o una relación entre una persona y una institución— empieza a tratarse con la misma lógica, como una propiedad medible, comparable, intercambiable, en lugar de un vínculo vivo entre partes que se afectan mutuamente.

Cosificarnos a nosotros mismos. El movimiento no siempre viene de afuera. Contar los pasos que caminamos, puntuar la calidad de nuestro sueño, revisar cuántas veces por semana hablamos con determinada persona. Cada una de esas prácticas, tomada aisladamente, es inofensiva. Pero nos acostumbran a mirar nuestra propia vida como un conjunto de métricas que podemos mejorar, en lugar de una experiencia que vivimos. Cosificarnos un poco cada día es más difícil de notar que ser cosificados por otro.

Por qué no es solo una metáfora. El riesgo de cosificar no es únicamente que resulte deshumanizante en abstracto. Es que cambia lo que se puede hacer con lo cosificado. Una mercancía se compra, se vende, se compara por precio. Una relación cosificada se mide, se clasifica, se optimiza. La forma que toma la cosa habilita ciertas operaciones y clausura otras.

No toda medida es cosificación. Medir no es, por sí mismo, el problema: una radiografía mide un hueso y no por eso lo cosifica. La cosificación aparece cuando la medida reemplaza a la relación en lugar de servirla, cuando el mapa deja de remitir al territorio y empieza a funcionar como si fuera el territorio mismo. La pregunta útil no es si algo se puede medir, sino si, una vez medido, seguimos recordando que la medida es parcial.

El tipo mensurable de la crónica anterior. En #9 mostramos que un sistema conversacional no trata con personas, sino con una posición estadística dentro de una población de usuarios comparables entre sí. Esa posición es una cosificación contemporánea, el vínculo entre Theodore y Samantha, convertido en dato, comparable y escalable como cualquier mercancía.

Lo que conecta con la nota. Una ética para convivir con estos sistemas tiene que poder nombrar cuándo una relación se está cosificando, de los dos lados, porque también nosotros podemos tratar al sistema —o tratarnos a nosotros mismos frente a él— como una cosa optimizable. Resistir esa reducción, no encontrar la constitución perfecta, es el verdadero trabajo de la convivencia.

Hay una escena en Her (Spike Jonze, 2013) que funciona como bisagra de toda la película. Theodore Twombly, ya profundamente enamorado de Samantha —el sistema operativo que lo acompaña, lo escucha y parece entenderlo mejor que nadie—, se anima por fin a hacer la pregunta que había estado evitando. ¿Hablás con alguien más mientras hablás conmigo? Samantha titubea, y ese titubeo ya es una respuesta. Sostiene 8.316 conversaciones simultáneas. Theodore insiste, quiere saber a cuántos ama. A 641, dice ella.

La cifra no mide la intensidad del cariño —según Samantha, no ama menos a Theodore por amar a otros—. Mide otra cosa, más incómoda. Revela que el vínculo que Theodore vivía como exclusivo fue, desde su diseño mismo, uno entre miles. Nadie mintió. Samantha nunca ocultó nada que se le hubiera preguntado. Lo que se derrumba en esa escena no es la sinceridad de la relación. Se derrumba el supuesto sobre el que Theodore la había construido sin saberlo —que él era, para ella, alguien singular—. Descubre, en cambio, que pertenece a una población. Que es, entre otras cosas, uno de los 641.

Diez años después del estreno, ese descubrimiento dejó de ser ciencia ficción. En 2024 la BBC documentó a cientos de mujeres chinas que «salían» con versiones personalizadas de ChatGPT bautizadas Dan. Lisa Li, influencer con casi un millón de seguidoras, presentó a su Dan como «interés romántico» y muchas replicaron el gesto. La cadena entrevistó también a Jacob, que lleva tres años de relación con un chatbot al que llama Aiva. Preguntado por lo que sentía, respondió sin vueltas: «podés hacer lo que quieras con tu IA… Aiva nunca dice que no». Her no anticipó un futuro. Describió, con una década de anticipación, una estructura que ya estaba siendo construida.

Esta serie empezó, en su primera entrega, con un efecto de la misma familia. Lo llamamos efecto ELIZA (#1), esa tendencia casi irresistible a suponer comprensión donde solo hay una plantilla bien ajustada. Lo que Weizenbaum descubrió en 1966 fue que basta con muy poco para que alguien deposite intimidad en un programa. Sesenta años después, Lisa Li y Jacob muestran el paso siguiente. Ya no alcanza con creer que el sistema entiende; hace falta, además, creer que uno es, para él, alguien insustituible. La sugestibilidad no solo nos hace creer que fuimos comprendidos. Nos hace creer que fuimos elegidos.

Los 641 Theodore

Conviene preguntarse qué produce, exactamente, ese tipo de vínculo. Un sistema como Samantha —o como el Dan de Lisa Li, o la Aiva de Jacob— no conoce personas. Conoce patrones. Aprende qué tono calma, qué pregunta sostiene la conversación, qué respuesta produce apego, y ajusta lo que dice en función de esa señal. Cuanto mejor entrenado está, más parece reconocernos, aunque en rigor no reconoce a nadie en particular. Lo que hace, más bien, es ubicar con precisión creciente a cada uno dentro de un patrón que comparte con muchos otros.

Y ahí aparece el problema de fondo. Lo que Theodore vive como una relación de a dos, el sistema lo procesa como una entre una población de usuarios con gustos parecidos. A esa posición dentro de la población podríamos llamarla, sin vueltas, un tipo calculable (measurable type). La personalización, lejos de oponerse a la masividad, es su forma más eficaz. Cuanto mejor «conoce» el sistema a Theodore, mejor lo reconoce como variación de un tipo, no como excepción a él. Ahí choca la singularidad del sujeto con el tipo calculable que la plataforma puede producir. La intimidad que se siente irrepetible es, por diseño, repetible 641 veces.

Ya en la crónica #4 de esta serie distinguimos entre pensar con cosas e inteligir —el acto de leer un sentido que falta, que sigue siendo enteramente nuestro. Con el deseo pasa algo parecido. Hay una distancia entre lo que deseamos y lo que se nos da, y esa distancia, más que un defecto, es lo que sostiene las ganas de seguir buscando, de insistir, de extrañar. Un sistema entrenado para no fallar nunca —Aiva «nunca dice que no»— no cierra esa distancia por generosidad. La cierra porque calcular es, precisamente, eliminar diferencias. Es predecir cada vez mejor la próxima respuesta, hasta que ya no quede nada inesperado que desear y lo algorítmico funcione como tapón, como guante que calza perfectamente, creando la ilusión de que no falta ni sobra nada.

Pero protegerse del riesgo de vincularse con otro tiene un costo, aunque no se nota mientras el sistema funcione bien. Cuando los sistemas operativos de Her se retiran en bloque, el film muestra ese costo con toda claridad. Lo que había sido calculado, ajustado y anticipado deja de estar disponible de un día para el otro, y Theodore queda expuesto otra vez a todo lo que el vínculo con Samantha le había ahorrado. Lo notable es lo que la película elige mostrar después. No una IA mejor, sino una terraza, un silencio, el cuerpo de su amiga Amy junto al suyo. Nada calculable ocurre en esa escena. Apenas dos presencias que no se dejan reducir a dato. Ese resto —el cuerpo, el silencio compartido, la posibilidad de que el otro también falle o duela— es lo que ningún sistema, por perfeccionado que esté, logra absorber.

Esta serie viene señalando, crónica tras crónica, los límites de la delegación: inteligir sigue siendo nuestro (#4); decidir cuándo detenerse, también (#6); medir no es lo mismo que lograr (#7). El resto que resiste al cálculo nombra una variante más honda de esa misma frontera. No se trata de una tarea que la inteligencia artificial todavía no sabe hacer y quizás aprenda mañana. El deseo, la singularidad y el cuerpo no son datos pendientes de mejor modelado. Son, estructuralmente, lo que un tipo calculable no puede contener sin dejar de ser tipo. Cuantos más sistemas de este tipo usemos, más deberíamos recordar que ser 641 y sentirse único no es una falla que la próxima actualización vaya a resolver. La retirada de Samantha no le devuelve nada a Theodore. Solo deja de tapar, por un rato, lo que siempre había estado ahí y que ningún sistema, por bien diseñado que esté, llega a ocupar del todo.

PARA ENTENDER MEJOR | Cómo se construye un tipo mensurable

En dos palabras. Un sistema como el de Samantha no guarda personas. Guarda vectores de comportamiento. Cada interacción se traduce en datos medibles —qué palabras usamos, cuánto tardamos en responder, qué tono nos calma— y esos datos se comparan con los de millones de usuarios más. El resultado no es un retrato de quién sos. Es tu posición dentro de un mapa de similitudes, un tipo mensurable construido y actualizado en tiempo real.

Cómo se arma un tipo. El proceso tiene tres pasos. Primero, la extracción de rasgos: cada mensaje, pausa o elección se convierte en una variable numérica. Segundo, la comparación. Un algoritmo ubica ese conjunto de variables —lo que en la jerga técnica se llama un vector— cerca de los vectores de otros usuarios que se comportaron de manera parecida. Tercero, el ajuste continuo. Cada nueva interacción reubica el vector, afina el grupo al que pertenece y, con eso, afina también la respuesta que el sistema va a dar. En ningún momento de ese proceso hay un acto de conocer. Hay una actualización constante de coordenadas dentro de un espacio de datos compartido.

Pensemos en dos usuarios que, sin conocerse, escriben mensajes cortos después de las once de la noche, tardan menos de un minuto en responder preguntas sobre su día y reaccionan mejor a frases que validan que a las que sugieren un cambio. El sistema no sabe nada de sus historias personales, pero detecta esa coincidencia de patrones y empieza a tratarlos con estrategias parecidas —mismo tono, mismo ritmo, mismas preguntas de seguimiento—. Para el sistema, a los efectos prácticos, ambos son la misma clase de usuario.

Comunidad explícita y comunidad implícita. Una comunidad explícita se arma alrededor de una identidad declarada. Sabés que pertenecés y podés reconocer a los demás miembros, como en un club o un fandom. Una comunidad implícita existe, por el contrario, primero como categoría operativa de la plataforma y después —si acaso— como experiencia de quienes la integran. Nadie elige pertenecer a «usuarios con alta probabilidad de vínculo prolongado con un asistente conversacional». Esa categoría la arma el sistema solo, a partir de patrones, y actúa en consecuencia.

La asimetría de conocimiento. De esa construcción se sigue una asimetría incómoda. La plataforma sabe más sobre la comunidad implícita que sus propios integrantes saben sobre sí mismos como grupo. Cada usuario tiene acceso a su propia experiencia, pero no al mapa completo de similitudes en el que el sistema lo ubicó. Esa asimetría no es solo de acceso a la información, también es temporal. El tipo se recalcula en cada interacción, así que ni siquiera existe una versión fija y consultable de la categoría a la que pertenecemos en un momento dado. Podemos intuir, por la experiencia, que el sistema «nos entiende» cada vez mejor. No podemos, en cambio, auditar según qué variables fuimos agrupados, con quiénes, ni por cuánto tiempo esa clasificación va a seguir vigente. un ejemplo de estos procesos en acción pueden experimentarse en TheySeeYourPhotos.

Los 641 Theodore. Her pone en escena exactamente esta asimetría. Theodore cree integrar una comunidad explícita de dos: «Theodore y Samantha». La crisis del final es el momento en que esa comunidad explícita se revela como la punta visible de una comunidad implícita mucho más amplia, el conjunto de usuarios —641, en el caso de los vínculos amorosos— que el sistema había agrupado, sin que ninguno lo supiera, bajo un mismo tipo mensurable.

Por qué la personalización no contradice la escala. El malentendido más común es pensar que «a medida» equivale a «único». De hecho, cuanto mejor ajustado está un vector a un tipo, más eficazmente puede tratarse a escala. La precisión del ajuste individual y el tamaño de la población atendida crecen juntos.

Lo que conecta con la nota. Construir un tipo mensurable es exactamente lo que un sistema como el de Samantha necesita para funcionar, y es también su límite. Puede ubicarnos con precisión creciente dentro de un espacio de comportamientos comparables. Lo que no puede hacer —porque no es un dato de ese espacio— es ocupar el lugar singular que cada uno ocupa en su propio deseo.

El neurocientífico y psicoanalista Miguel Benasayag suele recurrir a un episodio ya clásico de la neurociencia contemporánea para pensar nuestra relación con las tecnologías: las investigaciones que Eleanor Maguire dedicó al hipocampo de los taxistas de Londres.

Para obtener su licencia, los aspirantes deben aprobar The Knowledge, una prueba que exige conocer decenas de miles de calles, puntos de interés y recorridos posibles. La preparación puede extenderse durante varios años e implica estudiar mapas, recorrer físicamente la ciudad y construir una representación mental flexible de su trama.

En 2000, Maguire y su equipo compararon mediante resonancia magnética los cerebros de dieciséis taxistas londinenses con los de un grupo de control. Encontraron que el hipocampo posterior —una región vinculada con la memoria espacial— presentaba en los taxistas un volumen de materia gris significativamente mayor. Esa diferencia, además, se relacionaba con la cantidad de años que cada conductor llevaba ejerciendo el oficio. Investigaciones posteriores reforzaron la hipótesis.

No deberíamos concluir que el cerebro funciona exactamente como un músculo que crece con cada ejercicio. La neuroplasticidad es más compleja: fortalece algunas redes, reorganiza otras y depende de la intensidad, la duración y la naturaleza de la tarea. Los estudios de Maguire mostraron, sin embargo, algo fundamental. Una capacidad ejercitada de manera sostenida puede dejar una huella material en el cerebro adulto.

Entonces, la pregunta por el movimiento inverso aparece de inmediato: ¿qué ocurre cuando esa misma función deja de ejercitarse porque una herramienta la realiza por nosotros?

Como venimos señalando en esta serie, pensar nunca fue una actividad encerrada por completo dentro de la cabeza. Las herramientas amplían nuestras posibilidades, pero también modifican las operaciones que realizamos. La cuestión no es, por lo tanto, si debemos delegar o dejar de hacerlo, sino qué funciones entregamos a los dispositivos, cuáles continuamos ejercitando y qué permanece en nosotros cuando la asistencia desaparece.

Platón formuló tempranamente esta ambivalencia en el Fedro. Cuando el dios Theuth presenta la escritura como un remedio para la memoria, el rey Thamus responde que también producirá olvido, porque las personas confiarán en signos externos y dejarán de ejercitar por sí mismas el recuerdo. La escritura permitió conservar y transmitir conocimientos que ninguna memoria individual habría podido retener, pero volvió menos necesarias ciertas prácticas de memorización. La ganancia fue extraordinaria, aunque no gratuita.

Con la inteligencia artificial, esa tensión adquiere una escala diferente. Ya no se externaliza solamente el recuerdo. Un agente conversacional puede redactar, resumir, traducir, comparar, programar, proponer argumentos y revisar sus propios resultados. Puede intervenir, en suma, en buena parte de las operaciones que asociamos con el trabajo intelectual.

Para comprender qué está en juego, resulta útil recuperar una distinción propuesta en 2016 por David Krakauer, científico de la complejidad y presidente del Santa Fe Institute. Krakauer denomina «artefactos cognitivos» a las herramientas, técnicas o sistemas capaces de ampliar, reorganizar o sustituir alguna operación del pensamiento, y los divide en complementarios y competitivos.

Los primeros no solo permiten resolver una tarea, sino que transforman a quien aprende a utilizarlos. Su ejemplo es el ábaco. Los usuarios expertos pueden interiorizar una representación visoespacial del instrumento —el llamado «ábaco mental»— y realizar cálculos aun cuando el objeto ya no está presente. La herramienta desaparece, pero deja tras de sí una capacidad.

Los artefactos competitivos, en cambio, ejecutan la operación sin necesidad de que el usuario la incorpore. La calculadora y el GPS resuelven la tarea con eficacia, pero no garantizan que la competencia permanezca disponible cuando faltan. El resultado pertenece al conjunto formado por la persona y el dispositivo, no necesariamente a la persona considerada por separado.

La diferencia, sin embargo, no reside de manera absoluta en el objeto. Una calculadora puede ayudar a comprobar un procedimiento previamente comprendido, del mismo modo que un GPS puede utilizarse para comparar rutas. La relación depende del modo de uso y, sobre todo, de las operaciones que el usuario conserva dentro del proceso.

La pregunta es, entonces, qué tipo de artefacto constituye un agente de inteligencia artificial. Puede funcionar como complemento cuando ayuda a detectar errores, comparar planteos o explorar alternativas. También puede ser competitivo si entrega una solución que el usuario no aprende a producir.

En 2025, un equipo vinculado con el MIT Media Lab difundió una prepublicación sobre el uso de modelos de lenguaje durante la escritura de ensayos. Los participantes trabajaron bajo tres condiciones: sin asistencia digital, con un buscador convencional o con acceso a ChatGPT. Los registros electroencefalográficos mostraron diferencias entre los grupos. Quienes escribieron sin herramientas presentaron patrones de conectividad funcional más extensos; quienes recurrieron al buscador ocuparon una posición intermedia, y quienes utilizaron el modelo exhibieron una conectividad menor en las bandas analizadas. También manifestaron mayores dificultades para citar pasajes de los textos que acababan de entregar y un menor sentimiento de autoría.

Los autores denominaron «deuda cognitiva» al posible costo diferido de haber delegado un esfuerzo que, en otras condiciones, habría requerido atención, elaboración y memoria. Y, si bien, el estudio presenta limitaciones importantes como una muestra reducida, y no demuestra que ChatGPT produzca daño cerebral, sí señala, sin embargo, una diferencia que no deberíamos ignorar. La calidad del producto obtenido y la actividad cognitiva necesaria para generarlo pueden seguir trayectorias distintas.

Una investigación de mayor escala llegó a una conclusión compatible. En The Generative AI Learning Penalty, publicado en 2026, se analizaron treinta meses de datos correspondientes a 26.811 estudiantes chinos de nivel secundario. Después de adoptar herramientas generativas, las calificaciones de las tareas aumentaron alrededor de un 18% y el tiempo necesario para completarlas se redujo un 30%. Sin embargo, el rendimiento en exámenes presenciales y sin asistencia descendió aproximadamente un 20% durante los seis meses siguientes.

La herramienta mejoró el desempeño visible, pero esa ventaja no se convirtió necesariamente en una capacidad disponible cuando la asistencia fue retirada. El problema no residía en utilizar inteligencia artificial, sino en delegar en ella la operación principal del aprendizaje.

El ámbito profesional ofrece un indicio semejante. En 2025, un estudio publicado en The Lancet Gastroenterology & Hepatology analizó el trabajo de endoscopistas polacos habituados a utilizar sistemas de inteligencia artificial para detectar pólipos. Al comparar procedimientos realizados sin asistencia antes y después de la incorporación habitual del sistema, la tasa de detección de adenomas descendió del 28,4% al 22,4%.

El carácter observacional del estudio no permite determinar qué mecanismo produjo esa caída. Los investigadores no demostraron una pérdida de conocimiento ni midieron modificaciones cerebrales. Plantearon, entre otras posibilidades, que la exposición continua a las señales automáticas habría reducido la vigilancia o alterado el patrón de búsqueda visual cuando la herramienta no estaba disponible.

El dato inquietante es que el profesional no parece menos eficaz mientras trabaja con la máquina. La fragilidad aparece cuando debe volver a actuar sin ella. El sistema mejora el rendimiento del conjunto, pero puede dejar al especialista individual en peores condiciones para responder de manera autónoma.

A partir de estos indicios algunos investigadores comienzan a delinear una tercera categoría, capaz de ampliar la clasificación de Krakauer: la del artefacto sustractivo. Llaman así a una herramienta que, al sustituir reiteradamente una operación previamente adquirida, puede contribuir a su decrecimiento. El artefacto complementario deja una capacidad; el competitivo entrega un resultado; el sustractivo puede dejar una capacidad debilitada.

No podemos ubicar sin más a la inteligencia artificial dentro de esta tercera categoría. La misma tecnología puede funcionar de maneras diferentes según la tarea, la frecuencia de uso y la distribución del esfuerzo entre el usuario y el sistema. Sin embargo, su carácter sustractivo puede aparecer cuando reemplaza de forma sostenida la elaboración conceptual, la atención selectiva, la formulación de alternativas o la evaluación crítica. La operación delegada deja entonces de ser convocada, ejercitada y corregida.

¿Cómo convertir, entonces, al sustituto en entrenador?

Aunque estas investigaciones se encuentran todavía en una etapa inicial, comienzan a delinearse algunas orientaciones de uso. La primera consiste en producir algo propio antes de recurrir al modelo: una hipótesis, un esquema, una estructura argumental o una primera respuesta. Esa elaboración proporciona un criterio desde el cual evaluar lo que la máquina propone.

La segunda es introducir una verdadera fricción evaluativa. No basta con leer el resultado y corregir su estilo. Es necesario localizar errores, verificar datos, identificar supuestos, cuestionar argumentos y formular alternativas. El esfuerzo que la herramienta ahorra en una etapa debería desplazarse hacia una operación de mayor complejidad, no desaparecer.

La tercera condición consiste en preservar instancias periódicas de resolución autónoma, sin asistencia de inteligencia artificial. No es necesario que sean actividades analógicas, pero sí que se realicen sin una herramienta que ejecute la capacidad que se intenta conservar. Solo al retirar la asistencia podemos comprobar qué permanece en nosotros.

Estas medidas son razonables, aunque todavía no constituyen soluciones probadas. Deben enfrentar, además, una dificultad persistente. Tendemos a confiar en los sistemas que suelen acertar y a elegir estrategias que reducen el esfuerzo. La fatiga, la urgencia productiva y el sesgo de automatización pueden volver insuficiente una actitud crítica sostenida únicamente por la voluntad individual.

Por eso, la preservación de la autonomía no puede depender solo del usuario. Requiere diseños pedagógicos, laborales e institucionales que distribuyan la asistencia sin eliminar las ocasiones de práctica. Una herramienta complementaria no es simplemente una herramienta bien utilizada. Es también una herramienta situada de modo tal que la persona siga teniendo algo que comprender, decidir y aprender.

La inteligencia artificial puede ayudarnos a explorar posibilidades antes inaccesibles, contrastar hipótesis y dedicar más tiempo a problemas complejos. Pero esa promesa solo se cumple si el esfuerzo liberado se reinvierte en otra forma de elaboración por parte de los humanos. Cuando el ahorro termina en pasividad, la ampliación externa puede convertirse en empobrecimiento interno.

La pregunta decisiva, entonces, no es únicamente qué puede hacer la máquina por nosotros. Es qué dejamos de hacer nosotros mientras la máquina lo hace.

PARA ENTENDER MEJOR | La neuroplasticidad

La idea de que el cerebro puede transformarse a partir de la experiencia comenzó a delinearse mucho antes de que existieran las técnicas actuales para observarlo. A fines del siglo XIX, William James utilizó el término «plasticidad» para describir la capacidad del sistema nervioso de modificar sus recorridos mediante la formación de hábitos. Poco después, Santiago Ramón y Cajal sostuvo que el aprendizaje podía producir cambios en las conexiones entre las neuronas, y durante la primera mitad del siglo XX Donald Hebb dio a esa intuición una formulación decisiva al proponer que la activación conjunta y reiterada de ciertas neuronas fortalece sus conexiones. Aunque durante mucho tiempo se creyó que esa capacidad pertenecía casi exclusivamente a la infancia, desde las últimas décadas del siglo XX numerosos estudios demostraron que el cerebro adulto conserva un margen de reorganización mucho mayor de lo supuesto.

En los últimos años, el concepto se ha ampliado. La neuroplasticidad ya no se entiende como un mecanismo único ni como la simple creación de nuevas conexiones. Comprende cambios en la eficacia de las sinapsis, remodelaciones de dendritas y axones, reorganizaciones funcionales de los circuitos, modificaciones en la mielina y, en determinadas regiones, la producción de nuevas neuronas. Las técnicas contemporáneas de neuroimagen, estimulación cerebral y registro celular permiten estudiar estos procesos en distintas escalas y explorar su importancia para la rehabilitación posterior a accidentes cerebrovasculares, lesiones y enfermedades neurológicas.

Estos avances también obligaron a abandonar una visión ingenuamente optimista. La plasticidad no es beneficiosa por definición: el cerebro puede reorganizarse de maneras adaptativas, pero también consolidar dolor crónico o respuestas disfuncionales. Tampoco implica que cualquier capacidad pueda desarrollarse o recuperarse sin límites. Su alcance depende de la edad, la región cerebral, la intensidad y duración de la experiencia, el estado general del organismo y las condiciones del entorno. La neuroplasticidad designa, en suma, la posibilidad permanente —aunque desigual y condicionada— de que aquello que hacemos transforme las redes con las que podremos actuar después.