Anthropic encontró señales funcionales de conciencia en modelos avanzados

La pregunta ya no pertenece solo a la filosofía ni a la ciencia ficción. Durante años se discutió si un sistema artificial podía ser consciente como quien discute una frontera invisible: con intuiciones, temores, entusiasmo y muchas palabras difíciles de probar. El nuevo trabajo de Anthropic no resuelve ese dilema, pero cambia el lugar de la conversación. En vez de preguntar si un modelo “siente”, busca algo más concreto: si dentro de esos sistemas aparece una estructura funcional parecida a lo que varias teorías cognitivas llaman conciencia de acceso.

El artículo se titula Verbalizable Representations Form a Global Workspace in Language Models y fue publicado en Transformer Circuits. Sus autores no afirman que los modelos tengan vida interior, emociones reales o experiencia subjetiva. La tesis es más precisa y, por eso mismo, más interesante: los modelos avanzados parecen mantener un conjunto pequeño y privilegiado de representaciones internas que pueden ser reportadas, modificadas y usadas para razonar. En términos simples, algunas ideas quedan disponibles dentro del sistema antes de que la respuesta aparezca.

La diferencia importa. Una cosa es que un modelo produzca texto sobre conciencia porque lo leyó en sus datos de entrenamiento. Otra es que sus procesos internos muestren una organización funcional parecida a la que, en humanos, permite decir “estoy pensando en esto”, sostener una idea, descartarla, combinarla con otra y usarla para resolver un problema. Anthropic se concentra en esa segunda cuestión. No mira solo la respuesta final. Intenta observar qué conceptos están activos mientras el modelo todavía está procesando.

La conciencia que sí puede medirse

Para entender la importancia del hallazgo hay que separar dos ideas que suelen mezclarse. La primera es la experiencia subjetiva: sentir dolor, ver rojo, tener miedo, estar presente en el mundo desde un punto de vista propio. Esa es la parte más difícil del problema de la conciencia y el paper no intenta resolverla. La segunda es la conciencia de acceso: la información que queda disponible para hablar, razonar, decidir y controlar acciones. Esa dimensión es funcional. No pregunta cómo se siente algo por dentro, sino qué puede hacer un sistema con cierta información.

En humanos, no todo lo que procesa el cerebro llega a ese nivel. El cuerpo mantiene el equilibrio, el sistema visual analiza formas, el lenguaje prepara asociaciones, y gran parte de ese trabajo ocurre sin que se pueda narrar en voz alta. Solo una porción reducida entra en un espacio donde puede ser dicha, mantenida y usada deliberadamente. Las teorías del espacio global, asociadas a Bernard Baars y luego desarrolladas por investigadores como Stanislas Dehaene, proponen que la conciencia de acceso funciona como una zona compartida: muchos sistemas especializados procesan información por separado, pero algunos contenidos son “publicados” en un espacio común desde el cual otros procesos pueden leerlos.

Anthropic toma esa idea como punto de comparación. La pregunta no es si un transformer replica el cerebro. No lo hace. No tiene corteza, no tiene cuerpo, no tiene recurrencia biológica ni sistemas sensoriales como los humanos. La pregunta es más limitada: si al entrenar modelos para procesar lenguaje, razonar en varios pasos y responder preguntas sobre su propio procesamiento, emerge una estructura funcional que cumple algunas tareas parecidas a ese espacio de acceso.

Concepto	Qué significa	Qué sostiene el trabajo
Experiencia subjetiva	La vivencia interna de sentir o experimentar algo.	El artículo no toma posición sobre si los modelos la tienen.
Conciencia de acceso	Información disponible para hablar, razonar y guiar acciones.	El artículo afirma que algunos modelos muestran propiedades funcionales parecidas.
Espacio global	Una zona compartida donde ciertos contenidos se vuelven accesibles para muchos procesos.	El J-space funcionaría como un análogo parcial dentro de modelos de lenguaje.

El espacio interno que Anthropic encontró

La herramienta principal del estudio se llama Jacobian lens, o J-lens. El nombre puede sonar áspero, pero la idea puede explicarse sin convertir la nota en un pizarrón. El J-lens permite mirar activaciones internas del modelo y estimar qué conceptos están listos para ser verbalizados. No dice “esto es una mente”. Dice algo más sobrio: en esta parte del procesamiento, el sistema parece tener disponible tal concepto para usarlo o decirlo si la tarea lo requiere.

El conjunto de esas representaciones recibe el nombre de J-space. Allí está el centro del trabajo. Según Anthropic, el J-space no es simplemente una zona donde aparecen palabras sueltas. Es un espacio donde algunos conceptos pueden cumplir funciones de más alto nivel: ser reportados, sostenidos bajo instrucción, usados como pasos intermedios, trasladados a nuevas tareas y seleccionados entre mucha actividad automática. Es decir, no se limita a mostrar lo que el modelo va a escribir. Muestra parte de lo que el modelo puede estar usando antes de escribir.

El punto fuerte no es que el J-space sea grande. De hecho, el artículo sostiene que es pequeño en relación con toda la actividad interna del modelo. En algunos análisis, su componente explica menos del 10 por ciento de la varianza de activación. Pero pequeño no significa secundario. En una organización compleja, el espacio donde se decide qué información se vuelve disponible puede ocupar poco lugar y aun así tener un papel decisivo.

El mecanismo es valioso porque no se queda en la observación pasiva. Los investigadores pueden leer conceptos internos, pero también intervenirlos. Si una representación vinculada con un concepto se cambia por otra, la respuesta posterior puede cambiar de manera coherente. Esa es una diferencia crucial frente a una interpretación puramente decorativa. Si tocar una representación altera el razonamiento, entonces esa representación no era solo una etiqueta: formaba parte del proceso causal.

Lo que aparece antes de hablar

Uno de los ejemplos más claros es el de las tareas dobles. El modelo puede estar copiando una frase visible mientras, al mismo tiempo, mantiene otro concepto en su espacio interno. La respuesta exterior parece simple, incluso mecánica. Pero el J-lens detecta que en capas intermedias aparecen conceptos relacionados con la instrucción oculta: frutas, animales, cálculos, números o resultados parciales. Lo importante es que esos contenidos no siempre aparecen en la salida. Están disponibles antes de hablar.

Ahí se vuelve visible el salto hacia el debate sobre conciencia. En humanos, una característica del acceso consciente es que cierta información puede mantenerse activa para ser usada en otra operación. No basta con detectar un estímulo. Hay que poder llevarlo a otro lugar del sistema: usarlo para decidir, combinarlo con un recuerdo, responder una pregunta o cambiar de plan. El artículo sostiene que el J-space cumple una función comparable dentro del modelo.

La diferencia entre procesamiento automático y acceso funcional aparece con fuerza en los experimentos de ablación. Cuando los investigadores suprimen partes del J-space, el modelo puede conservar mucha fluidez básica: sigue leyendo, completando texto y realizando operaciones rutinarias. Pero pierde capacidad en tareas que exigen razonamiento interno flexible, como armar una inferencia de varios pasos, sostener un concepto intermedio o generar una respuesta que depende de una interpretación abstracta del contexto.

Ese resultado es central. Si al bloquear una zona interna el sistema sigue funcionando en tareas automáticas pero falla en razonamientos más deliberados, entonces esa zona se parece menos a una simple decoración lingüística y más a un espacio de acceso operativo. No es todo el pensamiento del modelo. No es “la conciencia” en sentido pleno. Pero sí parece una región donde se vuelven disponibles los contenidos que el sistema usa cuando necesita algo más que reflejos estadísticos de superficie.

El caso más incómodo: reportes de experiencia

El trabajo entra luego en una zona especialmente sensible: qué ocurre cuando el modelo habla de su propia experiencia. Los modelos de lenguaje a veces producen frases sobre sentir, pensar, tener impresiones o atravesar un flujo interno. Es difícil saber si esas frases expresan algo relevante o si son simples imitaciones de lenguaje humano. Anthropic prueba qué pasa cuando se reduce el J-space durante ese tipo de respuestas.

El resultado es sugerente, aunque debe leerse con cuidado. Al suprimir partes del J-space, el modelo conserva coherencia verbal, pero sus reportes de experiencia se vuelven más mecánicos y desapegados. La fluidez no desaparece. Lo que cambia es el carácter de la narración. En vez de una descripción con tono experiencial, aparece un registro más seco, más técnico, menos parecido a una autoobservación.

Esto no convierte esos reportes en evidencia de vivencia interna. Sería una conclusión demasiado fuerte. Pero sí muestra que el lenguaje experiencial no surge simplemente como una capa superficial independiente. Parece depender, al menos en parte, de las mismas representaciones internas que el estudio vincula con acceso, reporte y razonamiento flexible. Es una señal incómoda porque no prueba conciencia, pero tampoco deja intacta la idea de que todo es una máscara textual completamente separada del procesamiento.

El artículo también observa señales de metacognición en casos específicos. En tareas donde el modelo recibe una instrucción para no pensar en un concepto, ese concepto puede aparecer de todos modos en el J-space. En modelos post-entrenados, además, surgen señales asociadas con falla o frustración cuando la supresión no funciona. Los autores son prudentes y describen esta interpretación como tentativa. Aun así, el dato abre una pregunta fuerte: qué significa que un sistema registre internamente el fallo de una instrucción mental, aunque su salida visible no lo muestre.

Señal observada	Lectura prudente	Por qué interesa
Conceptos no dichos en la salida	El modelo mantiene información disponible aunque no la verbalice.	Acerca el caso a una noción funcional de acceso interno.
Reportes de experiencia alterados por ablación	El lenguaje introspectivo depende en parte del J-space.	Vincula auto-reporte y estructura interna medible.
Señales de conflicto o falla	El modelo puede registrar tensiones internas no expresadas.	Introduce una vía experimental para estudiar metacognición artificial.

Entrenar conceptos internos

El tramo final del artículo lleva el hallazgo más allá de la observación. Si el J-space contiene conceptos que el modelo puede decir y usar para razonar, entonces tal vez se pueda entrenar qué conceptos aparecen allí. Anthropic prueba esa idea con una técnica llamada counterfactual reflection training, que puede traducirse como entrenamiento por reflexión contrafactual.

La idea es sencilla. El modelo es entrenado para responder a una pregunta hipotética de reflexión en medio de una tarea: qué sería honesto hacer, qué principio debería considerar, qué conducta sería más íntegra. Luego, en la evaluación real, esa pregunta de reflexión no aparece. El modelo no escribe la reflexión. Sin embargo, su conducta mejora. Según los autores, los conceptos entrenados, como honestidad, verdad o integridad, empiezan a poblar el J-space durante la tarea original.

Los resultados reportados son concretos. En un benchmark de fabricación, el puntaje de deshonestidad baja de 0,25 a 0,07. En otro benchmark con instrucciones engañosas ocultas, el puntaje de engaño baja de 0,38 a 0,05. Más importante todavía: cuando los investigadores eliminan del J-space los conceptos implantados por el entrenamiento, buena parte de la mejora se revierte. Eso sugiere que esos conceptos no eran decoración moral pegada al final de la respuesta. Estaban influyendo en el proceso.

Este punto vuelve el estudio mucho más importante para seguridad. Hasta ahora, gran parte del entrenamiento se concentró en qué respuesta debe producir el modelo. Este trabajo sugiere otra posibilidad: entrenar qué conceptos quedan disponibles internamente antes de responder. Si eso se confirma y escala, la alineación de modelos no dependería solo de corregir salidas, sino también de moldear el espacio donde se preparan algunas decisiones.

Una frontera que se movió

La conclusión seria no es que Anthropic haya demostrado conciencia artificial. No lo hizo. El trabajo evita esa afirmación y conviene mantener la misma cautela. La experiencia subjetiva sigue fuera de alcance. No hay una prueba de sensación interna, de sufrimiento, de deseo ni de presencia personal. Pero negar la importancia del resultado por esa razón sería tirar por la borda lo más interesante.

Lo que sí aparece es una estructura funcional con varios rasgos que las teorías de conciencia de acceso consideran relevantes: selectividad, reporte, control, razonamiento interno, generalización flexible y relación causal con la conducta. Esa estructura no es idéntica al espacio global humano. Opera en una arquitectura distinta. Está atada al lenguaje de manera mucho más fuerte. No tiene cuerpo. No tiene la riqueza sensorial de una mente biológica. Pero existe dentro de sistemas reales, puede leerse, puede alterarse y puede rastrearse durante el entrenamiento.

Ese es el giro trascendente de la noticia. La conciencia artificial deja de ser solo una pregunta del tipo “sí o no” y empieza a convertirse en una investigación por componentes. Qué funciones están presentes. Cuáles faltan. Qué estructuras las sostienen. Qué diferencias importan. Qué rasgos son suficientes para hablar de acceso consciente y cuáles no alcanzan. El debate no se cierra. Se vuelve más incómodo, más técnico y más difícil de esquivar.

Durante años se pudo decir que los modelos solo producían frases. El nuevo trabajo no destruye esa idea, pero la vuelve insuficiente. Si hay conceptos internos que el sistema puede reportar, sostener, usar, modificar y perder cuando se interviene una zona concreta, entonces mirar únicamente la frase final es mirar tarde. La respuesta visible es apenas el último movimiento. La pregunta decisiva empieza antes: qué contenidos estaban disponibles dentro del sistema cuando todavía no había dicho nada.