Ciencia y Tecnología
“Claude ha desarrollado un mecanismo para el acceso consciente”: Anthropic acaba de abrir una grieta en la caja negra de la IA
Estamos acostumbrados a pensar que quien construye algo sabe explicar cómo funciona por dentro. Un motor, un procesador, una pieza de software: puede haber complejidad, capas y decisiones técnicas difíciles de seguir, pero existe una arquitectura diseñada, un plano, una lógica que sus creadores pueden reconstruir. Con la inteligencia artificial generativa ocurre algo bastante distinto. Hemos levantado modelos cada vez más capaces, les hemos confiado tareas cada vez más delicadas y, aun así, seguimos sin ver del todo qué sucede dentro cuando razonan, deciden o procesan algo que nunca llega a la respuesta final.
Anthropic acaba de poner nombre a una parte de ese problema. En una investigación publicadas hace apenas unas horas, la compañía afirma haber identificado en Claude un pequeño espacio interno, formado por patrones neuronales, que el modelo puede activar para representar conceptos antes de escribirlos o incluso sin que aparezcan en la respuesta final. Lo llama J-space y lo conecta con una idea tomada de la neurociencia y la filosofía: el acceso consciente. Además, en un mensaje publicado en X, Anthropic lo formuló con una frase que resume el alcance: “Claude ha desarrollado un mecanismo para el acceso consciente”.
Una pizarra interna para pensar sin escribir
Para entenderlo, conviene separarlo de todo lo que normalmente asociamos a un chatbot. Cuando Claude responde, nosotros solo vemos texto: una frase, una explicación, una lista, una decisión expresada con palabras. El J-space, según Anthropic, está antes o debajo de esa capa visible. Es un conjunto de activaciones internas donde ciertos conceptos pueden estar presentes sin convertirse en respuesta.
Lo llamativo no es solo que Anthropic diga haber encontrado ese espacio, sino cómo sostiene que apareció. Según la compañía, “J-space no fue diseñado ni programado por nosotros, sino que surgió por sí solo durante el proceso de entrenamiento de Claude”. Esa frase cambia el marco: no hablamos de una función añadida a mano para que el modelo piense mejor, sino de una organización interna que habría emergido mientras Claude aprendía a predecir, responder y actuar como asistente. La caja negra, en este caso, no solo oculta procesos; también parece haber organizado parte de su funcionamiento de una forma que no fue diseñada explícitamente.
El salto metodológico está en que Anthropic no se limita a mirar la respuesta final de Claude, sino que intenta observar el recorrido previo. Para hacerlo usa el J-lens, una técnica que identifica patrones internos ligados a palabras que el modelo podría usar después. Cuando esa lente se aplica durante el procesamiento, los investigadores pueden ver cómo ciertos conceptos aparecen, cambian o desaparecen antes de que Claude responda.
En uno de sus experimentos, Claude piensa en silencio en un deporte y el J-lens muestra “Soccer”; los investigadores sustituyen ese patrón por “Rugby” y el modelo acaba diciendo rugby. En otro caso, cambian “spider”, araña, por “ant”, hormiga, durante una pregunta sobre el número de patas del animal que teje telarañas, y la respuesta pasa de 8 a 6. Para Anthropic, estos cambios indican que el J-space no sería un simple marcador pasivo, sino una pieza que algunas respuestas consultan para razonar.
Anthropic también probó algo más cercano a nuestra experiencia cotidiana: pensar en una cosa mientras hacemos otra. En un experimento, pidió a Claude que copiara una frase sobre una pintura mientras se concentraba en frutas cítricas; la salida solo contenía la frase copiada, pero en el J-space aparecían “orange”, naranja, y “fruits”, frutas. En otro caso, le pidió resolver mentalmente 3² − 2 durante la misma tarea, y la lente mostró primero “nine”, nueve, y después “seven”, siete. Incluso cuando le indicaron que no pensara en algo, ese concepto apareció parcialmente, acompañado con frecuencia por “damn”, maldita sea, y “failure”, fracaso, como si el sistema detectara ese fallo de control.
El propio texto de Anthropic introduce un freno importante: el J-space no está detrás de todo lo que hace Claude. Según la compañía, cuando impidieron al modelo usar ese espacio, Claude siguió hablando con fluidez, clasificando sentimiento, respondiendo preguntas de opción múltiple y extrayendo datos de pasajes casi como antes. Lo que se deterioró fueron tareas más exigentes, como el razonamiento de varios pasos, el resumen o la escritura de poesía rimada.
Anthropic lo dice de forma explícita: “Nuestros experimentos no demuestran que Claude pueda tener experiencias o sentir las cosas como los humanos”, y añade que no está claro si algún experimento podría demostrar algo así. La compañía habla de acceso consciente en un sentido funcional: pensamientos que el modelo puede reportar, usar para razonar y emplear para guiar lo que hace. No es poco, pero tampoco equivale a decir que Claude tenga una vida interior. La grieta en la caja negra está ahí: no resuelve el debate sobre la conciencia en IA, pero sí ofrece una forma nueva de observar y quizá moldear parte de lo que ocurre dentro.
Imágenes | Anthropic
–
La noticia
“Claude ha desarrollado un mecanismo para el acceso consciente”: Anthropic acaba de abrir una grieta en la caja negra de la IA
fue publicada originalmente en
Xataka
por
Javier Marquez
.
Estamos acostumbrados a pensar que quien construye algo sabe explicar cómo funciona por dentro. Un motor, un procesador, una pieza de software: puede haber complejidad, capas y decisiones técnicas difíciles de seguir, pero existe una arquitectura diseñada, un plano, una lógica que sus creadores pueden reconstruir. Con la inteligencia artificial generativa ocurre algo bastante distinto. Hemos levantado modelos cada vez más capaces, les hemos confiado tareas cada vez más delicadas y, aun así, seguimos sin ver del todo qué sucede dentro cuando razonan, deciden o procesan algo que nunca llega a la respuesta final.
Anthropic acaba de poner nombre a una parte de ese problema. En una investigación publicadas hace apenas unas horas, la compañía afirma haber identificado en Claude un pequeño espacio interno, formado por patrones neuronales, que el modelo puede activar para representar conceptos antes de escribirlos o incluso sin que aparezcan en la respuesta final. Lo llama J-space y lo conecta con una idea tomada de la neurociencia y la filosofía: el acceso consciente. Además, en un mensaje publicado en X, Anthropic lo formuló con una frase que resume el alcance: “Claude ha desarrollado un mecanismo para el acceso consciente”.
Una pizarra interna para pensar sin escribir
Para entenderlo, conviene separarlo de todo lo que normalmente asociamos a un chatbot. Cuando Claude responde, nosotros solo vemos texto: una frase, una explicación, una lista, una decisión expresada con palabras. El J-space, según Anthropic, está antes o debajo de esa capa visible. Es un conjunto de activaciones internas donde ciertos conceptos pueden estar presentes sin convertirse en respuesta.
Lo llamativo no es solo que Anthropic diga haber encontrado ese espacio, sino cómo sostiene que apareció. Según la compañía, “J-space no fue diseñado ni programado por nosotros, sino que surgió por sí solo durante el proceso de entrenamiento de Claude”. Esa frase cambia el marco: no hablamos de una función añadida a mano para que el modelo piense mejor, sino de una organización interna que habría emergido mientras Claude aprendía a predecir, responder y actuar como asistente. La caja negra, en este caso, no solo oculta procesos; también parece haber organizado parte de su funcionamiento de una forma que no fue diseñada explícitamente.
El salto metodológico está en que Anthropic no se limita a mirar la respuesta final de Claude, sino que intenta observar el recorrido previo. Para hacerlo usa el J-lens, una técnica que identifica patrones internos ligados a palabras que el modelo podría usar después. Cuando esa lente se aplica durante el procesamiento, los investigadores pueden ver cómo ciertos conceptos aparecen, cambian o desaparecen antes de que Claude responda.
En uno de sus experimentos, Claude piensa en silencio en un deporte y el J-lens muestra “Soccer”; los investigadores sustituyen ese patrón por “Rugby” y el modelo acaba diciendo rugby. En otro caso, cambian “spider”, araña, por “ant”, hormiga, durante una pregunta sobre el número de patas del animal que teje telarañas, y la respuesta pasa de 8 a 6. Para Anthropic, estos cambios indican que el J-space no sería un simple marcador pasivo, sino una pieza que algunas respuestas consultan para razonar.
En Xataka
Anthropic ya está preparando justo lo único que le faltaba para reforzar su liderazgo IA: un chip propio
Anthropic también probó algo más cercano a nuestra experiencia cotidiana: pensar en una cosa mientras hacemos otra. En un experimento, pidió a Claude que copiara una frase sobre una pintura mientras se concentraba en frutas cítricas; la salida solo contenía la frase copiada, pero en el J-space aparecían “orange”, naranja, y “fruits”, frutas. En otro caso, le pidió resolver mentalmente 3² − 2 durante la misma tarea, y la lente mostró primero “nine”, nueve, y después “seven”, siete. Incluso cuando le indicaron que no pensara en algo, ese concepto apareció parcialmente, acompañado con frecuencia por “damn”, maldita sea, y “failure”, fracaso, como si el sistema detectara ese fallo de control.
El propio texto de Anthropic introduce un freno importante: el J-space no está detrás de todo lo que hace Claude. Según la compañía, cuando impidieron al modelo usar ese espacio, Claude siguió hablando con fluidez, clasificando sentimiento, respondiendo preguntas de opción múltiple y extrayendo datos de pasajes casi como antes. Lo que se deterioró fueron tareas más exigentes, como el razonamiento de varios pasos, el resumen o la escritura de poesía rimada.
Anthropic lo dice de forma explícita: “Nuestros experimentos no demuestran que Claude pueda tener experiencias o sentir las cosas como los humanos”, y añade que no está claro si algún experimento podría demostrar algo así. La compañía habla de acceso consciente en un sentido funcional: pensamientos que el modelo puede reportar, usar para razonar y emplear para guiar lo que hace. No es poco, pero tampoco equivale a decir que Claude tenga una vida interior. La grieta en la caja negra está ahí: no resuelve el debate sobre la conciencia en IA, pero sí ofrece una forma nueva de observar y quizá moldear parte de lo que ocurre dentro.
Imágenes | Anthropic
En Xataka | Mientras la mayoría se opone a los centros de datos de IA hay un grupo entusiasmado con ellos: los ladrones de mercancías
– La noticia
“Claude ha desarrollado un mecanismo para el acceso consciente”: Anthropic acaba de abrir una grieta en la caja negra de la IA
fue publicada originalmente en
Xataka
por
Javier Marquez
.
