Hay una idea sobre la inteligencia artificial que casi todos compartimos y que, sin embargo, es falsa. Si los seres humanos hemos creado ChatGPT, Claude o Gemini, deberíamos saber perfectamente cómo funcionan. Le dimos las premisas, diseñamos los algoritmos, la alimentamos con datos y la dejamos hacer. En cierto sentido, cavamos el cauce, construimos el recorrido y levantamos las puertas del dique. El agua solo tenía que correr. Era simple, ¿no?
Al fin y al cabo, ocurre con cualquier otro programa informático. Nadie espera que una calculadora, un procesador de textos o un videojuego desarrollen un comportamiento que sus programadores no comprendan. Cada función ha sido escrita previamente por un ingeniero. Pero los grandes modelos de lenguaje (LLM por sus siglas en inglés) son diferentes. Los científicos conocen perfectamente las matemáticas que los hacen funcionar, el algoritmo con el que aprenden y la arquitectura que utilizan. Pero nadie sabe con exactitud cómo terminan organizándose internamente después de analizar billones de palabras. Y esa diferencia es fundamental.
Imaginemos que un arquitecto diseña un colegio. Decide dónde irá cada aula, cada pasillo y cada escalera. Cinco años después vuelve a visitarlo. Descubre que los alumnos siempre utilizan una escalera concreta para cambiar de planta, que existe un banco donde todos se reúnen durante el recreo y un rincón que nadie pisa jamás. Él diseñó el edificio, pero no esas costumbres. Surgieron de manera espontánea.
Algo parecido ocurre con los grandes modelos de inteligencia artificial. Los ingenieros construyen el «edificio», pero la organización interna con la que el modelo termina resolviendo los problemas aparece durante el entrenamiento. En un modelo LLM nadie “programa una neurona” para reconocer la ironía, otra para entender el concepto de democracia y otra para recordar la capital de Francia. Esas estructuras emergen por sí solas mientras el modelo aprende.
Por eso los expertos hablan desde hace años de una auténtica caja negra. No porque ignoren cómo funciona desde el punto de vista matemático, sino porque desconocen cómo se organizan internamente cientos de miles de millones de parámetros para producir una respuesta coherente. Un nuevo estudio publicado por empleados de Anthropic, la empresa responsable de Claude, podría haber abierto, por primera vez, una pequeña ventana a ese interior.
Los autores, liderados por Jack Lindsey, presentan una herramienta llamada Jacobian Lens, diseñada para observar qué conceptos están activos dentro del modelo mientras este todavía está razonando. Y este es uno de los grandes cambios: hasta ahora solo podíamos analizar la respuesta final, igual que un médico que únicamente pudiera escuchar las palabras de un paciente sin ver nunca lo que ocurre dentro de su cerebro. La nueva técnica intenta observar el proceso antes de que aparezca la respuesta. Y los resultados son sorprendentes.
Cuando Claude recibe una pregunta compleja, parece concentrar parte de la información relevante en una pequeña región matemática que los autores denominan J-Space. Allí convergen conceptos procedentes de distintas partes del modelo antes de que este continúe razonando. Lo más interesante no es que ese espacio exista, sino que puede manipularse experimentalmente. En uno de los experimentos del equipo de Lindsey, le pidieron a Claude que pensara en un deporte sin decir todavía cuál es. La nueva herramienta detecta que internamente ha elegido el fútbol. A continuación, los autores modifican únicamente esa representación interna, sustituyéndola por rugby. Cuando finalmente Claude responde, ya no menciona el fútbol, sino el rugby.
No han cambiado la respuesta. Han cambiado la idea que el modelo estaba manejando antes de responder. En otro experimento, Claude analiza un fragmento de código informático. Aunque la palabra «error» nunca aparece escrita, la Jacobian Lens muestra que ese concepto ya está activo en el interior del modelo antes de que este explique qué ocurre. Es decir, la inteligencia artificial parece haber identificado el problema internamente antes de expresarlo con palabras.
Para comprender por qué este resultado ha despertado tanto interés hay que viajar durante un momento al cerebro humano. Una de las teorías más influyentes de la neurociencia moderna es la Global Workspace Theory, propuesta inicialmente por Bernard Baars y desarrollada posteriormente por científicos como Stanislas Dehaene. Según esta idea, nuestro cerebro procesa millones de señales de manera inconsciente, pero solo una pequeña parte alcanza una especie de «escenario central» desde el que la información se vuelve accesible para numerosos sistemas al mismo tiempo: memoria, lenguaje, planificación, atención o toma de decisiones.
Los autores del estudio, en total más de 150 páginas, creen haber encontrado en Claude una organización funcional sorprendentemente parecida. Y aquí aparece una de las mayores fuentes de confusión teniendo en cuenta que el estudio menciona varias veces la palabra consciente. La realidad es que los autores no afirman que Claude sea consciente. Tampoco sostiene que experimente emociones, sensaciones o una vida interior. Lo que propone es algo mucho más concreto: que determinados razonamientos complejos parecen utilizar una arquitectura funcional semejante a la descrita en el cerebro humano por la teoría de Baars. Es una comparación sobre la forma en que circula la información, no sobre la existencia de experiencias subjetivas. Esa diferencia puede parecer sutil, pero es enorme.
Sin embargo, quizá la mayor aportación del estudio no sea el propio J-Space. En ciencia, muchas veces los grandes avances no llegan cuando aparece una nueva teoría, sino cuando aparece un nuevo instrumento capaz de ponerla a prueba. Durante años, los grandes modelos de lenguaje se parecían a un reloj sellado. Podíamos hacerles preguntas, observar sus respuestas y medir su rendimiento, pero resultaba casi imposible saber qué ocurría entre la pregunta y la respuesta.
La Jacobian Lens empieza a cambiar esa situación. Por primera vez, los científicos no solo observan lo que una inteligencia artificial responde, sino también algunos de los conceptos con los que está razonando mientras lo hace. Aún estamos muy lejos de comprender completamente cómo «piensa» un gran modelo de lenguaje. Los propios autores reconocen que el J-Space explica únicamente una parte del comportamiento de Claude y que la inmensa mayoría de sus cálculos continúa realizándose fuera de ese espacio.
Así, la verdadera pregunta ya no es únicamente si las máquinas llegarán algún día a parecer inteligentes. La pregunta empieza a ser otra mucho más incómoda: ¿seremos capaces de entender la inteligencia que nosotros mismos hemos creado? Este trabajo no demuestra que la IA sea consciente. Demuestra que, por primera vez, empezamos a dejar de ser nosotros los inconscientes de cómo funciona.
Un nuevo estudio consigue, por primera vez, observar cómo «piensa» un gran modelo de lenguaje mientras razona.
Hay una idea sobre la inteligencia artificial que casi todos compartimos y que, sin embargo, es falsa. Si los seres humanos hemos creado ChatGPT, Claude o Gemini, deberíamos saber perfectamente cómo funcionan. Le dimos las premisas, diseñamos los algoritmos, la alimentamos con datos y la dejamos hacer. En cierto sentido, cavamos el cauce, construimos el recorrido y levantamos las puertas del dique. El agua solo tenía que correr. Era simple, ¿no?
Al fin y al cabo, ocurre con cualquier otro programa informático. Nadie espera que una calculadora, un procesador de textos o un videojuego desarrollen un comportamiento que sus programadores no comprendan. Cada función ha sido escrita previamente por un ingeniero. Pero los grandes modelos de lenguaje (LLM por sus siglas en inglés) son diferentes. Los científicos conocen perfectamente las matemáticas que los hacen funcionar, el algoritmo con el que aprenden y la arquitectura que utilizan. Pero nadie sabe con exactitud cómo terminan organizándose internamente después de analizar billones de palabras. Y esa diferencia es fundamental.
Imaginemos que un arquitecto diseña un colegio. Decide dónde irá cada aula, cada pasillo y cada escalera. Cinco años después vuelve a visitarlo. Descubre que los alumnos siempre utilizan una escalera concreta para cambiar de planta, que existe un banco donde todos se reúnen durante el recreo y un rincón que nadie pisa jamás. Él diseñó el edificio, pero no esas costumbres. Surgieron de manera espontánea.
Algo parecido ocurre con los grandes modelos de inteligencia artificial. Los ingenieros construyen el «edificio», pero la organización interna con la que el modelo termina resolviendo los problemas aparece durante el entrenamiento. En un modelo LLM nadie “programa una neurona” para reconocer la ironía, otra para entender el concepto de democracia y otra para recordar la capital de Francia. Esas estructuras emergen por sí solas mientras el modelo aprende.
Por eso los expertos hablan desde hace años de una auténtica caja negra. No porque ignoren cómo funciona desde el punto de vista matemático, sino porque desconocen cómo se organizan internamente cientos de miles de millones de parámetros para producir una respuesta coherente. Un nuevo estudio publicado por empleados de Anthropic, la empresa responsable de Claude, podría haber abierto, por primera vez, una pequeña ventana a ese interior.
Los autores, liderados por Jack Lindsey, presentan una herramienta llamada Jacobian Lens, diseñada para observar qué conceptos están activos dentro del modelo mientras este todavía está razonando. Y este es uno de los grandes cambios: hasta ahora solo podíamos analizar la respuesta final, igual que un médico que únicamente pudiera escuchar las palabras de un paciente sin ver nunca lo que ocurre dentro de su cerebro. La nueva técnica intenta observar el proceso antes de que aparezca la respuesta. Y los resultados son sorprendentes.
Cuando Claude recibe una pregunta compleja, parece concentrar parte de la información relevante en una pequeña región matemática que los autores denominan J-Space. Allí convergen conceptos procedentes de distintas partes del modelo antes de que este continúe razonando. Lo más interesante no es que ese espacio exista, sino que puede manipularse experimentalmente. En uno de los experimentos del equipo de Lindsey, le pidieron a Claude que pensara en un deporte sin decir todavía cuál es. La nueva herramienta detecta que internamente ha elegido el fútbol. A continuación, los autores modifican únicamente esa representación interna, sustituyéndola por rugby. Cuando finalmente Claude responde, ya no menciona el fútbol, sino el rugby.
No han cambiado la respuesta. Han cambiado la idea que el modelo estaba manejando antes de responder. En otro experimento, Claude analiza un fragmento de código informático. Aunque la palabra «error» nunca aparece escrita, la Jacobian Lens muestra que ese concepto ya está activo en el interior del modelo antes de que este explique qué ocurre. Es decir, la inteligencia artificial parece haber identificado el problema internamente antes de expresarlo con palabras.
Para comprender por qué este resultado ha despertado tanto interés hay que viajar durante un momento al cerebro humano. Una de las teorías más influyentes de la neurociencia moderna es la Global Workspace Theory, propuesta inicialmente por Bernard Baars y desarrollada posteriormente por científicos como Stanislas Dehaene. Según esta idea, nuestro cerebro procesa millones de señales de manera inconsciente, pero solo una pequeña parte alcanza una especie de «escenario central» desde el que la información se vuelve accesible para numerosos sistemas al mismo tiempo: memoria, lenguaje, planificación, atención o toma de decisiones.
Los autores del estudio, en total más de 150 páginas, creen haber encontrado en Claude una organización funcional sorprendentemente parecida. Y aquí aparece una de las mayores fuentes de confusión teniendo en cuenta que el estudio menciona varias veces la palabra consciente. La realidad es que los autores no afirman que Claude sea consciente. Tampoco sostiene que experimente emociones, sensaciones o una vida interior. Lo que propone es algo mucho más concreto: que determinados razonamientos complejos parecen utilizar una arquitectura funcional semejante a la descrita en el cerebro humano por la teoría de Baars. Es una comparación sobre la forma en que circula la información, no sobre la existencia de experiencias subjetivas. Esa diferencia puede parecer sutil, pero es enorme.
Sin embargo, quizá la mayor aportación del estudio no sea el propio J-Space. En ciencia, muchas veces los grandes avances no llegan cuando aparece una nueva teoría, sino cuando aparece un nuevo instrumento capaz de ponerla a prueba. Durante años, los grandes modelos de lenguaje se parecían a un reloj sellado. Podíamos hacerles preguntas, observar sus respuestas y medir su rendimiento, pero resultaba casi imposible saber qué ocurría entre la pregunta y la respuesta.
La Jacobian Lens empieza a cambiar esa situación. Por primera vez, los científicos no solo observan lo que una inteligencia artificial responde, sino también algunos de los conceptos con los que está razonando mientras lo hace. Aún estamos muy lejos de comprender completamente cómo «piensa» un gran modelo de lenguaje. Los propios autores reconocen que el J-Space explica únicamente una parte del comportamiento de Claude y que la inmensa mayoría de sus cálculos continúa realizándose fuera de ese espacio.
Así, la verdadera pregunta ya no es únicamente si las máquinas llegarán algún día a parecer inteligentes. La pregunta empieza a ser otra mucho más incómoda: ¿seremos capaces de entender la inteligencia que nosotros mismos hemos creado? Este trabajo no demuestra que la IA sea consciente. Demuestra que, por primera vez, empezamos a dejar de ser nosotros los inconscientes de cómo funciona.
Noticias de Tecnología y Videojuegos en La Razón
