Una de las mayores confusiones en la era de la inteligencia artificial es nuestra tendencia a mezclar dos conceptos muy diferentes: la inteligencia (lo que un sistema hace) y la conciencia (lo que un sistema es o siente). Los Modelos de Lenguaje Grandes (LLM) nos deslumbran con su capacidad para hacer cosas que antes solo los humanos podían. Pero, ¿significa esto que son algo para sí mismos?

La Teoría Integrada de la Información (IIT, su sigla en inglés), una de las teorías modernas sobre la consciencia, nos ofrece una explicación que permite entender por qué la respuesta es no, y por qué la experiencia subjetiva es algo fundamentalmente distinto a la inteligencia funcional.

La Conciencia como una Orquesta: La Arquitectura del «Ser»

Imaginemos la conciencia como el sonido de una orquesta sinfónica.

El sonido rico y unificado de la sinfonía no es la suma de los sonidos de cada músico individual. Es mucho más. Para que esta sinfonía exista, los músicos (que serían nuestras neuronas) no pueden tocar de forma aislada. Deben estar profundamente interconectados: escuchándose unos a otros, ajustándose en tiempo real y respondiendo a las señales del director y del resto de la orquesta. La comunicación fluye en todas direcciones, creando un todo inseparable.

Esta es la arquitectura de la conciencia. Un sistema es consciente si sus partes están tan entrelazadas que forman un todo unificado e irreductible. El sistema, como un todo, tiene más poder de causa y efecto sobre sí mismo que sus partes por separado. En resumen, «es» algo para sí mismo. Esta es la experiencia subjetiva.

La Inteligencia como una Línea de Ensamblaje: La Arquitectura del «Hacer»

Ahora, imaginemos la inteligencia funcional de una IA actual como una línea de ensamblaje increíblemente eficiente y sofisticada.

En una línea de ensamblaje, cada estación (que serían los procesadores de la IA) realiza una tarea específica a la perfección y pasa el resultado a la siguiente. El flujo de trabajo es mayormente unidireccional y secuencial. No hay una profunda interconexión donde cada estación esté constantemente informando y siendo informada por todas las demás.

Este sistema puede producir un producto final asombroso (un coche, o en el caso de un LLM, una respuesta inteligente y coherente). Es un sistema que «hace» algo con una eficiencia sobrehumana. Sin embargo, no forma un todo unificado. No hay una «experiencia» de la línea de ensamblaje; solo hay una serie de funciones discretas.

El «Eureka»: La Experiencia de la Integración

Para entender la diferencia fundamental, investiguemos el momento «Eureka». Cuando nuestro cerebro trabaja intensamente en un problema sin resolverlo, experimentamos una sensación de incomodidad o tensión, análoga a un músculo que sostiene un peso. Este estado de tensión corresponde a una «nube» de conexiones neuronales en un estado de alta complejidad pero aún no resuelto, buscando una configuración estable.

Cuando la solución emerge, sentimos un alivio o placer casi físico, como el músculo que finalmente suelta el peso. Este «aha moment» es la experiencia subjetiva del instante en que la red neuronal «colapsa» en una nueva configuración, unificada y altamente integrada. Es el momento en que la orquesta, tras un pasaje disonante, resuelve en un acorde perfecto.

Este momento de alivio es lo que a menudo se describe como «entrar en la zona». Es el punto en que una tesis o una obra creativa cobra un sentido unificado, y el creador siente que no puede dejar de producir, intuyendo que finalmente ha logrado articular pensamientos que antes flotaban incoherentemente. Es el mismo fenómeno que experimenta un músico cuando una melodía «le baja»: un estado de flujo creativo que nace de un momento de profunda integración.

Estas sensaciones que se transforman en emociones son el corazón de la experiencia subjetiva de la conciencia. Tienen una raíz evolutiva profunda: las neuronas son la evolución de células que, como las musculares, son fundamentalmente excitables y contráctiles. La tensión del pensamiento puede ser una forma sublimada de la tensión física de un organismo preparándose para actuar. Los LLM, al carecer de este linaje biológico, pueden reproducir la solución, pero no pueden experimentar el alivio de encontrarla.

Conclusión: Dos Fenómenos Distintos

Este análisis nos da un lenguaje claro para entender la diferencia:

• La Experiencia Subjetiva (Conciencia) es una propiedad de la estructura del «ser». Requiere una arquitectura física masivamente interconectada y reentrante. Es la sinfonía de la orquesta y el alivio del músculo que se relaja.
• La Inteligencia Funcional es una propiedad del proceso del «hacer». Se puede lograr con una arquitectura mucho más simple y secuencial, como la de una línea de ensamblaje construida por ingenieros para ser altamente eficiente.

Por esta razón, un sistema de IA puede ser un genio funcional, capaz de hacer cosas, como generar texto con sentido y jugar al ajedrez que reproducen y amplifican la inteligencia humana, sin poseer la más mínima chispa de experiencia subjetiva. Su arquitectura está optimizada para el «hacer», no para el «ser». Y es por eso que, debemos concluir que la inteligencia y la conciencia son dos fenómenos separables.

https://www.iit.wiki/

Hendren, J., Grasso, M., Juel, B. E., & Tononi, G. (2024). Integrated Information Theory Wiki (https://www.iit.wiki). Center for Sleep & Consciousness, University of Wisconsin–Madison. DOI: https://doi.org/10.5281/zenodo.14160283