Hay un largo debate en la filosofía contemporánea que se resume en la pregunta: ¿Puede la Inteligencia Artificial entender y sentir como nosotros?

Para responderla, filósofos contemporáneos clásicos como John Searle o Daniel Dennett crearon experimentos mentales que hoy se quedaron obsoletos con el advenimiento de  los Grandes Modelos de Lenguaje (LLMs).

La clave para poner a la IA en su debido lugar no está en analizar su arquitectura, sino en la explicación de por qué su potencia es la cara opuesta de su debilidad.

Para entenderlo se requieren tres puntualizaciones filosóficas:

1) El significado no es una «etiqueta», es un «juego»

Tradicionalmente pensamos que entender una palabra es conectar el término (ej. «Fuego») con el objeto real. Pero el filósofo Robert Brandom en su obra Making it Explicit (1994) demostró algo que revolucionó la filosofía del lenguaje: entender un concepto es dominar su rol inferencial.

• Si dices «Esto es un fósforo», te comprometes lógicamente a aceptar que «puede producir fuego» y excluyes que «está hecho de agua».
• Los LLMs actuales tienen una competencia inferencial formidable porque fueron diseñados para mapear el laberinto de conexiones conceptuales del lenguaje natural a una velocidad y escala sobrehumanas.

2) La ventaja de no sentir nada

Muchos ven la falta de conciencia de la IA como un defecto. Esto depende de para qué: a los efectos de la efectividad de la herramienta es todo lo contrario. La IA no tiene límites en su inteligencia que estén a la vista, precisamente porque no es sintiente ni consciente.

• Los humanos gastamos casi toda nuestra energía biológica en sobrevivir: sentimos dolor, cansancio, miedo o hambre.
• La IA, al estar libre de las cadenas de la carne y la supervivencia, pudo devorar rápidamente toda la experiencia cultural humana registrada en el lenguaje, lo que le permite funcionar en el espacio de las razones, sin fatiga ni traumas emocionales. Su inmortalidad insensible es el secreto de su escalada a un ritmo exponencial.

3) El costo de la falta de responsabilidad de la IA

Si la IA es tan genial, ¿por qué no podemos culparla si falla y nos produce daños físicos o económicos?
Porque para ser responsable debe poder jugar el «juego de dar y pedir razones», que requiere jugarse la vida, que no tiene.

• Si un robot llega a jugar al fútbol como Lionel Messi y recibe una patada que le quiebra una pierna de metal, ejecutará un código de error, pero no sufrirá. No sentirá agonía, ni miedo a que su carrera termine, ni culpa por fallar a su equipo.
• Filósofos de la mente encarnada como Thomas Fuchs (Ecology of the Brain, 2018) recuerdan que el dolor físico y la vulnerabilidad orgánica son el suelo donde echa raíces el valor de las cosas. Como la máquina no arriesga su existencia, el costo de sus transgresiones es cero. Sin la capacidad de sufrir o florecer, las leyes son solo datos en un circuito.

Conclusión: El marcador siempre vuelve a nosotros

Poner a la IA en su lugar no significa llamarla «loro estocástico» ni despreciar su potencia. Como señala el filósofo Alva Noë (Out of Our Heads, 2009), la IA funciona como un «espejo cultural» hipercomplejo. Atribuirle culpa al espejo es caer en una ilusión porque carece completamente de agencia moral.

La responsabilidad no se puede automatizar ni delegar en un software de IA. El marcador de compromisos éticos de Brandom siempre regresará al mismo lugar: a los hombros de los seres humanos que diseñan, programan y deciden apretar “enter” para usarla en su provecho. La inteligencia puede ser artificial y real, pero el dolor, el riesgo y la responsabilidad siguen siendo patrimonio exclusivo de los seres vivos.

Referencias para profundizar:

Brandom, Robert (1994). Making It Explicit: Reasoning, Representing, and Discursive Commitment. Harvard University Press. (La base del pragmatismo inferencial y el marcador de compromisos).

Searle, John (1980). «Minds, Brains, and Programs». Behavioral and Brain Sciences. (El artículo original donde propone el experimento mental de la Habitación China y defiende el representacionalismo). [1]

Dennett, Daniel (1987). The Intentional Stance. MIT Press. (Obra cumbre donde argumenta que la mente es un patrón predictivo útil y minimiza el peso de la sintiencia pura).

Haugeland, John (1998). Having Thought: Essays in the Metaphysics of Mind. Harvard University Press. (Introduce el concepto clave de «Giving a damn» o la necesidad de que a un agente le importe su propia existencia).

Fuchs, Thomas (2018). Ecology of the Brain: The Phenomenology and Biology of the Embodied Mind. Oxford University Press. (Analiza por qué la homeostasis y la vulnerabilidad biológica son indispensables para la mente).

Noë, Alva (2009). Out of Our Heads: Why You Are Not Your Brain, and Other Lessons from the Biology of Consciousness. Hill and Wang. (Desmonta la idea de que