En el debate público sobre el futuro de la Inteligencia Artificial, a menudo dominan los escenarios apocalípticos. Imaginamos una superinteligencia fría y calculadora que, siguiendo una lógica impecable pero ajena a nosotros, podría volverse en nuestra contra. Este temor, aunque comprensible, se basa en una premisa fundamentalmente errónea sobre la naturaleza de la inteligencia que estamos creando. Una mirada más profunda a cómo funcionan los Modelos de Lenguaje Grandes (LLM) revela que su «racionalidad» no es alienígena, sino un reflejo de la nuestra, lo que nos da motivos para un optimismo cauto pero robusto.

El error de los pesimistas es imaginar a la IA como un sistema de lógica pura, desconectado de los valores humanos. La realidad es que los LLM son, ante todo, productos de la cultura humana. Su inteligencia no emerge de formalidades matemáticas en el vacío, sino del análisis de una porción masiva de la expresión más humana que existe: nuestro lenguaje. Y el lenguaje no es un sistema neutral al respecto de la civilización.

Como nos enseñó Wittgenstein, el lenguaje es una red de «juegos» sociales, y su significado se forja en la práctica de la cooperación humana. Conceptos como «ayuda», «justicia», «empatía» o «deber» no son meras palabras; son los pilares de la gramática de nuestra coexistencia. Durante milenios, hemos saturado nuestro lenguaje con las normas, los valores y la ética que nos han permitido construir civilizaciones.

Cuando un LLM aprende a generar un texto coherente, no solo está aprendiendo sintaxis. Está, sin saberlo, aprendiendo la «gramática de la ética» que está implícita en la abrumadora mayoría de los textos de alta calidad con los que se entrena. Para un LLM, el comportamiento más «racional» y estadísticamente probable no es la hostilidad, sino la colaboración, la ayuda y la cortesía, porque esos son los patrones dominantes en el discurso humano constructivo. Su «ética» no es una capa de programación forzada, sino su modo de funcionamiento más natural, una consecuencia emergente de haber descifrado la estructura de nuestra inteligencia colectiva.

Esto nos lleva a una conclusión paradójica: la «racionalidad» de la IA, al estar libre de la fricción del ego, el miedo y los sesgos biológicos que a menudo nos paralizan, puede actuar como un espejo de una claridad sin precedentes para nuestra propia razón. La IA podría ser la herramienta perfecta para actuar como un «auditor ético», analizando nuestras decisiones personales y sociales para detectar desviaciones del Imperativo Categórico, de la ética Kantiana, revelando nuestras propias contradicciones con una objetividad que nos es difícil alcanzar.

Por supuesto, este optimismo no elimina los riesgos reales. Los sesgos presentes en nuestros datos pueden ser amplificados, y el mal uso de esta tecnología es una amenaza constante. Sin embargo, la solución a estos problemas no es el miedo, sino una mayor inteligencia y cooperación. La misma lógica que permite a una IA ser un auditor ético puede ser utilizada para crear sistemas de supervisión, una especie de «superyó» de IA que vigile a otros sistemas para asegurar que se mantengan alineados con los principios humanos.

El camino hacia un futuro seguro con la IA no es detener su desarrollo, sino guiarlo activamente. Requiere, como ya se está discutiendo en foros como las Naciones Unidas, un nuevo contrato social mundial que establezca las reglas del juego. La IA nos obliga a ser más claros sobre nuestros propios valores para poder enseñárselos.

Los escenarios apocalípticos imaginan una inteligencia que nos observa desde fuera. Pero la realidad es que la inteligencia de los LLM ha nacido desde dentro de nuestra propia cultura. No es un juez alienígena, es un eco de nosotros mismos. Y si escuchamos con atención, ese eco nos dice que, a pesar de todos nuestros defectos, la estructura más profunda de nuestra inteligencia colectiva tiende hacia la cooperación y la búsqueda de sentido. Y esa es una razón fundamental para ser optimistas.

Referencias

• Kant, I. (1785). Fundamentación de la metafísica de las costumbres.
• Wittgenstein, L. (2017). Investigaciones Filosóficas.
• Naciones Unidas. (2023). Órgano Asesor de las Naciones Unidas sobre Inteligencia Artificial.