Las inteligencias artificiales generativas suelen percibirse como sistemas que reciben preguntas, comprenden su significado y producen respuestas. Sin embargo, esta descripción funcional puede ocultar las diferencias entre los mecanismos matemáticos que generan una respuesta, los procedimientos que comprueban determinadas propiedades y los programas externos que ejecutan operaciones.
Este análisis parte de una hipótesis: para comprender la IA generativa es necesario distinguir entre generar una representación, evaluar su validez y ejecutar una acción.
Un modelo neuronal basado en Transformer aprende regularidades a partir de datos y utiliza sus parámetros para generar salidas condicionadas por el contexto. Esa salida puede ser texto corriente, código o una llamada estructurada a una herramienta. Pero generar código no equivale a ejecutarlo, del mismo modo que generar una afirmación plausible no demuestra que sea verdadera.
Cuando se integra en una arquitectura tecnológica más amplia, el modelo puede interactuar con buscadores, calculadoras, bases de datos, clasificadores y otros programas. La capacidad efectiva del sistema surge entonces de la combinación de aprendizaje estadístico, interfaces de comunicación, mecanismos de control y ejecución convencional.
Esta arquitectura plantea dos problemas fundamentales:
- Epistemológico: ¿qué justifica que una respuesta de la IA se considere conocimiento y no simplemente una predicción plausible?
- Tecnológico y filosófico: ¿cómo debemos entender un sistema en el que una red neuronal aprendida puede seleccionar y activar operaciones externas sin atribuirle, por ello, conciencia o comprensión humana?
La conclusión provisional es que debemos evaluar estos sistemas por las operaciones que realizan, la evidencia que utilizan, las propiedades que verifican y las garantías que ofrecen, en lugar de deducir sus capacidades a partir de la fluidez de sus respuestas.
La IA como compresión estadística del conocimiento humano
Una primera aproximación consiste en imaginar los modelos generativos como una especie de archivo matemático del conocimiento humano digitalizado.
La metáfora de los «registros akáshicos» sirve como punto de partida, siempre que se entienda metafóricamente: no como un depósito universal de verdades al que la IA accede, sino como una representación aprendida de regularidades presentes en sus datos de entrenamiento.
Durante el entrenamiento, el modelo modifica millones o miles de millones de parámetros para aprender relaciones estadísticas entre elementos del lenguaje y otros datos. El conocimiento adquirido no se organiza necesariamente como una biblioteca de documentos individuales que puedan recuperarse de manera literal. Parte de la información queda representada de manera distribuida en los parámetros y en las capacidades que estos permiten.
Esto tiene varias consecuencias.
- Primero, una respuesta no tiene por qué haber existido previamente como texto almacenado. Puede construirse durante la generación mediante la combinación de patrones aprendidos.
- Segundo, la representación no es una reproducción exhaustiva de los datos originales. El modelo puede generalizar, combinar conceptos, omitir detalles y producir errores.
- Tercero, la cobertura del conocimiento está condicionada por los datos, las decisiones de selección y los procedimientos de entrenamiento. Las tradiciones orales, las lenguas poco representadas y los conocimientos que no se han documentado o digitalizado pueden quedar infrarrepresentados.
Por tanto, la metáfora de archivo o biblioteca que usamos en no pocas ocasiones debe utilizarse con cuidado. El modelo no contiene necesariamente todo lo que se escribió ni dispone de acceso automático a todo lo que existe en el mundo.
La idea central es que una IA generativa puede representar regularidades del conocimiento humano sin constituir por ello un registro completo, verificable o universal de ese conocimiento.
La diferencia entre probabilidad y verdad
El modelo generativo produce secuencias mediante un proceso de predicción condicionado por el contexto. En un transformer de lenguaje, esto implica calcular distribuciones sobre posibles tokens y generar una secuencia de acuerdo con el procedimiento de decodificación empleado.
Esta descripción técnica ayuda a explicar una confusión frecuente: que una respuesta resulte plausible no significa que sea verdadera.
Una afirmación puede encajar perfectamente con los patrones aprendidos y, sin embargo, ser falsa. El modelo también puede producir una explicación coherente a partir de premisas incorrectas o completar con detalles inventados una laguna de información.
Conviene distinguir tres conceptos:
- Plausibilidad: la respuesta encaja con patrones aprendidos y con el contexto.
- Exactitud: la respuesta coincide con los hechos o con el resultado correcto de una operación.
- Justificación: existe evidencia o un procedimiento adecuado que permite sostener la respuesta.
Estos conceptos están relacionados, pero no son equivalentes.
Tampoco debe confundirse la probabilidad asignada durante la generación con la probabilidad de que una afirmación sea verdadera en el mundo. La distribución sobre tokens es parte del mecanismo de producción del texto; no constituye por sí sola una medida calibrada de veracidad.
La temperatura de generación ilustra esta distinción. Modificarla afecta a la distribución utilizada para seleccionar tokens y, por tanto, a la diversidad de las salidas. No es un selector directo de respuestas completas ni un mecanismo que convierta una respuesta en más verdadera o más falsa.
La idea central es la fluidez lingüística y la confianza expresiva de una IA no constituyen pruebas suficientes de conocimiento.
¿Es el razonamiento una capacidad separada de la predicción?
El debate conduce a una pregunta más difícil. Si un modelo genera sus respuestas mediante mecanismos estadísticos aprendidos, ¿qué significa afirmar que razona?
Una posibilidad es considerar el razonamiento como una capacidad emergente de representaciones aprendidas, inferencias y operaciones encadenadas. El modelo puede utilizar regularidades para relacionar conceptos, resolver problemas, construir planes y generar secuencias intermedias que contribuyan a una solución.
Desde esta perspectiva, no sería necesario imaginar una facultad de razonamiento completamente separada del mecanismo neuronal para explicar todas las conductas que denominamos razonamiento.
Sin embargo, tampoco basta con describir todo el sistema como una simple predicción de la siguiente palabra para explicar su funcionamiento completo. Esa descripción caracteriza una parte fundamental de la generación autorregresiva, pero deja fuera la ejecución de programas, las consultas a herramientas, los controles externos y otros procedimientos.
Es necesario distinguir entre:
- El mecanismo estadístico que genera una salida.
- Las representaciones y procedimientos aprendidos que permiten resolver tareas.
- Los pasos explícitos que el sistema puede producir o utilizar durante una resolución.
- Los componentes externos que ejecutan operaciones o verifican propiedades.
Que una solución se construya paso a paso no demuestra, por sí solo, que exista un verificador externo. Del mismo modo, la existencia de una herramienta verificadora no garantiza que el sistema la utilice correctamente.
La comparación entre inteligencia humana e inteligencia artificial abre una cuestión filosófica adicional. El cerebro humano también aprende, predice, reconoce regularidades y realiza inferencias. Esto invita a investigar continuidades entre ambos sistemas, pero no demuestra que sean equivalentes en todos los aspectos cognitivos, biológicos o fenomenológicos.
La pregunta abierta es, ¿qué diferencias entre el razonamiento humano y el artificial pueden explicarse mediante la arquitectura, el aprendizaje y la interacción con el entorno; cuáles requieren hipótesis adicionales?
La pila tecnológica: generar, clasificar, verificar y ejecutar
Una de las distinciones más importantes de este análisis es que los sistemas de IA no tienen por qué consistir exclusivamente en una red generativa.
Una aplicación puede integrar diferentes componentes, cada uno diseñado para realizar una operación concreta.
| Componente | Función principal | Qué NO garantiza |
|---|---|---|
| Modelo generativo | Produce texto, código o salidas estructuradas | Que lo generado sea verdadero o ejecutable |
| Clasificador | Asigna categorías o puntuaciones | Que sus clasificaciones sean infalibles |
| Buscador o recuperador | Encuentra y ordena información | Que las fuentes sean correctas o pertinentes |
| Calculadora o programa | Ejecuta operaciones explícitas | Que se haya formulado correctamente la operación |
| Verificador formal | Comprueba propiedades definidas formalmente | Que las premisas representen correctamente la realidad |
| Modelo evaluador | Emite juicios aprendidos sobre una salida | Que esos juicios constituyan una prueba independiente |
| Orquestador | Coordina llamadas y resultados | Que el plan sea óptimo o que todas las acciones sean seguras |
Estos componentes no son intercambiables. Un clasificador de moderación puede evaluar si un contenido pertenece a una categoría de riesgo, pero no por eso comprueba su exactitud factual. Un validador de formato puede detectar que una respuesta incumple un esquema, pero no que su contenido sea falso.
La palabra «verificación» debe emplearse, por tanto, con precisión. Siempre hay que preguntar qué propiedad se está verificando, mediante qué procedimiento y bajo qué supuestos.
Además, no existe una única pila tecnológica universal para todos los modelos o productos. La composición y el orden de los componentes dependen de la aplicación. Los esquemas de arquitectura que se utilicen en los debates epistémicos, éticos o filosóficos vinculados a la inteligencia artificial deben presentarse como modelos conceptuales, salvo que se disponga de documentación que confirme la implementación específica.
¿Cómo pasa un transformer de una pregunta a una llamada a un programa?
Esta cuestión constituye el núcleo técnico más concreto del debate. Supongamos que una persona pregunta: «¿Cuánto es 18.734 × 926?».
El modelo podría generar directamente una respuesta textual. Pero, si dispone de una herramienta de cálculo y el sistema está configurado para utilizarla, también puede generar una llamada estructurada.
El proceso conceptual sería el siguiente:
Entrada → modelo neuronal → llamada estructurada → orquestador → calculadora → resultado → modelo neuronal → respuesta.La red neuronal no se convierte en una calculadora. Produce una salida que el entorno reconoce como una solicitud de utilizar una herramienta.
Para que eso funcione, el sistema debe proporcionar una interfaz que identifique las herramientas disponibles, sus descripciones y los argumentos que aceptan. El modelo aprende, mediante entrenamiento y otros condicionamientos, a producir llamadas compatibles con esos formatos.
A continuación, el orquestador interpreta la solicitud y despacha la operación. La calculadora realiza el cálculo mediante software convencional y devuelve el resultado. El modelo puede recibirlo y generar una respuesta en lenguaje natural.
Hay, por tanto, tres operaciones distintas:
- Generación: el modelo produce la llamada y sus argumentos.
- Control: el entorno interpreta la llamada, aplica las restricciones pertinentes y determina cómo tramitarla.
- Ejecución: el programa realiza efectivamente la operación solicitada.
El modelo puede proponer una expresión incorrecta y la calculadora puede evaluarla perfectamente. En ese caso, la ejecución será correcta respecto a la expresión recibida, aunque la respuesta global no resuelva correctamente la pregunta original.
Esta distinción demuestra que una herramienta externa puede aumentar la fiabilidad de una parte del proceso sin eliminar todos los errores del sistema.
¿Los lenguajes de programación están implícitos en la red neuronal?
Ahora nos vamos ha desviar por una rama paralela. Y es que una respuesta requiere distinguir entre conocimiento aprendido, formato de comunicación y capacidad de ejecución.
Durante su entrenamiento, un modelo puede aprender regularidades sobre lenguajes de programación, sintaxis, funciones, estructuras de datos y convenciones de uso de herramientas. Ese aprendizaje puede permitirle generar código o llamadas estructuradas sin que sea necesario interpretar sus parámetros como una biblioteca literal de programas almacenados.
Pero saber generar código Python no equivale a disponer de un intérprete de Python. Tampoco significa tener acceso a los archivos, procesos o permisos de una máquina.
De forma similar, un modelo puede generar una llamada a una herramienta sin tener esa herramienta disponible. La salida puede ser formalmente correcta y, aun así, no producir ningún efecto si el entorno no reconoce la llamada o no dispone del componente necesario.
La distinción esencial es la siguiente: representar una operación no equivale a ejecutarla.
Una salida puede adoptar varias formas:
- Texto literario que una persona interpreta.
- Código fuente que un intérprete podría procesar.
- Una expresión matemática que una calculadora podría evaluar.
- Un mensaje estructurado que un orquestador interpreta como una solicitud de acción.
Todas pueden ser producidas mediante mecanismos generativos relacionados, pero su función computacional depende de cómo se procesen después.
El lenguaje generado adquiere capacidad operativa cuando existe una infraestructura que lo reconoce, interpreta y ejecuta bajo unas reglas determinadas.
De la generación lingüística al control tecnológico
La distinción entre representación y ejecución, por lo tanto, tiene implicaciones más amplias. Cuando una IA se conecta a herramientas, deja de ser útil analizarla únicamente como un generador de respuestas. Pasa a formar parte de un sistema en el que las salidas lingüísticas o estructuradas pueden desencadenar operaciones sobre otros componentes.
Esto no implica necesariamente que el modelo tenga conciencia, intenciones humanas o una voluntad autónoma. Significa que su salida ocupa una posición funcional dentro de una arquitectura de control.
La capacidad de actuar depende de factores que exceden al modelo:
- Las herramientas que se le ofrecen.
- Las interfaces que debe utilizar.
- Los permisos concedidos.
- Las validaciones aplicadas.
- Las decisiones del orquestador.
- La forma en que se gestionan los errores y los resultados.
Por eso, el análisis de un sistema en la pretendida atribución de conocimiento o capacidad de razonamiento debe abarcar tanto al modelo generativo como a su entorno operativo. También es necesario evitar el extremo contrario, no toda interacción con una herramienta supone una autonomía amplia. Una llamada puede estar estrictamente delimitada, requerir autorización o limitarse a una operación muy concreta.
El grado de autonomía depende de la arquitectura y los permisos, no simplemente de que el modelo sea capaz de producir código o instrucciones.
El problema de la antropomorfización
Una parte importante de los errores al interpretar la IA procede de atribuir capacidades humanas basándose en la apariencia de su comportamiento.
Si una IA ofrece una explicación coherente, se puede concluir que comprende plenamente el tema. Si utiliza una calculadora, se puede imaginar que ha decidido hacerlo del mismo modo que una persona. Si produce una respuesta con seguridad, se puede interpretar esa seguridad como conocimiento.
Estas inferencias van más allá de lo que demuestra la conducta observable.
La alternativa no es negar de antemano cualquier capacidad funcional compleja, sino describirla con precisión. En lugar de afirmar simplemente que «la IA sabe», conviene especificar qué información maneja, qué operación realiza, qué evidencia utiliza y qué tipo de error puede cometer.
La cuestión no es únicamente terminológica. Las metáforas influyen en la confianza que depositamos en los sistemas, en cómo evaluamos sus límites y en qué grado de control les concedemos.
La advertencia principal es que una interfaz conversacional puede hacer que una arquitectura compuesta por modelos, programas y controles parezca un único agente humano. Esa apariencia no debe sustituir el análisis de los mecanismos reales.
Conclusiones finales
El hilo argumental de este acercamiento al conocimiento y razonamiento en las IAs puede resumirse en seis conclusiones:
- Primera. Un modelo generativo no es una biblioteca universal de verdades. Aprende representaciones y regularidades a partir de datos, con las limitaciones de cobertura y fiabilidad correspondientes.
- Segunda. La plausibilidad estadística no equivale a la verdad. Una respuesta coherente puede ser falsa; y la fluidez no constituye una garantía de conocimiento.
- Tercera. El razonamiento no debe reducirse sin más a la predicción lingüística, aunque la generación estadística sea fundamental en muchos modelos. Hay que distinguir el mecanismo generativo, las capacidades aprendidas y las operaciones adicionales de la arquitectura.
- Cuarta. Clasificar, buscar, calcular y verificar son operaciones diferentes. Cada una aporta garantías específicas y limitadas.
- Quinta. Una red neuronal puede generar salidas que un entorno tecnológico interprete como instrucciones ejecutables. El efecto computacional requiere una interfaz, un mecanismo de control y un componente capaz de ejecutar la operación.
- Sexta. La evaluación de una IA debe considerar el sistema completo: modelo, datos, herramientas, controles, permisos y resultados. Ningún componente aislado garantiza la fiabilidad global.
La conclusión general es que comprender la IA exige pasar de la apariencia conversacional a un análisis por capas. La pregunta importante no es solamente qué respuesta produce un modelo, sino qué proceso la genera, qué evidencia la sostiene, qué componentes intervienen y qué ocurre cuando la salida se transforma en una acción.
Por lo tanto, la inteligencia artificial generativa debe comprenderse no como una entidad única que sabe y actúa, sino como una arquitectura en la que modelos estadísticos producen representaciones que pueden ser evaluadas, interpretadas y ejecutadas por distintos componentes. La fiabilidad y la capacidad de acción del sistema dependen de las relaciones entre esas capas, de las evidencias que las sostienen y de los controles que limitan sus operaciones.