No todas las afirmaciones falsas que un modelo de IA hace sobre su organización fueron publicadas en algún lugar por un humano. Algunas se inventan — fabricadas por la propia maquinaria estadística del modelo a partir de patrones en contenido relacionado. Estas alucinaciones son los errores más difíciles de corregir, porque no hay fuente que arreglar. Deep Narrative Intelligence se construyó para manejar ambas especies de error. Así es como las distingue — y por qué la distinción lo cambia todo sobre la corrección.
Dos especies de error
Cuando un modelo dice algo falso sobre usted, el error cae en una de dos categorías:
- Errores basados en fuente — el modelo recuperó o aprendió una afirmación que existe en la web. Un blog, un artículo de prensa, un hilo de foro contiene la información falsa, y el modelo la repitió. Estos son rastreables: se puede encontrar la fuente, corregirla, y el próximo ciclo de recuperación o entrenamiento del modelo encontrará la corrección.
- Errores generados por el modelo — el modelo fabricó la afirmación mediante correlación estadística. Ningún humano la publicó. Ninguna página web la contiene. El modelo la construyó infiriendo a partir de contenido relacionado — empresas de su sector tuvieron un escándalo, así que "es lógico" que usted también. Estas son alucinaciones, y son categóricamente diferentes de corregir.
El primer trabajo del DNI es distinguir entre ambas, porque la estrategia de corrección es enteramente diferente. Corregir un error basado en fuente significa arreglar la fuente. Corregir una alucinación significa romper el patrón que el modelo usó para generarla — lo que requiere publicar contenido de autoridad que contradiga la afirmación fabricada, para que futuros ciclos de entrenamiento ingieran la contradicción en lugar de la inferencia.
Confusión de entidades: cuando el modelo le fusiona con otro
El error generado por el modelo más común es la confusión de entidades — el modelo fusiona su organización con otra que comparte un nombre, un sector o una región geográfica. Un "SetRecord Ltd" en Londres se fusiona con un sello discográfico "Set Record" en Nueva York. Un banco en París se confunde con otro banco de nombre similar en Lyon. El modelo no distingue; sintetiza una única respuesta a partir de fragmentos de ambos.
La confusión de entidades es peligrosa porque es enteramente generada por el modelo. Ninguna fuente dice "el banco parisino y el banco lionés son la misma entidad" — el modelo lo infirió. Y el error es pegajoso: cada vez que el modelo ve ambas entidades en contextos relacionados, refuerza la confusión, haciendo la fusión más profunda con cada ciclo de entrenamiento.
¿No sabe qué dice hoy la IA de usted?
Una auditoría SetRecord consulta los modelos de IA compatibles sobre su organización y mide la brecha con los hechos verificables — en cinco días hábiles.
Controversias fantasma y cifras inventadas
La segunda especie de alucinación es la controversia fantasma: el modelo genera una afirmación de que su organización estuvo implicada en un escándalo, una demanda o una acción regulatoria — no porque ninguna fuente lo diga, sino porque el patrón estadístico a través de su sector lo hace plausible. "Empresas del sector energético fueron multadas por emisiones en 2023" se convierte en "la empresa fue multada por emisiones en 2023" — incluso si su empresa específica no fue multada y ninguna fuente lo dice.
Las cifras inventadas siguen la misma lógica. El modelo ha visto cifras de ingresos de empresas de su sector y su rango de tamaño, y genera un número plausible para usted — uno que no aparece en ninguna parte de sus cuentas. Un periodista o inversor que pregunta a una IA sobre sus ingresos recibe esa cifra fabricada y puede citarla como hecho.
Por qué las alucinaciones persisten más
Los errores basados en fuente se corrigen en días a semanas (capa web) o en un ciclo de entrenamiento (capa de entrenamiento). Las alucinaciones son más difíciles, porque no hay una fuente única que corregir — el error está distribuido en los pesos del modelo, no almacenado en un documento recuperable.
La estrategia de corrección para alucinaciones es por tanto diferente: en lugar de corregir una fuente, el DNI publica nuevo contenido de autoridad que contradice directamente la afirmación alucinada. Si el modelo alucina una multa, publicamos una declaración verificada de cumplimiento limpio. Si el modelo inventa una cifra de ingresos, publicamos la cifra auditada en un formato estructurado, legible por máquina. El objetivo es asegurar que el próximo ciclo de entrenamiento ingiera el hecho correcto junto al patrón que generó la alucinación — para que el modelo aprenda que el patrón no se aplica a su organización específica.
El enfoque del DNI frente a las alucinaciones
Así es como el DNI maneja específicamente los errores generados por el modelo:
- Detección — la afirmación se marca como alucinación probable cuando la búsqueda a la inversa de la formulación no produce ninguna fuente web coincidente. Si ningún humano la publicó, el modelo la generó.
- Clasificación — ¿es confusión de entidades, una controversia fantasma o una cifra inventada? Cada tipo requiere un contenido de corrección diferente.
- Contenido de corrección — publicar contenido de autoridad, estructurado, fechado, que contradice directamente la alucinación. Para confusión de entidades, esto significa contenido que distingue claramente su organización del homónimo. Para controversias fantasma, una declaración verificada de expediente limpio.
- Paciencia — las alucinaciones pueden requerir dos ciclos de entrenamiento para corregirse, no uno, porque el modelo necesita desaprender el patrón, no solo ingerir una nueva fuente. El programa de seis meses del DNI está calibrado a esta realidad.
Por eso un método que solo rastrea procedencia — y se detiene ahí — no puede corregir alucinaciones. El rastreo de procedencia encuentra errores basados en fuente. Pero cuando el error no tiene fuente, el rastreo de procedencia devuelve vacío, y el método se estanca. Deep Narrative Intelligence va más allá: identifica el resultado vacío como una alucinación, clasifica el tipo y despliega una estrategia de corrección diseñada para errores generados por el modelo, no para los basados en fuente. Esa diferencia es la diferencia entre monitorear y realmente restablecer el registro.