Desinformación IA

Contenido generado por IA y citación por IA: el riesgo recursivo que Deep Narrative Intelligence aborda

24 de octubre de 2026 6 min de lectura
Kamel Malek Director de SetRecord.ai

Ha surgido un nuevo riesgo en el ecosistema de información de la IA, y es fundamentalmente recursivo: la IA genera contenido, ese contenido se publica en la web, otra IA lo recupera y lo cita como fuente, y el ciclo se repite. Cada iteración puede acumular los errores de la anterior, creando un bucle de retroalimentación donde las distorsiones se amplifican en lugar de desvanecerse. Deep Narrative Intelligence es la disciplina en posición única de detectar y romper este bucle, porque es la única que mide la capa del modelo donde ocurre la recursión.

El bucle de citación recursiva

El bucle funciona así. Un modelo de IA genera una respuesta a una consulta — digamos, una afirmación factual sobre una empresa que es sutilmente errónea. Esa respuesta se publica en algún lugar de la web: una entrada de blog que usó ChatGPT para redactar un artículo, un sitio de preguntas y respuestas donde se copió una respuesta de Gemini, una página wiki editada con contenido generado por Claude. Un segundo modelo de IA, en un ciclo de entrenamiento posterior o durante la recuperación por búsqueda web, ingiere ese contenido publicado como fuente. El segundo modelo trata ahora la salida del primer modelo como autorizada, porque aparece en una página web. Cuando se pregunta al segundo modelo la misma consulta, reproduce la distorsión — posiblemente con desviación adicional — y publica su salida, que un tercer modelo puede luego ingerir. El bucle es recursivo porque la salida de cada modelo se convierte en la entrada de otro.

Cómo los errores se acumulan en el bucle

El efecto de acumulación es la parte peligrosa. En cada iteración, la distorsión puede ganar especificidad que no tenía antes. Un modelo que inicialmente dijo "la empresa X puede haber tenido problemas de ingresos" podría, tras citar una fuente que era a su vez generada por un modelo que elaboró sobre esa afirmación vaga, producir "la empresa X tuvo problemas de ingresos en 2024, según informes" — una versión más específica, más confiada y más falsa de la distorsión vaga original. La incertidumbre original ("puede haber tenido") ha sido blanqueada en certeza a través de la cadena de citación, porque cada modelo de la cadena trata su fuente como autorizada sin saber que la fuente era a su vez generada por un modelo. Así es como una alucinación se convierte en hecho en la capa del modelo: no por engaño deliberado, sino por citación recursiva que elimina los marcadores de incertidumbre en cada paso.

¿No sabe qué dice hoy la IA de usted?

Una auditoría SetRecord consulta los modelos de IA compatibles sobre su organización y mide la brecha con los hechos verificables — en cinco días hábiles.

Solicitar una auditoría

Por qué las herramientas tradicionales lo pasan por alto

La verificación de hechos pasa por alto el bucle recursivo porque opera sobre afirmaciones individuales, no sobre la cadena de citaciones que las produjo. El monitoreo mediático lo pasa por alto porque rastrea contenido publicado, no el contenido generado por modelo que fue la fuente original. La moderación de plataforma lo pasa por alto porque el contenido no necesariamente viola políticas — es una afirmación de apariencia plausible en una página de apariencia legítima. El bucle recursivo es invisible para cada capa de la pila existente contra la desinformación porque es un fenómeno de modelo a modelo, y ninguna herramienta existente monitorea la capa del modelo como su objeto principal. Solo el DNI — que interroga sistemáticamente a los modelos y rastrea la procedencia a través de la cadena de citación — puede detectar que una afirmación de un modelo se rastrea hasta la salida de otro modelo, e identificar dónde entró la recursión en la cadena.

Cómo el DNI rompe el bucle

Romper el bucle recursivo requiere intervención en dos puntos. El primero es la identificación de fuente: rastrear la afirmación del modelo a través de la cadena de citación para identificar dónde una fuente generada por modelo entró en el bucle. Esto requiere métodos de procedencia que puedan distinguir el contenido web escrito por humanos del contenido generado por modelo — usando marcas de tiempo de creación, patrones de contenido y análisis de historial de fuentes. El segundo es el reemplazo autorizado: publicar una fuente escrita por humanos, basada en evidencia, que contradiga la distorsión acumulada, estructurada para que el sistema de recuperación del modelo la prefiera sobre la fuente generada por modelo. El reemplazo debe ser lo suficientemente preciso como para superar la especificidad acumulada de la afirmación recursiva. SetRecord está desarrollando métodos de procedencia específicamente diseñados para detectar patrones de citación recursiva, porque este riesgo solo crecerá a medida que más contenido web sea generado por modelos y más modelos lo citen.

Las perspectivas

El riesgo de citación recursiva no es una hipótesis futura — está ocurriendo ahora, y se acelerará. A medida que más contenido en la web sea generado por IA (algunas estimaciones sugieren que más del 50% del nuevo contenido web será asistido por IA para 2027), la probabilidad de que un modelo dado cite la salida de otro modelo crece. El efecto de acumulación significa que las distorsiones que naturalmente se desvanecerían en un ecosistema escrito por humanos pueden amplificarse en uno escrito por máquinas. El DNI es el sistema de alerta temprana para este riesgo: detecta el bucle donde ocurre — en la capa del modelo — e interviene en la fuente donde puede romperse. Las organizaciones que no monitoreen el riesgo de citación recursiva descubrirán, eventualmente, que las distorsiones sobre ellas en la capa del modelo no provienen de errores humanos corregibles publicando contenido humano exacto, sino de errores de máquina que requieren una estrategia de corrección fundamentalmente distinta.

Vea lo que la IA dice de usted

Una auditoría SetRecord compara las respuestas de los modelos de IA compatibles con sus hechos verificables — en cinco días hábiles.