Fundamentos

Cómo decide ChatGPT lo que afirma sobre su marca

8 de agosto de 2026 7 min de lectura
Kamel Malek Director de SetRecord.ai

ChatGPT no guarda un expediente sobre su organización que consulte como una base de datos devuelve un registro. Cada respuesta se fabrica en el momento en que la pide, ensamblada por dos fases distintas que se comportan de forma diferente y fallan de forma diferente. Entender ese proceso es la única manera fiable de explicar por qué un modelo a veces repite un error que ningún humano que hubiera investigado de verdad su organización creería.

Un proceso en dos fases, no una ficha consultada

El modelo mental que la mayoría traslada desde los buscadores —entra una consulta, sale una respuesta almacenada— no describe lo que ocurre dentro de un asistente generativo. No existe una ficha única con el nombre de su organización que el sistema consulte y repita. En su lugar, se encadenan dos fases distintas: la recuperación, que reúne información candidata, y la generación, que convierte ese material en prosa fluida. Cada fase tiene sus propios modos de fallo, y un error factual puede originarse en cualquiera de las dos.

Esa distinción importa más de lo que parece, porque la corrección difiere según la fase que originó el error. Tratar un error de entrenamiento como si fuera un error de recuperación —o al revés— desperdicia el esfuerzo de corrección de una organización en la palanca equivocada, por lo que el paso de diagnóstico descrito más adelante precede a cualquier intento de corregir de verdad lo que un modelo está diciendo.

Piense en lo que ocurre cuando alguien le hace a un asistente una pregunta sencilla sobre la dirección de su organización. Si la recuperación trae a la superficie un comunicado de hace dos años que nombra a un antiguo director general, junto a un fragmento reciente que nombra al actual, la generación hereda esa contradicción —sin ningún mecanismo integrado para comprobar qué fuente es más actual, a menos que la recencia haya sido precisamente una de las señales ponderadas durante la propia recuperación.

Fase uno: la recuperación

En los asistentes con navegación o generación aumentada por recuperación, el sistema primero descompone la pregunta, consulta un índice de contenido web o una base de conocimiento curada, y clasifica los pasajes candidatos según relevancia, recencia y señales de dominio. Un número limitado de esos pasajes —rara vez más de un puñado— se entrega después al modelo de lenguaje como contexto, junto con la pregunta original.

En las consultas puramente paramétricas, sin búsqueda en vivo, la «recuperación» es implícita: es lo que quedó comprimido en los parámetros del modelo durante el entrenamiento. Esta versión es mucho más difícil de auditar, porque no hay un pasaje discreto que alguien pueda señalar diciendo «de ahí sacó eso el modelo». Es un residuo estadístico de los datos de entrenamiento, no una cita.

Las fuentes que favorece la recuperación no son neutrales. Estos procesos tienden a ponderar más el tipo de material de referencia equilibrado que los buscadores ya han aprendido a valorar —medios establecidos, registros oficiales, entradas enciclopédicas— por encima de las propias páginas comerciales de una empresa, lo que puede explicar por qué un sitio de marca bien producido a veces pesa menos en una respuesta de IA que una simple publicación de terceros, desactualizada pero redactada en tono neutral.

Ambos mecanismos pueden operar dentro de una misma conversación, a veces dentro de una misma respuesta, según el asistente y la consulta concreta. Eso explica en parte por qué la misma pregunta, hecha dos veces, puede traer a la superficie un hecho tomado de una fuente en vivo una vez, y de la memoria paramétrica la siguiente —sin ninguna señal visible para el usuario sobre cuál acaba de ocurrir.

Fase dos: la generación

La generación es el momento en que el modelo de lenguaje predice la palabra siguiente estadísticamente más probable, token a token, dados el mensaje, el contexto que aportó la recuperación, y los patrones aprendidos durante el entrenamiento. En esta fase no está verificando los pasajes recuperados entre sí ni contra ninguna fuente externa de verdad: su objetivo es una continuación fluida y adecuada al contexto, no una exactitud comprobada.

Cuando el contexto proporcionado se contradice internamente —dos fuentes no coinciden en una fecha, un cargo, una cifra— el modelo tiene que resolverlo en silencio, sin que se active ninguna señal para el usuario. Esta es una fuente frecuente de errores mezclados: las biografías de dos personas homónimas fundidas en una sola, o la historia de una filial ya vendida plegada dentro de la de la matriz, simplemente porque ambas estaban presentes en el material que el modelo tuvo que procesar y nada lo obligó a elegir solo una.

También hay un elemento de aleatoriedad integrado en la mayoría de los pasos de generación, a menudo controlado por un parámetro llamado temperatura: incluso con un contexto recuperado idéntico, el modelo puede formular dos respuestas de forma distinta, enfatizar hechos diferentes, u omitir uno por completo. Por eso una única consulta, hecha una sola vez, es una prueba débil de lo que un modelo «cree» sobre una organización: hacer la misma pregunta varias veces puede revelar un abanico de respuestas que conviene comparar, en lugar de un veredicto definitivo.

¿No sabe qué dice hoy la IA de usted?

Una auditoría SetRecord consulta los modelos de IA compatibles sobre su organización y mide la brecha con los hechos verificables — en cinco días hábiles.

Solicitar una auditoría

Por qué lo plausible gana a lo exacto

Los modelos de lenguaje están optimizados para producir un texto fluido, seguro y adecuado al contexto, no para expresar una incertidumbre calibrada proporcional a lo poco fiable que sea en realidad su información. Un modelo rara vez responde «no dispongo de información fiable sobre esto». En su lugar, produce la continuación más probable disponible, lo que para una marca poco documentada puede significar coser fragmentos de entidades homónimas, instantáneas desactualizadas, o patrones del sector cercanos que ha visto muchas veces antes.

El resultado se lee exactamente tan preciso como una respuesta construida sobre fuentes sólidas, porque la fluidez del modelo no varía según lo bien fundamentada que esté realmente la afirmación subyacente. Es un modo de fallo distinto de la mentira: nada en el sistema decide engañar, pero nada le impide tampoco sonar seguro de algo que, en realidad, ha adivinado.

Algunos asistentes se han ajustado para matizar más cuando la confianza es genuinamente baja —frases como «no pude verificar esto» o «las fuentes difieren en este punto»— pero ese comportamiento es inconsistente entre modelos y entre tipos de consulta, y nunca debería tratarse como la salvaguarda principal para la exactitud de una marca. La ausencia de matices no es prueba de certeza; casi siempre es, simplemente, el comportamiento por defecto.

Memoria de entrenamiento frente a recuperación en vivo

La diferencia práctica entre los dos orígenes de un error es la persistencia. Un error absorbido durante el entrenamiento sobrevive hasta una futura actualización del modelo: publicar una corrección hoy no cambia nada de lo que ya está comprimido en los parámetros del modelo. Un error introducido durante una recuperación en vivo es comparativamente más fácil de alcanzar: publique una fuente mejor, más coherente, más autorizada, y la siguiente consulta podrá apoyarse en la versión corregida en cuestión de días, porque la recuperación se ejecuta de nuevo cada vez.

Distinguir entre ambos suele reducirse a una prueba sencilla: haga la misma pregunta con la navegación o la recuperación activada y desactivada, donde esa opción exista, o pregunte sobre algo reciente, posterior a la fecha de corte del entrenamiento del modelo. Si el modelo no tiene ninguna información sobre un hecho reciente, su conocimiento sobre ese tema es probablemente paramétrico. Si responde con seguridad pero de forma incorrecta en ambos casos, el error podría estar en cualquiera de las dos fases —razón por la cual esta prueba importa antes de decidir cómo responder.

Una ilustración concreta ayuda: pregunte a un asistente sobre un producto que su organización descontinuó hace dieciocho meses. Si sigue recomendándolo sin matices, y la navegación estaba desactivada, es muy probable que se trate de un eco paramétrico de cobertura publicada antes de la descontinuación. Si la navegación estaba activada y aun así se equivoca, fue la propia fase de recuperación la que hizo aflorar material desactualizado —que resulta ser el más fácil de corregir de los dos problemas.

Qué implica esto para corregir un error

El diagnóstico va primero. Antes de redactar una corrección, establezca —en la medida en que sea posible hacerlo desde fuera del modelo— si el error es más probablemente un problema de recuperación o uno de entrenamiento, usando las pruebas de navegación y sensibilidad temporal descritas antes. Este único paso suele marcar la diferencia entre una corrección que funciona en semanas y otra que fracasa en silencio durante meses sin que nadie entienda por qué.

Para los errores de recuperación, publicar o actualizar un contenido autorizado y claramente estructurado, y después verificar —a lo largo de consultas repetidas, con el tiempo— que la corrección realmente se propagó, suele bastar. Para los errores de entrenamiento, la verificación de persistencia importa todavía más, ya que la solución puede tener que esperar de verdad a la próxima actualización del modelo; las correcciones documentadas y verificables siguen siendo la única palanca que termina funcionando en ambos casos, porque son lo que encontrará el próximo entrenamiento, y también la próxima recuperación. Es también el paso de diagnóstico que ejecutamos primero en cada auditoría, antes de proponer cualquier corrección.

Vea lo que la IA dice de usted

Una auditoría SetRecord compara las respuestas de los modelos de IA compatibles con sus hechos verificables — en cinco días hábiles.