Entre dos consultas, un médico dispone de noventa segundos y una pregunta que una herramienta de apoyo a la decisión no fue diseñada para responder tan rápido: una combinación de fármacos poco habitual, un ajuste de dosis para un paciente con función renal reducida. Cada vez más, consulta a un asistente de IA generalista en lugar de llamar a un farmacéutico. La mayoría de las veces, la respuesta es correcta. Son las excepciones las que constituyen el problema.
La pregunta formulada entre dos pacientes
Los sistemas de apoyo a la decisión clínica existen precisamente porque el conocimiento médico cambia más rápido de lo que un solo clínico puede seguir, y porque equivocarse tiene un coste humano directo. Están diseñados, validados y actualizados bajo un control regulatorio que la mayoría de los asistentes de IA de consumo nunca ha enfrentado.
Sin embargo, la herramienta más rápida de la sala suele ser hoy un asistente generalista abierto en una pestaña del navegador —no porque los clínicos confíen más en él, sino porque está disponible al instante y responde en lenguaje sencillo. El flujo de trabajo que sustituye, de manera informal, es la conversación de pasillo con un colega o la llamada a farmacia. El que no sustituye, y para el que nunca fue validado, es el propio formulario.
Cómo se cita mal una guía clínica
Las alucinaciones clínicas comparten una causa estructural con las financieras: el modelo reconstruye una respuesta de apariencia plausible a partir de fragmentos, en lugar de recuperar una única fuente con autoridad y fechada. En un contexto clínico, los patrones recurrentes que observamos son:
- Guía superada — una dosis o contraindicación correcta bajo una versión anterior de una guía, presentada como vigente.
- Confusión de poblaciones — un hallazgo de un ensayo en una población concreta (grupo de edad, perfil de comorbilidades) generalizado como si aplicara universalmente.
- Interacciones inventadas — una advertencia de interacción entre fármacos que suena prudente y plausible pero no figura en la ficha técnica aprobada de ninguno de los dos.
- Seguridad sin matices — una respuesta formulada con el mismo registro afirmativo, ya sea la evidencia subyacente un gran ensayo aleatorizado o un único caso clínico.
Nada de esto proviene de un intento del modelo de engañar. Es el resultado previsible de un sistema entrenado para sonar autorizado, aplicado a un campo donde la diferencia entre dos respuestas de apariencia similar puede ser la diferencia entre una dosis segura y una peligrosa.
Por qué las afirmaciones clínicas exigen un nivel de evidencia superior
No todas las fuentes valen lo mismo, y la medicina ha dedicado décadas a construir jerarquías formales para afirmarlo: un ensayo aleatorizado revisado por pares prevalece sobre un estudio observacional, que prevalece sobre un caso clínico aislado, que prevalece sobre una publicación de foro sin revisar. Un modelo que trata un foro sobre medicamentos y una ficha técnica aprobada por un regulador como texto intercambiable para su comparación estadística ha, en la práctica, descartado esa jerarquía.
Esta es precisamente la brecha que nuestra propia metodología fue diseñada para hacer visible también fuera de la salud: no si una afirmación suena segura, sino si se remonta a una fuente cuyo peso probatorio corresponde a lo que afirma.
¿No sabe qué dice hoy la IA de usted?
Una auditoría SetRecord consulta los modelos de IA compatibles sobre su organización y mide la brecha con los hechos verificables — en cinco días hábiles.
Lo que está en juego para la seguridad del paciente
Un error factual sobre la facturación de una empresa es un problema reputacional. Un error factual sobre una interacción farmacológica, transmitido con seguridad a un clínico que confiaba en la herramienta para ahorrar tiempo y no para sustituir su criterio, pertenece a una categoría de riesgo completamente distinta. No necesita ocurrir a menudo para importar: una sola respuesta incorrecta, seguida una sola vez, ya constituye un evento de seguridad del paciente.
Las instituciones sanitarias que aún no han cartografiado dónde recurren ya sus clínicos a asistentes de IA generalistas no evitan la exposición; simplemente no pueden medirla. Las herramientas se usan, estén o no autorizadas, lo que convierte el silencio en la postura más arriesgada de todas.
Las aseguradoras, la asesoría jurídica hospitalaria y los responsables de seguridad clínica plantean cada vez más la misma pregunta con otras palabras: si una respuesta incorrecta basada en IA contribuyó a una decisión asistencial, ¿quién responde por ello, y qué evidencia existe de que la institución tuviera alguna visibilidad sobre ese intercambio? Una organización sin monitoreo no tiene respuesta a ninguna de las dos preguntas, lo cual es en sí mismo la exposición que conviene abordar primero.
Cómo es una respuesta clínica creíble
Una respuesta de IA fiable en un contexto clínico debería poder rastrearse hasta una fuente nombrada, fechada y con versión: una ficha técnica vigente, una guía publicada concreta con su fecha de revisión, una revisión sistemática en lugar de un estudio aislado. Debería distinguir entre una indicación aprobada y un uso fuera de ficha técnica. Y, de forma crucial, debería poder decir «la evidencia sobre esto es mixta» o «no dispongo de una respuesta actualizada» en lugar de recurrir por defecto a una certeza fluida.
Un protocolo de verificación para instituciones sanitarias
Las instituciones no necesitan prohibir los asistentes de IA generalistas para gestionar este riesgo —ese barco ya zarpó en gran medida. Necesitan una forma de ver qué dicen realmente los asistentes que su personal ya utiliza. Un protocolo viable:
Cartografiar las preguntas reales
Identifique las interacciones farmacológicas, los casos límite de dosificación y las preguntas sobre guías que los clínicos tienen más probabilidades de plantear informalmente a un asistente de IA, según la composición de sus especialidades.
Consultar y comparar
Plantee esas preguntas a los principales asistentes y compare cada respuesta con el formulario vigente y las guías adoptadas por su institución —no con lo que suene razonable.
Seguir las actualizaciones de las guías
Vuelva a probar después de cada revisión de guía. Un modelo que era exacto en un ciclo de entrenamiento puede volverse silenciosamente erróneo en cuanto la práctica clínica avanza y sus fuentes subyacentes no lo hacen.
Ir más allá con SetRecord
SetRecord aplica esta misma disciplina de auditoría a organizaciones sanitarias: cartografía de las preguntas clínicas que su personal realmente plantea a los asistentes de IA, puntuación de cada respuesta frente a su formulario y guías aprobadas, y rastreo de errores hasta su origen probable. Esto se suma a su gobernanza clínica, sin sustituirla —consulte nuestra metodología para saber cómo trazamos ese límite.