Elsevier Medical Education presenta una entrevista con Raman Kaur, Vicepresidenta de Tecnología Educativa en Elsevier Health, centrada en cómo una IA fiable y basada en evidencia puede apoyar la educación médica, explorando la precisión y el sesgo, las salvaguardas frente a las alucinaciones, la supervisión humana y la protección de datos.
Para quienes no estén muy familiarizados con el tema, ¿podrías explicar brevemente cómo integra la IA datos fiables para la educación médica?
La IA en educación médica funciona mejor cuando se basa en contenido médico de confianza y no solo en datos abiertos de internet. Creo que esto ya ha sido estudiado y demostrado: conectar nuestras herramientas educativas con contenido de confianza genera esa confianza epistémica con nuestros educadores y con nuestros estudiantes, y esa es una ventaja competitiva clave para cualquier herramienta. En la práctica, el sistema combina modelos de lenguaje de gran tamaño, conocidos más popularmente como IA generativa, con recursos educativos seleccionados como libros de texto revisados por pares, referencias clínicas, contenido de anatomía y materiales de evaluación. Junto a eso, nos gusta incorporar también experiencias de aprendizaje revisadas por educadores, porque ¿qué mejor que las experiencias reales de un educador para hacer que el componente de IA en la educación médica sea más sólido y fiable?
La IA de confianza en la práctica: ClinicalKey Student y Osmosis
De manera similar a Osmosis AI de Elsevier, la experiencia de usuario impulsada por IA ayuda a los estudiantes a reforzar conceptos a través de vídeos, tarjetas de memoria, bancos de preguntas, apoyo al aprendizaje adaptativo y una IA conversacional que se integra sobre todas estas capacidades. El valor reside en combinar la capacidad de la IA con el contenido educativo de confianza y los datos de participación del estudiante para crear una experiencia muy potente, personalizada y cuidadosamente seleccionada.
Si pudiera dar un ejemplo más a través de nuestros productos, como ClinicalKey Student, los estudiantes pueden acceder a referencias médicas basadas en evidencia, así como a libros de texto, vídeos y respuestas clínicas en un único ecosistema, con una experiencia todo en uno en lugar de tener que navegar por distintas pestañas, enlaces y formatos de contenido. La IA puede ayudar a encontrar la información más relevante de forma más rápida y apoyar itinerarios de aprendizaje más personalizados. Así es, en general, como estamos abordando la integración de la IA en la educación médica, con esa confianza epistémica en el centro.
¿Cómo se evalúa la precisión y el posible sesgo de este contenido, y qué herramientas se utilizan para ello?
La evaluación: nuestra salvaguarda con supervisión humana
Creo que, siendo la evaluación una de las partes más importantes de la incorporación de la IA en la educación sanitaria, nos sentimos muy cómodos añadiendo IA a nuestras herramientas. ¿Qué significa evaluación? La evaluación es esencialmente nuestro proceso de supervisión humana en el bucle. A medida que introducimos más capacidades de IA en nuestras plataformas de educación médica, existe una evaluación continua con supervisión humana para garantizar que identificamos y detectamos cualquier tipo de imprecisión o sesgo potencial antes de que llegue a manos de los estudiantes. La evaluación es, de hecho, una de las partes más importantes para garantizar que una herramienta de IA esté bien fundamentada y proporcione respuestas que aborden la información de forma constructiva y estén libres de cualquier tipo de alucinación
Criterios de evaluación y la revisión humana
Por ejemplo, si un estudiante utiliza una experiencia de apoyo con IA dentro de ClinicalKey Student para comprender una afección cardíaca, el sistema debe proporcionar información alineada con referencias de confianza y con los estándares médicos. Así, las organizaciones evalúan aspectos como la precisión factual, la seguridad clínica, la calidad de las citas y el sesgo en las poblaciones de pacientes. Buscamos todos estos tipos de problemas que pueden surgir cuando la IA ofrece una respuesta, para garantizar que nuestras herramientas sigan siendo sólidas y fiables, y ofrezcan respuestas éticamente correctas y alineadas con la educación.
También hay un componente importante de revisión humana. No vamos a lanzar nuestras herramientas sin que se lleve a cabo esa revisión humana. Queremos ver un determinado tipo de puntuación de revisión. Queremos ver una determinada puntuación de precisión y ausencia de sesgo antes de que entre en el ecosistema del conocimiento médico.
Por qué la evaluación es continua y no puntual
También hay que tener en cuenta que la evaluación es un proceso continuo. Lo que quiero que la gente entienda es que, una vez que se realiza la evaluación de una versión de una herramienta de IA en educación médica, no nos detenemos ahí. Esta evaluación se lleva a cabo tanto de forma puntual como de manera sistemática y continua, porque la educación médica es un campo en rápida evolución. Los sistemas de IA en educación sanitaria no pueden simplemente configurarse y olvidarse. Realizamos evaluaciones de forma constante.
"Uno de los mayores riesgos de la IA en el ámbito sanitario no es que el sistema suene inseguro, sino precisamente cuando suena extremadamente seguro mientras está equivocado. Por eso contamos con un marco de evaluación específico para las alucinaciones."
Raman Kaur, Vicepresidenta de Tecnología Educativa, Elsevier | Elsevier Faculty Hub, junio de 2026
¿Qué son las "alucinaciones" en IA y cómo pueden dificultar el uso efectivo de la IA en la educación médica?
Cómo se manifiestan las alucinaciones en la educación médica
En el contexto de la IA, una "alucinación" ocurre cuando los sistemas de IA generan información que suena convincente pero que en realidad no es correcta. Se trata de piezas de información fabricadas y ensambladas que, de nuevo, hacen pensar que suenan razonables, pero no lo son del todo. Y si las miras rápidamente, podrías incluso no darte cuenta de que se trata de un fragmento alucinado y no de información precisa. En educación médica, esto podría manifestarse como la invención de una cita clínica para una investigación médica u otras disciplinas. Es un problema muy frecuente. También los identificadores DOI se están inventando con frecuencia últimamente —aunque está mejorando—, y eso sería una señal de alerta. O dar una explicación inexacta de un proceso patológico porque se han conectado dos síntomas de nombre similar en uno solo. También puede ocurrir sugiriendo guías de tratamiento desactualizadas: si nuestra guía de tratamiento se actualizó el año pasado, el sistema podría recuperar una versión anterior. O incluso etiquetando incorrectamente estructuras anatómicas, porque hay que recordar que el cerebro humano procesa más contexto del que puede procesar la IA. Por ejemplo, podría etiquetar un epicóndilo junto a un bíceps. Ahí es donde puede producirse una alucinación.
Por qué las alucinaciones son especialmente peligrosas para los estudiantes
Hay que tener en cuenta que detectar estas alucinaciones a través del proceso de evaluación que mencioné antes es absolutamente crítico, porque las personas que consumen nuestros materiales de educación sanitaria con IA aún no son expertas. No querríamos que asentaran su aprendizaje en sistemas inexactos. Por eso, los sistemas de IA sanitaria de confianza se apoyan en gran medida en lo que mencioné antes: contenido médico fundamentado, citación y trazabilidad, supervisión humana, evaluaciones continuas y monitorización de la seguridad.
La monitorización de la seguridad y el riesgo de los errores con confianza
La monitorización de la seguridad es otro elemento probablemente exclusivo de las herramientas de educación sanitaria, a diferencia de, por ejemplo, una herramienta de IA para ventas. El componente de seguridad es realmente importante, porque quieres asegurarte de que la información que se obtiene de nuestra herramienta es relevante, está actualizada y es el método correcto para construir potencialmente el conocimiento sobre un futuro tratamiento o una futura intervención quirúrgica. Uno de los mayores riesgos de la IA en el ámbito sanitario no es que el sistema suene inseguro, sino precisamente cuando suena extremadamente seguro mientras está equivocado. Por eso contamos con un marco de evaluación específico para las alucinaciones.
¿Cuáles son las características o requisitos clave de una arquitectura de IA confiable, tanto en términos de contenido como de implementación, en la educación médica o sanitaria?
Esto es básicamente en lo que vivimos y respiramos cada día. ¿Cómo hacemos que las soluciones de IA sean fiables en la educación sanitaria y construimos una arquitectura sostenible que mantenga ese nivel de fiabilidad?
Gobernanza y fuentes de confianza
Para situarnos, ¿cómo es un sistema de IA fiable? En el ámbito de la educación médica o cualquier educación sanitaria, comienza con una gobernanza sólida en torno al contenido, así como con la incorporación de fuentes de confianza desde las que la IA referencia ese contenido. Por ejemplo, ClinicalKey Student reúne referencias médicas autorizadas y un entorno de recursos de aprendizaje estructurado. Es una combinación muy potente. En el caso de Osmosis, se trata de un refuerzo y una experiencia de aprendizaje personalizada a través de contenido de vídeo adaptado. Complete Anatomy es, por supuesto, uno de nuestros favoritos. Ofrece una educación anatómica visual e interactiva de alto nivel y te permite identificar estructuras a las que de otro modo no tendrías acceso, incluso en un entorno de laboratorio de alta fidelidad.
Contenido basado en evidencia, citas y supervisión humana
La capa de IA debería potenciar esas experiencias de confianza, no evitarlas. Hay varias características que podemos identificar en las herramientas que consideraríamos fiables en educación médica. De nuevo, y sé que lo repito, pero el contenido basado en evidencia es absolutamente crítico. También lo es la transparencia en las citas, para que sepas que tu aprendizaje proviene de una fuente trazable y fundamentada en la realidad. La supervisión humana es esencial. Nunca debería asumirse que una herramienta de IA en educación puede simplemente reemplazar a un docente. Eso no es una opción.
Arquitectura de privacidad y seguridad
También cuenta, desde el punto de vista arquitectónico y de sostenibilidad, con amplias protecciones de privacidad y seguridad. Por qué es importante: habrá momentos en que nuestro contenido sea algo que queramos hacer descubrible, o que se vuelva descubrible sin que sea una decisión nuestra. Por eso la protección de la privacidad y la seguridad del ecosistema de IA es muy crítica: nuestro contenido es lo que impulsa nuestras herramientas de IA, y no querríamos que ese contenido se usara en un contexto equivocado, porque el contexto lo es todo. La monitorización y evaluación continua sigue siendo una parte muy esencial de la arquitectura sostenible de una herramienta de IA fiable para la educación médica. Y por último, el rendimiento fiable del sistema. ¿Cuántas veces una herramienta de IA te ha dicho "estoy sin capacidad", "no sé la respuesta a eso" o "lo siento, no puedo ayudarte"? Esas experiencias deterioran la percepción del usuario sobre la herramienta, así que debemos asegurarnos de que nuestra arquitectura soporte suficiente capacidad de procesamiento y velocidad para no decepcionar a nuestros usuarios.
Los dos indicadores de una IA de aprendizaje fiabl
Para resumir en dos puntos principales: primero, una IA fiable debe apoyar el pensamiento crítico, no reemplazarlo. Es decir, desafiar al usuario a pensar por sí mismo con el tipo correcto de información y contexto. Y segundo, el mejor sistema de IA educativo guía a los estudiantes hacia una comprensión profunda en lugar de simplemente generar y escupir respuestas. Así que, si quisieras hacer una evaluación rápida, estas dos cosas te dirán que se trata de una herramienta de IA fiable y sólida para el aprendizaje en entornos médicos.
¿Qué desafíos plantea actualmente la protección de datos para el uso de la IA en el contexto de la educación médica?
Protección de datos y flujos de datos definidos
¿Recuerdan cuando hablamos de las alucinaciones? Pues bien, lo que está ocurriendo hoy es que ciertos problemas de fuga de contenido, que están relacionados con la protección de datos, permiten que algunas herramientas de IA de código abierto ensamblen información como el monstruo de Frankenstein, lo que obviamente favorece más alucinaciones y más sesgos. Por eso nuestro enfoque se centra intensamente en la innovación, pero también en proteger nuestros datos y crear los flujos de datos adecuados que se conecten con nuestras herramientas de IA. En esencia, es tan simple como: "¿cuál es tu área de conocimiento y qué herramienta de IA estás usando?" Si soy un estudiante de medicina y uso Osmosis AI, puedo confiar en que estoy obteniendo la información correcta porque sé que hay contenido de confianza y flujos claramente definidos hacia ese contenido que respaldan mi experiencia con Osmosis AI. Sin embargo, si acudo a una herramienta de IA de código abierto que no está diseñada para la educación médica, no puedo garantizar que vaya a obtener la respuesta más precisa, fundamentada, éticamente correcta, libre de sesgos y libre de alucinaciones. Por eso, la correspondencia entre el área de conocimiento y el uso correcto de la herramienta de IA adecuada es extremadamente importante, y ahí es donde entra en juego la protección de datos.
La protección de datos se convierte en una consideración muy importante para nosotros porque las herramientas de IA sanitaria implican obviamente información sensible de pacientes, y la educación médica implica ofrecer el contenido en el entorno adecuado, ya que estas personas serán futuros clínicos. Las instituciones que usan plataformas de aprendizaje habilitadas con IA con alta confianza quieren asegurarse de que tienen implementada la privacidad de los estudiantes y que cumplen con la normativa. Pueden existir distintas directrices en, por ejemplo, Norteamérica frente a una región europea. Incluso dentro de los países, diferentes regiones pueden seguir directrices distintas. Por eso, esa fiabilidad, la protección de datos y los flujos de datos son muy importantes.
Protección del uso de terceros: pasarelas de datos, políticas de retención y controles
Además, el uso de modelos de terceros es un tema muy relevante. Como cualquier organización innovadora que avanza rápidamente, contamos con muchos proveedores externos que nos ayudan a llegar al mercado más rápido. Sin embargo, la segmentación de los datos entre ellos y la creación de una pasarela segura que solo permita compartir capacidades y no datos es un aspecto muy importante de nuestras aplicaciones y plataformas de aprendizaje. Las políticas de retención también son muy importantes. Conservamos cierto nivel de información sobre los prompts para asegurarnos de que, si en el futuro se reportara una alucinación o un sesgo, podamos volver atrás y examinar cómo fue esa interacción. Y por último, los controles de seguridad. Solo querríamos que los usuarios con licencia que se supone que deben acceder a la herramienta tengan acceso a nuestra plataforma. No debería ser una persona cualquiera la que acceda a nuestro sitio de aprendizaje buscando respuestas. Creo que ese no es el uso correcto de nuestra información, y por eso entra en juego la protección de datos.
Hacia dónde se dirige la gobernanza de datos
Para conectar todo lo anterior, existe obviamente una necesidad creciente de garantizar que la información institucional sensible o la información clínica esté bien protegida y no quede expuesta involuntariamente a través de los flujos de trabajo de IA a la internet abierta. También creo que el futuro implicará modelos de gobernanza más sólidos. Sé que las cosas están evolucionando muy rápidamente hoy en día, pero la gobernanza, lamentablemente, siempre va un poco a la zaga. Lo estamos viendo en tiempo real ahora, donde los clientes están exigiendo patrones de gobernanza para garantizar que sus datos están protegidos a través de nuestras herramientas de IA, y tenemos los registros para poder demostrarlo. Y por último, cómo preservamos la privacidad a través de la arquitectura de IA y una transparencia clara de nuestros estándares, lo cual es una demanda generalizada en el sector hoy en día.
En tu opinión, ¿cuáles son las principales tendencias o direcciones que darán forma al futuro de la IA en la educación sanitaria?
Personalización: la herramienta adecuada para el usuario adecuado
Hay muchas cosas, pero si tuviera que resumirlas, diría que hay tres tendencias que estamos viendo. La personalización es una de las más importantes: la habilidad adecuada, el usuario adecuado, la herramienta de IA adecuada. La personalización se está volviendo muy importante porque una herramienta de IA genérica te lanza muchísima información y no creo que tengamos tiempo de filtrar los interminables párrafos que produce una herramienta genérica. Por eso, esa experiencia personalizada y la mayor adaptación de las experiencias de aprendizaje al individuo son extremadamente importantes. Esto se está haciendo cada vez más evidente con nuestros estudiantes individuales actuales, los usuarios docentes, así como con nuestros potenciales clientes.
Aprendizaje multimodal
La segunda es el aprendizaje multimodal. Todos sabemos que el coste de la IA sigue siendo bastante elevado. Puede resultar económicamente prohibitivo para ciertas instituciones más pequeñas acceder a experiencias de aprendizaje impulsadas por IA. Por eso, estamos yendo más allá del texto hacia experiencias más inmersivas e interactivas que, a su vez, generan un arbitraje en el coste de los tokens. En esencia, lo que buscamos es profundizar un nivel más en la optimización de cómo usamos nuestros modelos de lenguaje, y utilizar un determinado modelo de lenguaje para aquello en lo que es bueno. Probablemente hayas visto en algunas herramientas de IA generativa de código abierto que puedes elegir entre "respuesta instantánea", "respuesta reflexiva" o "respuesta de investigación". En Elsevier, estamos adoptando un enfoque similar. Si solo estás haciendo una pregunta rápida y podemos usar nuestro sistema propietario para recuperar una respuesta, ese es un modelo pequeño y de bajo coste. Pero si le pides que haga una revisión de la literatura sobre un concepto determinado, ese es un "modelo de razonamiento". También estamos explorando oportunidades para crear esa ruta muy curada de arquitectura multimodelo.
Integrar la IA de confianza en el flujo de trabajo del estudiante
Y por último, la integración en el flujo de trabajo. Nadie quiere abandonar su flujo de trabajo, salir de lo que está haciendo e ir a otra plataforma. ¿Cómo llevamos las experiencias de aprendizaje de IA de confianza, a través de nuestras herramientas, al flujo de trabajo del estudiante, de modo que forme parte de su experiencia diaria? Esa es otra tendencia emergente que estamos viendo, para que sea algo natural que simplemente recurran a una determinada experiencia en lugar de tener que depender de sus experiencias tradicionales.
Una tendencia adicional: la alfabetización en IA entre los profesionales sanitarios
Creo que estas tres son extremadamente importantes. Si tuviera que añadir una adicional, hay otra tendencia que estamos viendo en la educación sanitaria: la demanda de alfabetización en IA entre los profesionales de la salud. Imaginemos que formamos a nuestros estudiantes para que sean una futura fuerza laboral altamente competente y fluida en IA, pero que cuando entren al mundo laboral, sus mentores en el campo no dominen la IA. Esa es una brecha enorme. Por eso también estamos viendo una motivación entre los profesionales de la salud para comprender mejor las herramientas de IA, de modo que, cuando nuestros futuros clínicos —que hoy son estudiantes— entren al mercado laboral, puedan seguir disfrutando de esas eficiencias y esa mejor experiencia de usuario en sus sistemas futuros, como los sistemas de atención en el punto de cuidado.
