Para quienes no estén muy familiarizados con el tema, ¿podrías explicar brevemente cómo integra la IA datos fiables para la educación médica?
La IA en educación médica funciona mejor cuando está anclada en contenido médico de confianza, y no simplemente en datos abiertos de internet. Creo que ya se ha estudiado y demostrado que conectar nuestras herramientas educativas con contenido de confianza genera esa confianza epistémica con nuestros educadores y estudiantes, y esa es una ventaja competitiva clave para cualquier herramienta. En la práctica, el sistema combina modelos de lenguaje de gran escala —conocidos popularmente como IA generativa— con recursos educativos curados, como libros de texto revisados por pares, referencias clínicas, contenido de anatomía y materiales de evaluación.
Además, nos gusta incorporar experiencias de aprendizaje revisadas por educadores, porque ¿qué mejor que las experiencias reales de un docente para hacer que el componente de IA en la educación médica sea más sólido y confiable? De manera similar a Osmosis AI de Elsevier, la experiencia impulsada por IA ayuda a los estudiantes a reforzar conceptos a través de vídeos, tarjetas de memoria, bancos de preguntas, apoyo de aprendizaje adaptativo y una IA conversacional que integra todas estas capacidades. El valor reside en combinar la capacidad de la IA con contenido educativo de confianza y datos de participación del estudiante, para crear una experiencia muy potente, personalizada y curada.
Si puedo dar un ejemplo más a través de nuestros productos, como ClinicalKey Student, los estudiantes pueden acceder a referencias médicas basadas en evidencia, así como a libros de texto, vídeos y respuestas clínicas en un único ecosistema, con una experiencia todo en uno en lugar de tener que navegar entre distintas pestañas, enlaces y formatos de contenido. La IA puede ayudar a encontrar la información más relevante más rápidamente y a construir rutas de aprendizaje más personalizadas. Así es, en general, como estamos abordando la integración de la IA en la educación médica, con esa confianza epistémica en el centro.
¿Cómo se evalúa la precisión y el posible sesgo de este contenido, y qué herramientas se utilizan para ello?
Creo que, siendo la evaluación una de las partes más importantes de la incorporación de la IA en la educación sanitaria, nos sentimos muy cómodos añadiendo IA a nuestras herramientas. ¿Qué significa evaluación? La evaluación es, en esencia, nuestro proceso de supervisión humana —o human-in-the-loop—. A medida que incorporamos más capacidades de IA a nuestras plataformas de educación médica, existe una evaluación humana continua para asegurarnos de identificar y detectar cualquier tipo de imprecisión o sesgo potencial antes de que llegue a manos de los estudiantes. La evaluación es, de hecho, una de las partes más importantes para garantizar que una herramienta de IA esté bien fundamentada y proporcione respuestas que aborden la información de forma constructiva y estén libres de alucinaciones. Por ejemplo, si un estudiante utiliza una experiencia de apoyo con IA dentro de ClinicalKey Student para entender una afección cardíaca, el sistema debe ofrecer información alineada con referencias de confianza y con los estándares médicos. Por eso, las organizaciones evalúan aspectos como la precisión factual, la seguridad clínica, la calidad de las citas y el sesgo en las poblaciones de pacientes. Analizamos todos estos posibles problemas que pueden surgir cuando la IA genera una respuesta, para asegurarnos de que nuestras herramientas sigan siendo sólidas y confiables, y ofrezcan respuestas éticamente correctas y alineadas con la educación.
También existe un sólido componente de revisión humana. No lanzaremos nuestras herramientas sin que esa revisión humana haya tenido lugar. Queremos ver un determinado nivel de puntuación en la revisión, un determinado nivel de precisión y ausencia de sesgos, antes de que entre en el ecosistema del conocimiento médico. Hay que tener en cuenta, además, que la evaluación es un proceso continuo. Lo que quiero que la gente entienda es que, una vez realizada la evaluación de una versión de una herramienta de IA en educación médica, no nos detenemos ahí. Esta evaluación se lleva a cabo de forma puntual y sistemática, porque la educación médica es un campo en constante evolución. Los sistemas de IA en educación sanitaria no pueden simplemente configurarse y olvidarse. Realizamos evaluaciones de manera continua.
"Uno de los mayores riesgos de la IA en el ámbito sanitario no es que el sistema suene inseguro, sino precisamente cuando suena extremadamente seguro mientras está equivocado. Por eso contamos con un marco de evaluación específico para las alucinaciones."
¿Qué son las "alucinaciones" en IA y cómo pueden dificultar el uso efectivo de la IA en la educación médica?
En el contexto de la IA, una "alucinación" ocurre cuando los sistemas de IA generan información que suena convincente pero que en realidad no es correcta. Se trata de piezas de información fabricadas y ensambladas que, de nuevo, hacen pensar que suenan razonables, pero no lo son del todo. Y si las miras rápidamente, podrías incluso no darte cuenta de que se trata de un fragmento alucinado y no de información precisa. En educación médica, esto podría manifestarse como la invención de una cita clínica para una investigación médica u otras disciplinas. Es un problema muy frecuente. También los identificadores DOI se están inventando con frecuencia últimamente —aunque está mejorando—, y eso sería una señal de alerta. O dar una explicación inexacta de un proceso patológico porque se han conectado dos síntomas de nombre similar en uno solo. También puede ocurrir sugiriendo guías de tratamiento desactualizadas: si nuestra guía de tratamiento se actualizó el año pasado, el sistema podría recuperar una versión anterior. O incluso etiquetando incorrectamente estructuras anatómicas, porque hay que recordar que el cerebro humano procesa más contexto del que puede procesar la IA. Por ejemplo, podría etiquetar un epicóndilo junto a un bíceps. Ahí es donde puede producirse una alucinación.
Hay que tener en cuenta que detectar estas alucinaciones a través del proceso de evaluación que mencioné antes es absolutamente crítico, porque las personas que consumen nuestros materiales de educación sanitaria con IA aún no son expertas. No querríamos que asentaran su aprendizaje en sistemas inexactos. Por eso, los sistemas de IA sanitaria de confianza se apoyan en gran medida en lo que mencioné antes: contenido médico fundamentado, citación y trazabilidad, supervisión humana, evaluaciones continuas y monitorización de la seguridad.
La monitorización de la seguridad es otro elemento probablemente exclusivo de las herramientas de educación sanitaria, a diferencia de, por ejemplo, una herramienta de IA para ventas. El componente de seguridad es realmente importante, porque quieres asegurarte de que la información que se obtiene de nuestra herramienta es relevante, está actualizada y es el método correcto para construir potencialmente el conocimiento sobre un futuro tratamiento o una futura intervención quirúrgica. Uno de los mayores riesgos de la IA en el ámbito sanitario no es que el sistema suene inseguro, sino precisamente cuando suena extremadamente seguro mientras está equivocado. Por eso contamos con un marco de evaluación específico para las alucinaciones.
¿Cuáles son las características o requisitos clave de una arquitectura de IA confiable, tanto en términos de contenido como de implementación, en la educación médica o sanitaria?
Esto es básicamente lo que vivimos y respiramos cada día. ¿Cómo hacemos que las soluciones de IA sean confiables en la educación sanitaria y construimos una arquitectura sostenible que mantenga ese nivel de confiabilidad? Para situarnos, ¿cómo es un sistema de IA confiable? En lo que respecta a la educación médica o cualquier educación sanitaria, todo comienza con una gobernanza sólida en torno al contenido, así como con la incorporación de fuentes de confianza de las que la IA extrae ese contenido. Por ejemplo, ClinicalKey Student reúne referencias médicas de autoridad y un entorno de recursos de aprendizaje estructurado. Es una combinación muy potente. En el caso de Osmosis, se trata del refuerzo y la experiencia de aprendizaje personalizado a través de contenido de vídeo adaptado. Complete Anatomy es, por supuesto, uno de nuestros favoritos. Ofrece una educación anatómica visual e interactiva de alto nivel y te permite identificar estructuras a las que de otro modo no tendrías acceso, incluso en un entorno de laboratorio de alta fidelidad.
Por tanto, una capa de IA debería realmente potenciar esas experiencias de confianza y no saltárselas, ¿verdad? Hay varias características que podemos identificar en las herramientas que denominaríamos confiables en educación médica. De nuevo, y sé que lo repito, pero el contenido basado en evidencia es absolutamente crítico. También la transparencia en la citación de fuentes, para que sepas que tu aprendizaje proviene de una fuente trazable y anclada en la realidad. La supervisión humana es esencial. Nunca debe asumirse que ninguna herramienta de IA en educación puede simplemente reemplazar a un docente. Eso sencillamente no es así. Además, desde el punto de vista arquitectónico y de sostenibilidad, incluye importantes protecciones de privacidad y seguridad. Esto es importante porque habrá momentos en que nuestro contenido sea algo que queramos que sea descubrible, o que se vuelva descubrible sin que sea nuestra decisión. Por eso, la protección de la privacidad y la seguridad del ecosistema de IA es muy crítica, ya que nuestro contenido es lo que impulsa nuestras herramientas de IA, y no querríamos que ese contenido se usara en un contexto inadecuado, porque el contexto lo es todo. La monitorización y evaluación continua sigue siendo una parte muy esencial de la arquitectura sostenible de una herramienta de IA confiable para la educación médica. Y por último, el rendimiento fiable del sistema. ¿Cuántas veces una herramienta de IA te ha dicho "estoy sin capacidad", "no sé la respuesta a eso" o "lo siento, no puedo ayudarte"? Esas experiencias degradan la percepción del usuario sobre la herramienta, por lo que debemos asegurarnos de que nuestra arquitectura soporte suficiente capacidad de tokens y velocidad de procesamiento para no decepcionar a nuestros usuarios.
Para resumir en dos puntos principales: primero, la IA confiable debe apoyar el pensamiento crítico, no reemplazarlo. Es decir, desafiar al usuario a pensar por sí mismo con el tipo correcto de información y contexto. Y segundo, el mejor sistema de IA educativa guía a los estudiantes hacia una comprensión profunda en lugar de simplemente generar y escupir respuestas. Así que, si quisieras hacer una evaluación rápida, estas dos cosas te dirán que se trata de una herramienta de IA confiable y fiable para el aprendizaje en entornos médicos.
¿Qué desafíos plantea actualmente la protección de datos para el uso de la IA en el contexto de la educación médica?
¿Recuerdas cuando hablamos de las alucinaciones? Pues bien, lo que está ocurriendo hoy es que ciertos problemas de filtración de contenido, que están relacionados con la protección de datos, permiten que algunas herramientas de IA de código abierto ensamblen información como el monstruo de Frankenstein, lo que obviamente favorece más alucinaciones y más sesgos. Por eso nuestro enfoque se centra intensamente en la innovación, pero también en proteger nuestros datos y crear los flujos de datos correctos que se conecten con nuestras herramientas de IA. En esencia, es tan sencillo como preguntarse: "¿cuál es tu área de conocimiento y qué herramienta de IA estás usando?". Si soy estudiante de medicina y uso Osmosis AI, puedo confiar en que estoy obteniendo la información correcta, porque sé que hay contenido de confianza y flujos de datos claros y bien definidos hacia ese contenido que respaldan mi experiencia con Osmosis AI. Sin embargo, si acudo a una herramienta de IA de código abierto que no está pensada para la educación médica, no puedo garantizar que vaya a obtener la respuesta más precisa, fundamentada, éticamente sólida, libre de sesgos y libre de alucinaciones. Por tanto, la correspondencia entre el área de conocimiento y el uso correcto de la herramienta de IA adecuada es extremadamente importante, y ahí es donde entra en juego la protección de datos.
La protección de datos se convierte en una consideración muy importante para nosotros porque las herramientas de IA sanitaria implican obviamente información sensible de pacientes, y la educación médica implica entregar el contenido en el entorno adecuado, ya que estas personas serán los futuros clínicos. Las instituciones que utilizan plataformas de aprendizaje habilitadas con IA con alta confianza quieren asegurarse de que tienen la privacidad de los estudiantes garantizada y de que cumplen con la normativa regulatoria. Pueden existir diferentes directrices en, por ejemplo, Norteamérica frente a una región europea. Incluso dentro de los países, distintas regiones pueden seguir diferentes normativas. Por eso, la confiabilidad, la protección de datos y el flujo de datos son muy importantes. Además, el uso de modelos de terceros es un tema realmente relevante. Como cualquier organización innovadora que se mueve rápido, contamos con muchos proveedores externos que nos ayudan a llegar al mercado más rápidamente. Sin embargo, la segmentación de datos entre ellos y la creación de una pasarela segura que solo permita compartir capacidades y no datos es un aspecto muy importante de nuestras aplicaciones y plataformas de aprendizaje. Las políticas de retención también son muy importantes. Conservamos cierto nivel de información sobre las consultas para asegurarnos de que, si en el futuro se reportara una alucinación o un sesgo, podamos revisar cómo fue esa interacción. Y por último, los controles de seguridad. Solo queremos que los usuarios con licencia que deban acceder a la herramienta tengan acceso a nuestra plataforma. Realmente no debería ser una persona cualquiera quien acceda a nuestro sitio web de aprendizaje buscando respuestas. Creo que ese no es el uso correcto de nuestra información, por lo que la protección de datos cobra toda su importancia.
Para unirlo todo, existe obviamente una necesidad creciente de garantizar que la información institucional sensible o la información clínica estén bien protegidas y no queden expuestas involuntariamente a través de los flujos de trabajo de IA hacia internet abierto. También creo que el futuro implicará modelos de gobernanza más sólidos. Sé que las cosas están evolucionando muy rápidamente hoy en día, pero la gobernanza, desafortunadamente, siempre va un poco a la zaga. Lo estamos viendo ocurrir en tiempo real ahora, donde los clientes están exigiendo patrones de gobernanza para asegurarse de que sus datos estén protegidos a través de nuestras herramientas de IA, y tenemos los registros para poder demostrarlo. Y por último, cómo preservamos la privacidad a través de la arquitectura de IA y una transparencia clara de nuestros estándares, que es una demanda en toda la industria hoy en día.
En tu opinión, ¿cuáles son las principales tendencias o direcciones que darán forma al futuro de la IA en la educación sanitaria?
Hay muchas cosas, pero si tuviera que resumirlas, diría que hay tres tendencias que estamos viendo. La personalización es una de las más importantes: la habilidad adecuada, el usuario adecuado, la herramienta de IA adecuada. La personalización se está volviendo muy importante porque una herramienta de IA genérica te lanza muchísima información y no creo que tengamos tiempo de filtrar los interminables párrafos que produce una herramienta genérica. Por eso, esa experiencia personalizada y la mayor adaptación de las experiencias de aprendizaje al individuo son extremadamente importantes. Esto se está haciendo cada vez más evidente con nuestros estudiantes individuales actuales, los usuarios docentes, así como con nuestros potenciales clientes.
La segunda es el aprendizaje multimodal. Todos sabemos que el coste de la IA sigue siendo bastante elevado. Puede resultar económicamente prohibitivo para ciertas instituciones más pequeñas acceder a experiencias de aprendizaje impulsadas por IA. Por eso, estamos yendo más allá del texto hacia experiencias más inmersivas e interactivas que, a su vez, generan un arbitraje en el coste de los tokens. En esencia, lo que buscamos es profundizar un nivel más en la optimización de cómo usamos nuestros modelos de lenguaje, y utilizar un determinado modelo de lenguaje para aquello en lo que es bueno. Probablemente hayas visto en algunas herramientas de IA generativa de código abierto que puedes elegir entre "respuesta instantánea", "respuesta reflexiva" o "respuesta de investigación". En Elsevier, estamos adoptando un enfoque similar. Si solo estás haciendo una pregunta rápida y podemos usar nuestro sistema propietario para recuperar una respuesta, ese es un modelo pequeño y de bajo coste. Pero si le pides que haga una revisión de la literatura sobre un concepto determinado, ese es un "modelo de razonamiento". También estamos explorando oportunidades para crear esa ruta muy curada de arquitectura multimodelo.
Y por último, la integración en el flujo de trabajo. Nadie quiere abandonar su flujo de trabajo, salir de lo que está haciendo e ir a otra plataforma. ¿Cómo llevamos las experiencias de aprendizaje de IA de confianza, a través de nuestras herramientas, al flujo de trabajo del estudiante, de modo que forme parte de su experiencia diaria? Esa es otra tendencia emergente que estamos viendo, para que sea algo natural que simplemente recurran a una determinada experiencia en lugar de tener que depender de sus experiencias tradicionales.
Creo que estas tres son extremadamente importantes. Si tuviera que añadir una adicional, hay otra tendencia que estamos viendo en la educación sanitaria: la demanda de alfabetización en IA entre los profesionales de la salud. Imaginemos que formamos a nuestros estudiantes para que sean una futura fuerza laboral altamente competente y fluida en IA, pero que cuando entren al mundo laboral, sus mentores en el campo no dominen la IA. Esa es una brecha enorme. Por eso también estamos viendo una motivación entre los profesionales de la salud para comprender mejor las herramientas de IA, de modo que, cuando nuestros futuros clínicos —que hoy son estudiantes— entren al mercado laboral, puedan seguir disfrutando de esas eficiencias y esa mejor experiencia de usuario en sus sistemas futuros, como los sistemas de atención en el punto de cuidado.
