Es clave la supervisión humana en el manejo de la diabetes asistida por inteligencia artificial, ya que GPT puede analizar datos, pero carece de juicio clínico
Lugones Editorial©
La confianza en la inteligencia artificial aplicada a la medicina debe construirse sobre su capacidad de apoyar, no reemplazar, la toma de decisiones de los médicos. En este sentido, los modelos de lenguaje grande (LLM) como GPT-4 pueden analizar datos, pero carecen del juicio clínico necesario para abordar las necesidades individuales de los pacientes.
En el manejo de la diabetes, especialmente la diabetes tipo 2, los profesionales se enfrentan con múltiples opciones que concuerdan con las pautas para la terapia de primera línea, pero que carecen de un consenso claro sobre el mejor enfoque. Este artículo comenta la importancia de la colaboración entre la inteligencia artificial y la humana para la mejor toma de decisiones.
La inteligencia artificial genera recomendaciones o conocimientos, pero la decisión final debe tomarla una persona (un profesional médico) dado que es quien tiene en cuenta las circunstancias únicas, las preferencias y el historial médico del paciente.
La confianza en la inteligencia artificial aplicada a la medicina debe construirse sobre su capacidad de apoyar, no reemplazar, la toma de decisiones de los médicos
Contexto
En el panorama de la atención médica en rápida evolución, se están examinando los modelos de lenguaje grande (LLM) disponibles comercialmente como GPT-4 por su potencial para ayudar en la toma de decisiones clínicas, especialmente en escenarios en los que no existe una sola respuesta “correcta”. Este desafío es particularmente evidente en el manejo de la diabetes tipo 2, donde los proveedores a menudo se enfrentan a múltiples opciones que concuerdan con las pautas para la terapia de primera línea, pero carecen de un consenso claro sobre el mejor enfoque.
Con el advenimiento de nuevas opciones terapéuticas, las ramificaciones relacionadas con la accesibilidad y el costo de los medicamentos, y las consideraciones para otros riesgos metabólicos, tanto la complejidad clínica como la incertidumbre, han hecho que las decisiones de gestión sean desconcertantes.
En este contexto, Flory et al. examinan la toma de decisiones de los LLM en el cuidado de la diabetes, particularmente con respecto a las opciones de medicamentos, como la metformina y las alternativas, que dependen de las características del paciente.
Al comparar las decisiones impulsadas por el LLM con las tomadas por endocrinólogos experimentados, Flory et al. destacan dónde pueden contribuir los LLM y áreas en las que pueden no apoyar la atención a la diabetes.
Los planes de tratamiento deben incluir la consideración de los factores individuales del paciente, incluidos sus objetivos glucémicos
GPT en diabetes
En su estudio, Flory et al. evalúan el acuerdo entre los endocrinólogos y GPT-4 en la selección de medicamentos iniciales contra la diabetes para pacientes con diabetes tipo 2, centrándose particularmente en el uso de metformina.
El análisis comparó las preferencias de los endocrinólogos (n=31) y GPT-4 por la metformina frente a los tratamientos alternativos en respuesta a 40 viñetas clínicas, la consistencia y robustez de las respuestas de GPT-4 a través de múltiples ejecuciones y la influencia de diversas indicaciones que enfatizaban la seguridad, el costo o la adhesión a las directrices.
Los hallazgos revelaron que los endocrinólogos eligieron la metformina en el 31% de los casos, mientras que GPT-4 seleccionó la metformina el 25% del tiempo después de un rápido refinamiento, lo que resultó en una modesta diferencia del 5,5 %. Ambos grupos tenían menos probabilidades de recomendar metformina para pacientes con función renal reducida.
GPT-4 generalmente se alineó con las pautas clínicas, pero fue más cauteloso, especialmente con respecto a los síntomas gastrointestinales. La variabilidad del modelo a través de diferentes indicaciones indicó algunas inconsistencias, particularmente cuando las indicaciones que enfatizaban un “puje de metformina” influyeron en sus recomendaciones.
Es esencial la necesidad de supervisión humana en la atención de la diabetes asistida por inteligencia artificial
Conclusiones
La comparación de las respuestas de GPT-4 con las de los endocrinólogos proporciona un punto de referencia valioso para evaluar la alineación con las opiniones de los expertos. El análisis de respuestas personalizadas, basadas en las características del paciente, mejora la aplicabilidad a la medicina de precisión.
Además, explorar la variabilidad en las recomendaciones de GPT-4, impulsada por factores como la configuración de temperatura y las indicaciones personalizadas, profundiza la comprensión de cómo los LLM manejan la ambigüedad clínica. El uso de varias versiones rápidas, incluyendo empujones como para la priorización de la metformina y la reducción de costos, aclara aún más su impacto en la toma de decisiones de LLM.
En un sistema de atención médica ya agobiado por el aumento de los costos, la adopción de recomendaciones basadas en la inteligencia artificial (IA) sin supervisión clínica podría aumentar esta carga. Los resultados del estudio de Flory et al. enfatizan la necesidad de evaluar las recomendaciones de LLM en términos de costo y acceso del paciente.
La inteligencia artificial genera recomendaciones o conocimientos, pero la decisión final la toma un ser humano que tiene en cuenta las circunstancias, las preferencias y el historial del paciente
Para evaluar los impactos de costos de las recomendaciones de GPT-4, una comparación directa entre los tratamientos sugeridos de GPT-4 y las opciones de médicos aclararía los posibles impactos finales en pacientes y pagadores.
Por ejemplo, la preferencia de GPT-4 por medicamentos más nuevos y caros como los inhibidores del cotransportador 2 de sodio-glucosa o los agonistas del receptor del péptido 1 similar al glucagón se puede contrastar con la elección de alternativas de menor costo como la metformina o las sulfonilureas.
Los resultados del estudio también subrayan la necesidad de supervisión humana en la atención de la diabetes asistida por IA, ya que los LLM como GPT-4 pueden analizar datos, pero carecen del juicio clínico necesario para abordar las necesidades individuales de los pacientes. La confianza en la IA debe construirse sobre su capacidad de apoyar, no reemplazar, la toma de decisiones de los médicos.
Los sistemas Human-in-the-loop (HITL) ofrecen una solución prometedora al combinar la IA con la experiencia clínica. En un sistema HITL, la IA genera recomendaciones o conocimientos, pero la decisión final la toma un humano que tiene en cuenta las circunstancias únicas, las preferencias y el historial médico del paciente. Este enfoque garantiza que las sugerencias de LLM se integren en el diálogo médico-paciente para el cuidado de la diabetes.
Los sistemas HITL pueden mejorar tanto la calidad como la seguridad de la atención, ya que el médico conserva el control sobre las decisiones, utilizando la IA para mejorar la eficiencia y apoyar las elecciones informadas. A medida que la atención médica adopta la IA, los modelos HITL pueden equilibrar la innovación con el valor insustituible del juicio humano.
Figura HITL para el manejo de la medicación para la diabetes asistida por LLM
Antes de concluir, se enfatiza que los LLM deben trabajar dentro de los sistemas HITL que prioricen la supervisión clínica, la atención centrada en el paciente y la práctica basada en la evidencia. La investigación futura debe centrarse en demostrar el impacto de la IA en los resultados de la diabetes y desarrollar marcos para su uso responsable y equitativo.
Los sistemas HITL pueden mejorar tanto la calidad como la seguridad de la atención, ya que el médico conserva el control sobre las decisiones, utilizando la IA para mejorar la eficiencia y apoyar las elecciones informadas
La confianza en la IA debe construirse sobre su capacidad de apoyar, no reemplazar, la toma de decisiones de los médicos
GPT en el manejo de la diabetes
Fuente
Schlientz D, Maciejewski ML, et al. Large language models in diabetes management: the need for human and artificial intelligence collaboration. Diabetes Care 2025;48(2):182-184.
