Sermas GPT, la herramienta de la Comunidad de Madrid para las enfermedades raras

Sermas GPT, un sistema experimental de IA para diagnosticar enfermedades raras, aún espera validación tras 6 meses. Hospitales designados para validar, incluyendo uno del SERMAS, aún no han comenzado debido a la carga laboral. El SERMAS lo describe como un "proyecto piloto" y "herramienta experimental". Utiliza una API similar a ChatGPT basada en GPT-4 de OpenAI y Microsoft Azure.

Así es la enfermedad para diagnosticar las enfermedades raras en Madrid

Sermas GPT, la IA experimental para diagnosticar enfermedades raras en Madrid, aguarda validación médica tras casi 6 meses de lanzamiento. Aunque se ha designado hospitales para la validación, la sobrecarga laboral ha retrasado el proceso. 

Presentado como un "proyecto piloto" por el SERMAS, la herramienta opera como ChatGPT, basado en el modelo GPT-4 de OpenAI y Microsoft Azure. Sin embargo, su falta de entrenamiento en datos médicos específicos genera preocupaciones sobre su precisión. 

Los expertos advierten sobre la necesidad de rigurosas validaciones antes de su implementación. A pesar de los esfuerzos de la Comunidad de Madrid en asociación con Microsoft y la Fundación 29, la falta de información y respuesta sobre la validación del comité ético de los hospitales sigue siendo una preocupación.

¿Qué es Sermas GPT?

Sermas GPT, una herramienta integrada en el sistema informático de los médicos madrileños desde septiembre de 2023, permite a los profesionales de la salud evaluar síntomas y diagnosticar enfermedades raras.

Aunque la Consejería de Digitalización la describe como una aplicación de código abierto, no proporciona la dirección web para auditarla. Solo accesible para médicos de la Comunidad de Madrid, la Fundación 29 ofrece una versión pública llamada DxGPT para consultar síntomas y enfermedades raras. 

La herramienta está basada en el modelo de lenguaje GPT-4 de OpenAI, y ha sido criticada por su falta de entrenamiento específico en medicina. Los datos ingresados se almacenan de forma anónima para mejorar la usabilidad, pero la transparencia sobre la fuente de entrenamiento y el procesamiento de datos es limitada. 

Aunque DxGPT ofrece diagnósticos de enfermedades comunes, Sermas GPT incluye "funcionalidades" para comprender su uso, sin especificar detalles sobre estos cambios.

La falta de validación y los continuos fallos dan lugar a una inestabilidad

La falta de pruebas de validación plantea dudas sobre la fiabilidad de Sermas GPT. Aunque se ha intentado mitigar sesgos, las pruebas preliminares de DxGPT se basan en descripciones de enfermedades, no en su funcionamiento real. La Comunidad de Madrid prioriza la ética, pero no ha revelado evaluaciones específicas de sesgos en Sermas GPT. 

Algunos médicos como Alberto han experimentado fallos significativos al utilizar la herramienta, mostrando su inestabilidad. Además, pruebas realizadas en DxGPT revelaron resultados racistas y sexistas, lo que cuestiona su fiabilidad en el diagnóstico de enfermedades raras. La precisión del 67,5 % reportada por la Fundación 29 es considerada insuficiente por expertos, que señalan problemas inherentes a la lógica de las IA generativas. 

En general, la comunidad médica espera una evaluación más rigurosa antes de confiar en estas herramientas, así como de las herramientas médicas para enfrentarse a enfermedades raras o de cualquier otras características.