Juan Turnes, socio fundador de MedicineAI, nos hace llegar este comentario firmado por Maxim Topaz, Laura Maria Peltonen y Zhihong Zhang, publicado recientemente en la revista npj Digital Medicine, en el que se analiza de forma sistemática los riesgos potenciales asociados al uso de AI scribes (sistemas que capturan y resumen pasivamente conversaciones clínicas) en la documentación médica.
Lejos de una postura de descalificación, el artículo reconoce el interés de estas herramientas para aliviar la carga administrativa y mejorar la eficiencia documental.
De hecho, señala que alrededor del 30 % de las consultas médicas en Estados Unidos ya las utilizan, y que su adopción está creciendo rápidamente en grandes sistemas de salud y plataformas de historia clínica electrónica.
Aunque el comentario de Topaz reconoce que los AI Scribes no solo afectan a los médicos, sino también a enfermería, asistentes y otros profesionales sanitarios, y que su adopción incide en los propios pacientes —por experiencia, consentimiento y posibles desigualdades—, centra su análisis en la carga documental del médico.
Principales riesgos identificados
Los autores agrupan los riesgos emergentes en varias categorías:
- Errores de transcripción y omisión: la confianza excesiva en un sistema automatizado puede normalizar textos incompletos, inexactos o fuera de contexto.
- Desplazamiento de la atención clínica: el profesional puede depender más del sistema que de su propio juicio, con posibles efectos sobre la calidad asistencial.
- Consecuencias para la formación y el juicio clínico: se señala la posible pérdida de competencias en comunicación, toma de notas y razonamiento clínico estructurado, especialmente en profesionales en formación.
- Implicaciones legales y éticas: la autoría del texto, la responsabilidad sobre su contenido y la trazabilidad de las ediciones son cuestiones aún no resueltas.
- Alteración de la relación clínico-paciente: aunque no directamente medido, se advierte sobre el riesgo de que el sistema actúe como intermediario invisible en una interacción que debería ser humana.
Recomendaciones de los autores
El artículo defiende que la implementación de los AI scribes debe acompañarse de:
- Validación clínica específica para cada entorno de uso.
- Supervisión humana continua sobre los textos generados.
- Transparencia respecto al funcionamiento del sistema.
- Protocolos que garanticen trazabilidad, revisiones y responsabilidad final del profesional.
Los autores proponen además que estas herramientas sean consideradas como tecnologías críticas, sujetas a evaluación formal y seguimiento institucional.
Referencia para el contexto español
Aunque el comentario se centra en el contexto internacional, su contenido es de interés también para el entorno clínico español. Algunas instituciones privadas, como QuirónSalud, ya han comenzado a usar estas herramientas de documentación clínica automatizada basadas en modelos de IA generativa. El análisis de Topaz y colaboradores ofrece un marco útil para acompañar con criterios técnicos y éticos esta fase inicial de adopción en nuestro país.
Valoración desde MedicineAI
Desde MedicineAI recomendamos la lectura íntegra de este comentario como referencia bien fundamentada y prudente para quienes estén implicados en el desarrollo, la evaluación o la adopción de tecnologías de IA generativa en la práctica clínica.
La utilidad potencial de estas herramientas no puede desvincularse de la necesidad de control, supervisión y responsabilidad profesional.
Además, proponemos abordar su implementación con una mirada más plural: incorporar de forma sistemática la voz de los pacientes y de los equipos multidisciplinares, con protocolos de consentimiento explícito para la grabación y el eventual uso secundario de datos, y con vigilancia activa de sesgos (p. ej., en reconocimiento de habla y atribución de interlocutores) y auditoría clínica de las notas generadas.