Un profesional detecta un resultado dudoso en una herramienta de inteligencia artificial. Para que su observación contribuya a mejorar la asistencia, necesita saber dónde comunicarla, encontrar a alguien dispuesto a escucharla y contar con una respuesta capaz de modificar lo que está ocurriendo. Esa secuencia depende de la tecnología, de la organización del trabajo y de la cultura en la que ambas se encuentran.
El artículo de perspectiva La cultura como determinante en la implementación de IA para la asistencia sanitaria, publicado por Estrella Núñez León en la Comunidad Editorial MedicineAI, nos invita a examinar esa relación.
Desde su experiencia profesional en atención hospitalaria, gestión sanitaria y atención primaria del Servicio Madrileño de Salud, la autora plantea una cuestión que merece un debate abierto: cómo influyen nuestras prácticas, jerarquías y formas de relacionarnos en la incorporación de la IA a la asistencia sanitaria.
Su reflexión pone el foco en la distancia que puede existir entre los principios que una organización declara y las conductas que admite en la práctica. Hablar de innovación, transparencia o aprendizaje exige preguntarse qué sucede cuando alguien cuestiona una decisión, reconoce un error o propone una alternativa. La respuesta ofrece información sobre las condiciones en las que esa organización utilizará y supervisará la IA.
Desde MedicineAI queremos contribuir a ese debate con una convicción: la evaluación de la IA debe incluir las condiciones reales en las que las personas la utilizan. Su fiabilidad, utilidad y seguridad necesitan examinarse en relación con los procesos asistenciales, las capacidades de los equipos y las responsabilidades de quienes toman decisiones.
Esto tiene consecuencias para la formación. La alfabetización en IA debe ayudar a comprender las posibilidades y limitaciones de las herramientas, valorar sus respuestas y reconocer cuándo hace falta una comprobación adicional. También requiere oportunidades para compartir dudas y aprender de la experiencia. Formar a los profesionales implica proporcionarles conocimientos y condiciones para ejercer su criterio.
Tiene consecuencias, asimismo, para la supervisión humana. Conviene concretar quién puede revisar un resultado, con qué información, de cuánto tiempo dispone y qué capacidad tiene para intervenir. Una supervisión efectiva necesita conocimientos, recursos y autoridad para actuar.
La participación de los profesionales de primera línea resulta especialmente relevante. Su experiencia permite identificar necesidades, dificultades y efectos que pueden quedar fuera de una evaluación centrada exclusivamente en el rendimiento del sistema. Incorporar las perspectivas de enfermería, medicina, otras profesiones sanitarias, desde los “points of care”, permitirá también trasladar la perspectiva del usuario para mejorar su experiencia.
El original también invita a revisar nuestra relación con la discrepancia. Cuestionar una herramienta, un procedimiento o una decisión puede ser una contribución al cuidado. Para aprovecharla, necesitamos espacios donde las objeciones se examinen por sus argumentos y donde comunicar un problema tenga consecuencias útiles. Esa exigencia alcanza también a quienes impulsan la innovación: sus propuestas deben permanecer abiertas al contraste y a la revisión.
Esta visión incluye una exigencia de rigor. La cultura organizativa ofrece un campo de hipótesis que debemos investigar, delimitando los conceptos y buscando evidencia sobre sus efectos. Las interpretaciones históricas y humanistas que plantea la autora amplían la conversación; corresponde debatir su alcance y explorar cómo traducirlas en preguntas sobre nuestras organizaciones actuales.
Una forma de abordar el debate es empezar por cuestiones concretas: cómo se comunican los errores relacionados con la IA, qué ocurre después de notificarlos, quién participa en las decisiones de adopción y qué condiciones permiten cuestionar una recomendación sin temor a consecuencias injustas. Investigar esas prácticas puede ayudar a orientar cambios y evaluar si funcionan.
Queremos escuchar experiencias y argumentos desde distintos ámbitos
- Qué prácticas de vuestro equipo facilitan reconocer dudas y corregir errores?
- ¿Qué barreras dificultan que los profesionales participen en las decisiones sobre IA?
- ¿Cómo comprobaríamos que un cambio en la cultura organizativa mejora su uso en la asistencia?
Invitamos a leer el original de Estrella Núñez León y a compartir reflexiones, experiencias y propuestas en este blog. Su aportación abre una conversación sobre la coherencia entre nuestros valores y nuestra manera de trabajar.
Desde MedicineAI proponemos hacer del pensamiento crítico una práctica compartida, con espacio, recursos y capacidad para influir en las decisiones. Esa es una de las condiciones que queremos examinar para construir una relación responsable entre profesionales, organizaciones e inteligencia artificial.
Descarga el pdf original en este enlace