Tu médico toma notas con IA. ¿Qué puede salir mal?

Las aplicaciones que registran las visitas ganan popularidad, pero conllevan problemas de privacidad y precisión.

En tu próxima cita, tu médico puede tener un nuevo tipo de asistente escuchando: la inteligencia artificial.

A lo largo y ancho de Estados Unidos, los programas de IA graban silenciosamente estas conversaciones, convirtiéndolas en borradores de notas médicas. Estas herramientas, conocidas como escribas de IA, son cada vez más populares, y alrededor del 30 por ciento de los médicos estadounidenses las utilizan para documentar sus encuentros con los pacientes.

Para los médicos, el atractivo es obvio. Los médicos dedican aproximadamente 2,3 horas al papeleo por cada 8 horas de atención a pacientes. Varios estudios han demostrado que los asistentes de documentación basados en inteligencia artificial pueden aliviar la carga administrativa de los médicos, reduciendo así el estrés y el agotamiento.

Pero, ¿qué significan los escribas de IA para los pacientes? La esperanza es que ayuden a los médicos a prestar más atención durante las visitas, acorten las esperas para las citas y elaboren notas más minuciosas, dijo Paul Lukac, director de IA de UCLA Health. Pero apenas se ha investigado cómo este uso de la IA afecta el tratamiento del paciente.

La popularidad de esta tecnología también ha suscitado preocupaciones sobre la privacidad, el consentimiento y la precisión. Así que hemos preguntado a los expertos qué deben saber los pacientes.

¿Qué se almacena realmente?

Cada organización sanitaria y empresa de IA tiene sus propias normas, pero en general, el audio y la transcripción de la cita solo se almacenan temporalmente con la empresa, normalmente se eliminan en unas semanas o meses. En UCLA Health, por ejemplo, se guardan durante 14 días, dijo Lukac, mientras que Microsoft dice que su herramienta Dragon Copilot, una popular herramienta de IA, almacena los archivos hasta 90 días.

Solo el borrador de la nota permanece en su historial médico electrónico, junto con las ediciones que su médico haya podido hacerle, dijo Majid Afshar, médico neumólogo y de cuidados intensivos de la Universidad de Wisconsin-Madison. En otras palabras, no deben conservarse a largo plazo notas, transcripciones o grabaciones de IA sin editar.

Los pacientes tienen derecho a acceder a sus historiales y ver todas las notas, pero normalmente no tienen acceso a la grabación de audio ni a la transcripción, añadió Afshar.

Siempre puedes preguntarle al médico si puedes grabar la cita. Esto ya es una práctica habitual en algunas especialidades como la oncología, dijo Michael Turken, médico de medicina interna de la University of California San Francisco Health, donde a menudo se intercambia rápidamente mucha información compleja.

¿Los médicos me pedirán mi consentimiento?

En la mayoría de los estados, solo es necesario que una de las partes dé su consentimiento para una grabación, por lo que es posible que los médicos no estén obligados legalmente a decirle que están utilizando un escriba de IA. Pero en la práctica, lo más probable es que su médico le pida su consentimiento de antemano, dijo Sharona Hoffman, profesora de Derecho y Bioética en la Universidad Case Western Reserve, dada la importancia de la confianza y la transparencia en la medicina.

Pero, debido a las limitaciones de tiempo, el proceso de consentimiento podría simplificarse. Por ejemplo, los médicos podrían preguntarte si solo te importa que utilicen una herramienta para ayudar a tomar notas, dijo Turken, en lugar de revelar claramente que están creando una grabación de audio de la cita.

Sin embargo, siempre puedes decir que no o pedir que se ponga en pausa la grabación durante las partes delicadas de la cita. Los médicos saben que algunos pacientes se reprimirán si saben que están siendo grabados, y no quieren que eso ocurra.

“Si tienes la más mínima sensación de que no se va a sentir cómodo diciendo todo lo que tienes que decir, dile al médico que no grabe”, dijo Turken.

¿Debería preocuparme la privacidad?

Aunque las empresas de asistentes automatizados tienen acceso a la grabación de la visita, estas compañías suelen estar obligadas por la HIPAA, la ley federal de privacidad sanitaria, a través de un contrato con el sistema sanitario. Algunos contratos pueden permitir que sus datos sean anónimos y luego se utilicen para entrenar el modelo de IA, pero en general, la mayoría de los sistemas sanitarios contarán con protecciones de seguridad muy sólidas para los datos recopilados y generados por las herramientas de IA, dijo Turken.

La información sanitaria siempre es un objetivo para los piratas informáticos porque es sensible y difícil de reemplazar. Pero la información recogida y generada por la IA no está necesariamente más expuesta que otros datos médicos, dijo Hoffman.

El riesgo para la privacidad es mayor si los médicos utilizan escribas de IA sin un contrato formal, por ejemplo, eligiendo una herramienta fuera del sistema aprobado por un hospital o utilizando una cuando su consulta no ha aprobado ninguna en absoluto, dijo Lukac. En estos casos, la empresa de IA solo estaría obligada por sus propios términos y servicios, no por la HIPAA.

Si le preocupa la privacidad, Lukac recomienda preguntar a sus médicos si tienen un contrato HIPAA con la empresa del escribiente de IA -llamado oficialmente acuerdo de socio comercial- antes de que empiecen a grabar.

¿Debo revisar la nota generada por la IA?

La nota redactada por la IA no debe incorporarse tal cual a tu historial médico; el médico debe revisarla y dar su visto bueno, asumiendo la responsabilidad de su exactitud, afirmó Hoffman.

Esto es importante porque se producen errores. Al transcribir, estas herramientas pueden pasar por alto detalles o confundir quién dijo qué, dijo Turken, sobre todo si hablan varias personas.

Los acentos y los dialectos pueden ser un punto especialmente débil para las herramientas de IA: en un pequeño estudio de 2024, los investigadores probaron cuatro programas de transcripción con IA, y todos tenían una precisión menor para los pacientes negros que para los blancos. También hay pruebas de que los errores de transcripción son más comunes en los hablantes no nativos de inglés.

E incluso cuando la transcripción es precisa, la herramienta de IA puede omitir información relevante e introducir imprecisiones al redactar la nota. En una prueba de cinco herramientas de IA diferentes durante encuentros simulados con pacientes, los investigadores descubrieron que, en promedio, cada nota tenía tres errores potencialmente graves. Lukac también dirigió un ensayo en la Universidad de California en Los Ángeles, donde se utilizaron herramientas de IA en más de 15.000 visitas, y descubrió que los médicos informaban de inexactitudes clínicamente significativas “de forma ocasional“.

Para los pacientes, probablemente lo mejor sea comprobar la exactitud de todas las notas de su historial médico, porque las notas escritas por humanos también pueden contener errores, dijo Turken.

Esa salvaguarda puede ser más importante a medida que la IA se utiliza de forma más rutinaria. Las empresas también están creando funciones para ayudar con la facturación, para preparar las órdenes de medicación y para guiar la toma de decisiones clínicas, por lo que es crucial que los médicos sigan escudriñando lo que produce el software.

Solo recuerda que si tienes algún reparo sobre el uso de la IA, puedes decir que no. “Todavía tenemos la capacidad de escribir en teclados”, dijo Lukac, “y escribir notas bastante buenas nosotros mismos”.

Simar Bajaj cubre salud y bienestar para el Times.