EEUU
Utah renueva recetas sin médicos a través de la IA y enciende la alarma entre profesionales de la salud
Utah puso en marcha en enero un plan piloto para que una IA de la startup Doctronic renueve recetas médicas. Si avanza a su fase final, el sistema podrá hacerlo de forma autónoma sin revisión previa de un médico, una decisión que generó un choque con parte del cuerpo médico por los riesgos clínicos y por la responsabilidad legal ante eventuales errores, según The Wall Street Journal.
De acuerdo con resultados de Doctronic difundidos por el estado el mes pasado, la herramienta aprobó 72% de las solicitudes de renovación y derivó el resto a un médico por cuestiones como la necesidad de análisis de laboratorio, según The Wall Street Journal.
Entre las recetas renovadas por la IA, los médicos revisores coincidieron en 91% de los casos, mientras que en el 9% restante dijeron que hacía falta más información; al final, 3 % de las aprobaciones de la IA fueron rechazadas por dos revisores médicos.
El programa permite que cualquier adulto de Utah ingrese al sistema para pedir la renovación de medicamentos contra el colesterol, antidepresivos y otros tratamientos incluidos en una lista limitada, según The Wall Street Journal.
Funcionarios del Departamento de Comercio de Utah, que supervisa el proyecto, dijeron al medio que entre los fármacos incluidos están Prozac y Lipitor.
La junta estatal de licencias médicas pidió suspender el piloto
La resistencia más fuerte llegó desde la junta estatal de licencias médicas. La mayoría de sus integrantes, entre ellos el médico de familia Alan Smith, presidente de la junta médica de Utah, firmaron una carta en la que reclamaron suspender el proyecto por razones de seguridad, según The Wall Street Journal.
“Las personas pueden tener reacciones de vida o muerte a los medicamentos”, dijo Smith a The Wall Street Journal. “Y además me preocupa la responsabilidad legal. ¿Quién es realmente responsable de los problemas que puedan ocurrir por la renovación de un medicamento?”.
En esa carta, los firmantes sostuvieron que la herramienta de Doctronic no fue suficientemente evaluada y advirtieron que recetar puede generar riesgos porque los medicamentos causan efectos adversos o pueden dejar de ser apropiados para un paciente, según The Wall Street Journal. La Utah Medical Association dijo a The Wall Street Journal que coincidía con esa posición.
Los funcionarios estatales que administran el plan piloto respondieron que la junta médica no tiene autoridad sobre el proyecto, aunque afirmaron que consultarán con ese organismo, según The Wall Street Journal.
La junta volverá a debatir el programa el jueves, con participación de especialistas externos.
El alergista Jonathan Olsen, integrante de la junta médica de Utah, dijo a The Wall Street Journal que el valor del 3% de rechazos finales no está claro, en parte porque los revisores no son independientes de la empresa y no se conocen sus antecedentes ni sus especialidades. Olsen describió la tecnología como “una caja negra”.
“Nosotros no tenemos nada parecido para la IA en absoluto”, dijo Olsen a The Wall Street Journal, al comparar el sistema con los requisitos humanos para ejercer la medicina, como la carrera, los exámenes de habilitación y la residencia.
Debate en otros estados y referencias a la FDA
La disputa excedió a Utah. Según The Wall Street Journal, legisladores de Nueva York analizan un proyecto para impedir que los chatbots actúen como médicos con licencia, mientras que Delaware aprobó una ley que prohíbe que una tecnología de IA reciba licencia como médico o enfermero.
Por el contrario, legisladores de Iowa y Idaho presentaron esta primavera propuestas para crear nuevas licencias clínicas para servicios autónomos de IA, según The Wall Street Journal.
El Cicero Institute, un centro de estudios financiado por el cofundador de Palantir Technologies Joe Lonsdale, impulsó ese tipo de legislación con el argumento de que puede ayudar frente a la escasez de médicos y favorecer la innovación.
Investigadores que escribieron en The New England Journal of Medicine y en la revista británica BMJ, entre otras publicaciones médicas, coincidieron con los médicos de Utah al plantear objeciones.
Según The Wall Street Journal, Doctronic no publicó estudios sobre su proceso automatizado de renovación ni obtuvo aprobación de la Food and Drug Administration para el caso de que la tecnología sea considerada un dispositivo médico.
Una portavoz de la FDA dijo a The Wall Street Journal que los estados regulan el ejercicio de la medicina y supervisan las licencias sanitarias. “La cuestión de si un producto se clasifica como dispositivo médico depende de la evaluación de la FDA de los hechos y circunstancias particulares del producto específico”.
La American Medical Association también expresó, en términos generales, su rechazo a que la IA reemplace a los médicos. “Es realmente una preocupación por una pendiente resbaladiza. ¿Empezamos aquí con las recetas y, de repente, eso va a llevar a pruebas diagnósticas?”, dijo John Whyte, director ejecutivo de la AMA, a The Wall Street Journal.
El estado afirmó que el sistema aún no tiene datos suficientes para operar sin revisión previa
Utah activó el proyecto a través de un entorno regulatorio especial para probar tecnologías nuevas, según The Wall Street Journal. Los funcionarios estatales sostuvieron que el piloto incluye salvaguardas: una implementación por etapas, revisión humana inicial de todas las recetas antes de ser dispensadas y cambios introducidos el mes pasado, entre ellos nuevas restricciones para determinadas prescripciones.
Esa primera fase todavía continúa. Según The Wall Street Journal, el diseño del programa establece que debe seguir al menos hasta que existan 250 recetas en cada clase de medicamento.
Zach Boyd, director de la Oficina de Política de Inteligencia Artificial de Utah, dijo a The Wall Street Journal que el proyecto fue diseñado con cautela y que el estado exigió a Doctronic contratar un seguro de mala praxis para su tecnología de IA. Añadió que, aunque los problemas legales puedan ser nuevos, la empresa debe asumir su responsabilidad ordinaria en materia de daños.
Ese seguro fue emitido por Beazley, aseguradora de responsabilidad empresarial, cuya portavoz declinó hacer comentarios a The Wall Street Journal.
Boyd agregó que hasta ahora no hubo incidentes graves de seguridad, pero que el estado todavía no tiene datos suficientes para pasar a la siguiente fase, en la que las renovaciones aprobadas por la IA irían a la farmacia sin visto bueno previo de un médico y serían revisadas después.
Doctronic afirmó a The Wall Street Journal que su IA utiliza guías clínicas elaboradas por médicos y que los profesionales que revisan las renovaciones ejercen un juicio independiente y tienen las especialidades adecuadas.
Adam Oskowitz, cirujano vascular y codirector ejecutivo de la empresa con sede en Nueva York, dijo al medio: “Hay una parte importante de la medicina que está basada en pruebas, está basada en reglas, es algorítmica. Los sistemas de IA son muy buenos para seguir esas normas”.
La empresa también dijo que trabajará con un socio de investigación independiente para publicar los resultados del piloto de Utah en una revista científica revisada por pares, según The Wall Street Journal.
La controversia revela hasta qué punto la automatización puede transformar la relación entre pacientes y especialistas
