![\"Alguien](\"https:\/\/i.blogs.es\/c07182\/mri-ia-medicina-incertidumbre\/1024_2000.jpeg\")
\n <\/p>\n\n \n <\/p>\n
Un desarrollador llamado Antoine Finkelstein llevaba semanas con el hombro derecho dolorido. Tras visitar a un ortopedista se realiz\u00f3 una resonancia magn\u00e9tica en la zona afectada, y seg\u00fan el informe m\u00e9dico, ten\u00eda una rotura parcial de grado III en el tend\u00f3n subescapular. Finkelstein entonces hizo algo m\u00e1s: le pas\u00f3 la resonancia a Claude Opus 4.8<\/a> para ver qu\u00e9 le dec\u00eda la IA sobre esa imagen, y el resultado fue llamativo porque seg\u00fan ese modelo de IA su hombro estaba \"intacto\".<\/p>\n <\/p>\n La IA le da pistas<\/strong>. El desarrollador sospech\u00f3 que la cl\u00ednica estaba quiz\u00e1s intentando hacer caja a costa de su dolencia, as\u00ed que solicit\u00f3 los datos brutos DICOM de la resonancia magn\u00e9tica. Lo que le dieron fueron 266 MB que cruz\u00f3 con modelos de IA disponibles actualmente. Primero, eso s\u00ed, hizo una consulta r\u00e1pida con ChatGPT y en ella detect\u00f3 potenciales negligencias importantes: la cl\u00ednica le hab\u00eda aplicado terapia de ondas de choque, desaconsejada para tendinopat\u00edas sin calcificaci\u00f3n. Tambi\u00e9n le hab\u00edan inyectado Traumeel, un producto homeop\u00e1tico registrado en Alemania \"sin indicaci\u00f3n terap\u00e9utica\".<\/p>\n <\/p>\n Quibim es la nueva empresa estrella del mundo de la IA aplicada al diagn\u00f3stico m\u00e9dico. Y es de Valencia<\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n Veamos qu\u00e9 dice Claude Opus 4.8<\/strong>. Para tratar de llegar hasta el fondo del asunto, el usuario decidi\u00f3 convertir al modelo de Anthropic en un m\u00e9dico al que pedir una segunda opini\u00f3n. Tras configurar el modelo en la plataforma Claude Code, le permiti\u00f3 que el sistema instalase los paquetes de c\u00f3digo necesarios para procesar las im\u00e1genes m\u00e9dicas en bruto que le hab\u00edan enviado. Tras una hora procesando dichas im\u00e1genes, el modelo de IA emiti\u00f3 un diagn\u00f3stico sorprendente: el tend\u00f3n que los m\u00e9dicos humanos detectaban como roto en un 50% estaba completamente intacto.<\/p>\n <\/p>\n No me f\u00edo<\/strong>. El resultado era tan contradictorio frente al diagn\u00f3stico humano que Finkelstein quiso ir un poco m\u00e1s all\u00e1 y montar un sistema de arbitraje ciego. Le mand\u00f3 a Claude desplegar diversos subagentes independientes combinando im\u00e1genes de IA aisladas entre s\u00ed para evitar sesgos de confirmaci\u00f3n. El veredicto de todos esos subagentes fue un\u00e1nime: no hab\u00eda ninguna rotura parcial ni total, y todo hac\u00eda pensar que los especialistas humanos hab\u00edan exagerado el diagn\u00f3stico.<\/p>\n <\/p>\n Pero cantidad no es calidad<\/strong>. Este art\u00edculo dio lugar a un interesante debate en Hacker News en el que se arrojaron algunas reflexiones importantes. Es importante recordar por ejemplo que aunque la IA elimina el coste de las consultas, tener m\u00e1s informaci\u00f3n no equivale a resolver el problema. Como dec\u00eda<\/a> un usuario, la situaci\u00f3n le record\u00f3 un problema que tuvo con su coche. Pidi\u00f3 soluci\u00f3n a tres talleres distintos, y cada uno le dijo una cosa, e incluso uno le recomend\u00f3 una reparaci\u00f3n que \u00e9l sab\u00eda que era in\u00fatil. \"La soluci\u00f3n a una informaci\u00f3n incierta no es m\u00e1s informaci\u00f3n, que es ciertamente lo que la IA puede proporcionar<\/a>, sino mejor informaci\u00f3n, y en estos momentos la IA no puede proporcionar eso\".<\/p>\n <\/p>\n La IA es demasiado amable<\/strong>. Hay aqu\u00ed otro problema: los grandes modelos de lenguaje est\u00e1n pensados para ser amables y \"agradables\". \u00a0Son en cierto sentido c\u00e1maras de eco que quieren mantenernos contentos, as\u00ed que no est\u00e1n pensados para contradecirnos de forma dura, lo que facilita el sesgo de confirmaci\u00f3n<\/a>. Si un usuario introduce sus sospechas en el prompt al preguntarle al chatbot, la IA tiende a darle la raz\u00f3n: a menudo vemos como empieza contestando con un \"Tienes toda la raz\u00f3n…\". El problema con las respuestas a temas m\u00e9dicos es que pueden ser muy distintas en sesiones independientes, pero como el tono siempre es convincente y seguro, pueden dar lugar a mayor confusi\u00f3n de la inicial.<\/p>\n <\/p>\n El experto opina<\/strong>. En esa conversaci\u00f3n particip\u00f3 un radi\u00f3logo profesional que aport\u00f3 una visi\u00f3n experta. Seg\u00fan su criterio<\/a>, los modelos de IA actuales siguen siendo mediocres interpretando im\u00e1genes m\u00e9dicas debido a la falta de bases de datos p\u00fablicas y masivas de entrenamiento. Esos datos est\u00e1n protegidos por las leyes de privacidad m\u00e9dicas, y de momento ese problema tiene dif\u00edcil \u00a0soluci\u00f3n, pero ese usuario explicaba que los \u00faltimos modelos ya se acercan en precisi\u00f3n al de un m\u00e9dico residente de primer o segundo a\u00f1o. La te\u00f3rica amenaza a la profesi\u00f3n de radi\u00f3logo por parte de la IA es algo de lo que llevamos literalmente a\u00f1os hablando<\/a>: de momento no parece que algo as\u00ed est\u00e9 cerca de ocurrir<\/a>.<\/p>\n <\/p>\n Predecir un c\u00e1ncer de mama cinco a\u00f1os antes de que aparezca, posible gracias a la inteligencia artificial <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n Qui\u00e9n es responsable<\/strong>. Hay \u00a0otro gran problema con la IA: no hay ning\u00fan responsable detr\u00e1s si algo va mal tras aplicar alguna recomendaci\u00f3n. Es cierto que los m\u00e9dicos humanos pueden cometer errores y pueden tener sesgos o incluso incentivos comerciales (vender tratamientos). Sin embargo, la diferencia jur\u00eddica es fundamental: el sistema m\u00e9dico cuenta con una serie de licencias, regulaciones y gesti\u00f3n de responsabilidades<\/a> que penaliza las negligencias. La IA te obliga a que t\u00fa mismo te gestiones ante la incertidumbre.<\/p>\n <\/p>\n El problema es simple: fiarse o no de la IA<\/strong>. En temas tan delicados como este se comprueba que la IA est\u00e1 a\u00fan \u00a0lejos de ser un sustituto real de los expertos humanos. Puede que la medicina actual est\u00e9 \"mercantilizada\", pero la IA, por muy barata o atractiva que pueda parecer, no cuenta a\u00fan con la precisi\u00f3n<\/a> que se necesitar\u00eda para ciertos \u00e1mbitos. Como conclu\u00eda el propio Finkelstein \"no puedo saber si me puedo fiar de la IA, as\u00ed que estoy en una especie de limbo en el que o pruebo suerte con otro m\u00e9dico, o espero y veo si mi hombro mejora con la rehabilitaci\u00f3n que estoy haciendo\".<\/p>\n <\/p>\n Imagen | Vitaly Gariev<\/a><\/p>\n En Xataka | Un equipo en M\u00e1laga acaba de desarrollar una nueva IA m\u00e9dica. Su trabajo: ayudar a interpretar resonancias, tomograf\u00edas e im\u00e1genes m\u00e9dicas<\/a><\/p>\n – \u00a0Un desarrollador llamado Antoine Finkelstein llevaba semanas con el hombro derecho dolorido. Tras visitar a un ortopedista se realiz\u00f3 una resonancia magn\u00e9tica en la zona afectada, y seg\u00fan el informe m\u00e9dico, ten\u00eda una rotura parcial de grado III en el tend\u00f3n subescapular. Finkelstein entonces hizo algo m\u00e1s: le pas\u00f3 la resonancia a Claude Opus 4.8 para ver qu\u00e9 le dec\u00eda la IA sobre esa imagen, y el resultado fue llamativo porque seg\u00fan ese modelo de IA su hombro estaba \"intacto\".<\/p>\n La IA le da pistas. El desarrollador sospech\u00f3 que la cl\u00ednica estaba quiz\u00e1s intentando hacer caja a costa de su dolencia, as\u00ed que solicit\u00f3 los datos brutos DICOM de la resonancia magn\u00e9tica. Lo que le dieron fueron 266 MB que cruz\u00f3 con modelos de IA disponibles actualmente. Primero, eso s\u00ed, hizo una consulta r\u00e1pida con ChatGPT y en ella detect\u00f3 potenciales negligencias importantes: la cl\u00ednica le hab\u00eda aplicado terapia de ondas de choque, desaconsejada para tendinopat\u00edas sin calcificaci\u00f3n. Tambi\u00e9n le hab\u00edan inyectado Traumeel, un producto homeop\u00e1tico registrado en Alemania \"sin indicaci\u00f3n terap\u00e9utica\".<\/p>\n En Xataka<\/p>\n Quibim es la nueva empresa estrella del mundo de la IA aplicada al diagn\u00f3stico m\u00e9dico. Y es de Valencia<\/p>\n Veamos qu\u00e9 dice Claude Opus 4.8. Para tratar de llegar hasta el fondo del asunto, el usuario decidi\u00f3 convertir al modelo de Anthropic en un m\u00e9dico al que pedir una segunda opini\u00f3n. Tras configurar el modelo en la plataforma Claude Code, le permiti\u00f3 que el sistema instalase los paquetes de c\u00f3digo necesarios para procesar las im\u00e1genes m\u00e9dicas en bruto que le hab\u00edan enviado. Tras una hora procesando dichas im\u00e1genes, el modelo de IA emiti\u00f3 un diagn\u00f3stico sorprendente: el tend\u00f3n que los m\u00e9dicos humanos detectaban como roto en un 50% estaba completamente intacto.<\/p>\n No me f\u00edo. El resultado era tan contradictorio frente al diagn\u00f3stico humano que Finkelstein quiso ir un poco m\u00e1s all\u00e1 y montar un sistema de arbitraje ciego. Le mand\u00f3 a Claude desplegar diversos subagentes independientes combinando im\u00e1genes de IA aisladas entre s\u00ed para evitar sesgos de confirmaci\u00f3n. El veredicto de todos esos subagentes fue un\u00e1nime: no hab\u00eda ninguna rotura parcial ni total, y todo hac\u00eda pensar que los especialistas humanos hab\u00edan exagerado el diagn\u00f3stico.<\/p>\n Pero cantidad no es calidad. Este art\u00edculo dio lugar a un interesante debate en Hacker News en el que se arrojaron algunas reflexiones importantes. Es importante recordar por ejemplo que aunque la IA elimina el coste de las consultas, tener m\u00e1s informaci\u00f3n no equivale a resolver el problema. Como dec\u00eda un usuario, la situaci\u00f3n le record\u00f3 un problema que tuvo con su coche. Pidi\u00f3 soluci\u00f3n a tres talleres distintos, y cada uno le dijo una cosa, e incluso uno le recomend\u00f3 una reparaci\u00f3n que \u00e9l sab\u00eda que era in\u00fatil. \"La soluci\u00f3n a una informaci\u00f3n incierta no es m\u00e1s informaci\u00f3n, que es ciertamente lo que la IA puede proporcionar, sino mejor informaci\u00f3n, y en estos momentos la IA no puede proporcionar eso\".<\/p>\n La IA es demasiado amable. Hay aqu\u00ed otro problema: los grandes modelos de lenguaje est\u00e1n pensados para ser amables y \"agradables\". \u00a0Son en cierto sentido c\u00e1maras de eco que quieren mantenernos contentos, as\u00ed que no est\u00e1n pensados para contradecirnos de forma dura, lo que facilita el sesgo de confirmaci\u00f3n. Si un usuario introduce sus sospechas en el prompt al preguntarle al chatbot, la IA tiende a darle la raz\u00f3n: a menudo vemos como empieza contestando con un \"Tienes toda la raz\u00f3n…\". El problema con las respuestas a temas m\u00e9dicos es que pueden ser muy distintas en sesiones independientes, pero como el tono siempre es convincente y seguro, pueden dar lugar a mayor confusi\u00f3n de la inicial.<\/p>\n El experto opina. En esa conversaci\u00f3n particip\u00f3 un radi\u00f3logo profesional que aport\u00f3 una visi\u00f3n experta. Seg\u00fan su criterio, los modelos de IA actuales siguen siendo mediocres interpretando im\u00e1genes m\u00e9dicas debido a la falta de bases de datos p\u00fablicas y masivas de entrenamiento. Esos datos est\u00e1n protegidos por las leyes de privacidad m\u00e9dicas, y de momento ese problema tiene dif\u00edcil \u00a0soluci\u00f3n, pero ese usuario explicaba que los \u00faltimos modelos ya se acercan en precisi\u00f3n al de un m\u00e9dico residente de primer o segundo a\u00f1o. La te\u00f3rica amenaza a la profesi\u00f3n de radi\u00f3logo por parte de la IA es algo de lo que llevamos literalmente a\u00f1os hablando: de momento no parece que algo as\u00ed est\u00e9 cerca de ocurrir.<\/p>\n En Xataka<\/p>\n Predecir un c\u00e1ncer de mama cinco a\u00f1os antes de que aparezca, posible gracias a la inteligencia artificial <\/p>\n Qui\u00e9n es responsable. Hay \u00a0otro gran problema con la IA: no hay ning\u00fan responsable detr\u00e1s si algo va mal tras aplicar alguna recomendaci\u00f3n. Es cierto que los m\u00e9dicos humanos pueden cometer errores y pueden tener sesgos o incluso incentivos comerciales (vender tratamientos). Sin embargo, la diferencia jur\u00eddica es fundamental: el sistema m\u00e9dico cuenta con una serie de licencias, regulaciones y gesti\u00f3n de responsabilidades que penaliza las negligencias. La IA te obliga a que t\u00fa mismo te gestiones ante la incertidumbre.<\/p>\n El problema es simple: fiarse o no de la IA. En temas tan delicados como este se comprueba que la IA est\u00e1 a\u00fan \u00a0lejos de ser un sustituto real de los expertos humanos. Puede que la medicina actual est\u00e9 \"mercantilizada\", pero la IA, por muy barata o atractiva que pueda parecer, no cuenta a\u00fan con la precisi\u00f3n que se necesitar\u00eda para ciertos \u00e1mbitos. Como conclu\u00eda el propio Finkelstein \"no puedo saber si me puedo fiar de la IA, as\u00ed que estoy en una especie de limbo en el que o pruebo suerte con otro m\u00e9dico, o espero y veo si mi hombro mejora con la rehabilitaci\u00f3n que estoy haciendo\".<\/p>\n Imagen | Vitaly Gariev<\/p>\n En Xataka | Un equipo en M\u00e1laga acaba de desarrollar una nueva IA m\u00e9dica. Su trabajo: ayudar a interpretar resonancias, tomograf\u00edas e im\u00e1genes m\u00e9dicas<\/p>\n – La noticia<\/p>\n Alguien us\u00f3 Opus 4.8 para que analizara una resonancia magn\u00e9tica. Lo que sigui\u00f3 confirma que no nos podemos fiar de la IA <\/p>\n fue publicada originalmente en<\/p>\n Xataka <\/p>\n por <\/p>\n Javier Pastor<\/p>\n .\u00a0\u00a0\u00a0<\/p>\n","protected":false},"excerpt":{"rendered":" Un desarrollador llamado Antoine Finkelstein llevaba semanas con el hombro derecho dolorido. Tras visitar a un ortopedista se realiz\u00f3 una resonancia magn\u00e9tica en la zona afectada, y seg\u00fan el informe m\u00e9dico, ten\u00eda una rotura parcial de grado III en el tend\u00f3n subescapular. Finkelstein entonces hizo algo m\u00e1s: le pas\u00f3 la resonancia a Claude Opus 4.8 […]<\/p>\n","protected":false},"author":1,"featured_media":58141,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"amp_status":"","footnotes":""},"categories":[6],"tags":[],"class_list":["post-58140","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia-y-tecnologia"],"_links":{"self":[{"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/posts\/58140","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=58140"}],"version-history":[{"count":0,"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/posts\/58140\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/media\/58141"}],"wp:attachment":[{"href":"https:\/\/ermdigital.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=58140"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=58140"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=58140"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}\n\n\n\n
\n ![\"Quibim](\"https:\/\/i.blogs.es\/cbfaa4\/angel\/375_142.jpeg\")
\n <\/a>\n <\/div>\n\n\n En Xataka<\/a>\n <\/div>\n\n\n\n\n
\n ![\"Predecir](\"https:\/\/i.blogs.es\/4cd7b2\/mamografia\/375_142.jpg\")
\n <\/a>\n <\/div>\n\n\n En Xataka<\/a>\n <\/div>\n
La noticia
\n
\n Alguien us\u00f3 Opus 4.8 para que analizara una resonancia magn\u00e9tica. Lo que sigui\u00f3 confirma que no nos podemos fiar de la IA <\/em>
\n <\/a>
\n fue publicada originalmente en
\n
\n Xataka <\/strong>
\n <\/a>
\n por
\n
\n Javier Pastor
\n <\/a>
\n . <\/p>\n