Un estudio revela que los médicos que dependen de la IA empeoraron un 20% en la detección de riesgos para la salud

Las herramientas de asistencia por IA se han convertido en un recurso diario que ha ayudado a aumentar la productividad y la velocidad en varias industrias. A pesar de los notables beneficios de estos sistemas inteligentes, los expertos médicos están preocupados de que la dependencia excesiva de la inteligencia artificial pueda estar causando más daño que beneficio.

La dependencia de la IA puede reducir las tasas de detección de los médicos en colonoscopias

Un estudio reciente realizado en 1,443 pacientes reveló que los endoscopistas que utilizaron agentes de IA durante las colonoscopias lograron una tasa de éxito menor en la detección de irregularidades cuando no se usaron estas herramientas. 

Los resultados de la investigación, publicados este mes en la revista Lancet Gastroenterology & Hepatology, muestran que estos médicos lograron una tasa de éxito del 28.4% en la detección de posibles pólipos utilizando la tecnología. Sin estas herramientas, la cifra cayó al 22.4%, lo que representa una disminución del 20% en las tasas de detección.

El Dr. Marcin Romańczyk, gastroenterólogo en el H-T. Medical Center en Tychy, Polonia, y autor del estudio, expresó sorpresa por los resultados. Señaló la dependencia excesiva de la inteligencia artificial como uno de los factores clave que contribuyen a la disminución de las tasas de detección.

Aprendimos medicina de los libros y de nuestros mentores. Los observábamos. Ellos nos decían qué hacer. Y ahora hay algún objeto artificial que sugiere lo que debemos hacer, dónde debemos mirar, y en realidad no sabemos cómo comportarnos en ese caso particular.

Dr. Marcin Romańczyk

El resultado no solo captura los posibles efectos negativos de depender en gran medida de la inteligencia artificial, sino que también aborda la evolución de la práctica médica de una tradición centrada en lo analógico a una era digital.

Preocupaciones sobre la inteligencia artificial en el lugar de trabajo: ganancias de productividad a costa de lo cognitivo

Además del aumento de su implementación en quirófanos y oficinas, la automatización por IA se ha convertido en una constante en los lugares de trabajo, con muchos recurriendo ahora a estas herramientas para aumentar la productividad. Goldman Sachs incluso predijo en 2023 que la IA podría aumentar la productividad laboral hasta en un 25%.

Pero adoptar estos sistemas de IA también conlleva el peso de posibles desventajas. De hecho, investigaciones de empresas líderes han destacado los riesgos asociados con depositar demasiada confianza en estas herramientas. 

Una publicación de Microsoft y Carnegie Mellon University señaló que la IA ayudó a aumentar la eficiencia laboral entre un grupo de trabajadores del conocimiento encuestados. Pero debilitó sus habilidades de juicio “atrofiadas” y su capacidad analítica.

Dependencia excesiva de la inteligencia artificial en la aviación: lecciones del vuelo 447 de Air France

Incluso en el sector de la aviación, donde la seguridad es primordial, pruebas anteriores sugieren que la dependencia excesiva de la automatización puede comprometer la seguridad. En 2009, un vuelo 447 de Air France que iba de Río de Janeiro a París se estrelló en el Océano Atlántico, resultando en la pérdida de más de 228 vidas.

Las investigaciones revelaron posteriormente que el sistema de automatización del avión había desarrollado fallos. Así, esto provocó que el “director de vuelo” automatizado de la aeronave transmitiera información inexacta. Y dado que el personal de vuelo no estaba adecuadamente entrenado en vuelo manual, confiaron en las funciones automatizadas del avión en lugar de hacer los ajustes necesarios.

Equilibrando la adopción de IA con la experiencia humana en industrias de alto riesgo

Lynn Wu, profesora asociada de operaciones, información y decisiones en la Wharton School de la University of Pennsylvania, señaló que estos incidentes son una llamada de atención para la adopción de IA en sectores donde la seguridad humana es crítica. Wu explicó que, aunque se adopten estas tecnologías, las industrias deben asegurarse de que los trabajadores estén adoptando adecuadamente estas herramientas.

Lo importante es que aprendamos de esta historia de la aviación y de la generación anterior de automatización, que la IA absolutamente puede mejorar el rendimiento. Pero al mismo tiempo, debemos mantener esas habilidades críticas, de modo que cuando la IA no funcione, sepamos cómo tomar el control.

Lynn Wu

Agregó que si las personas pierden sus propias habilidades, la inteligencia artificial también tendrá un peor desempeño. Para que la IA mejore, los individuos también deben mejorar continuamente.

Romańczyk también acepta el uso de la IA en la medicina, señalando que “la IA será, o es, parte de nuestra vida, nos guste o no”. Aun así, enfatizó la necesidad de comprender cómo la inteligencia artificial afecta el pensamiento humano e instó a los profesionales a determinar las formas más efectivas de utilizarla.