Artículo examina cómo reducir el riesgo de usar IA en medicina

Los programas de inteligencia artificial son capaces de mejorar la atención médica en una variedad de formas diferentes. Por ejemplo, las aplicaciones de IA pueden usar la visión por computadora para ayudar a los médicos a diagnosticar afecciones a partir de rayos X y FMRI. Los algoritmos de aprendizaje automático también se pueden usar para ayudar a reducir las tasas de falsos positivos al extraer patrones sutiles de los datos que los humanos tal vez no puedan encontrar en los datos médicos. Sin embargo, con las posibilidades vienen nuevos desafíos, y recientemente se publicó un nuevo artículo en Science que Examinó posibles riesgos y estrategias regulatorias. para técnicas médicas de aprendizaje automático en un esfuerzo por minimizar los posibles efectos secundarios negativos del empleo de IA en un contexto médico.

Expansión de aplicaciones para la IA en el cuidado de la salud

AI está viendo cómo sus aplicaciones en el campo médico se expanden rápidamente. Los desarrollos recientes en el campo de la atención médica, impulsados ​​por la IA, incluyen la creación de una nueva compañía farmacéutica que tiene como objetivo utilizar la IA para crear nuevos medicamentos, la creación de sensores de salud remotos controlados por IA y aplicaciones de visión por computadora que analizan tomografías computarizadas y X -rayos.

Para ser más precisos, Genesis Therapeutics es una startup que tiene como objetivo utilizar la IA para acelerar el proceso de descubrimiento de fármacos, con la esperanza de crear fármacos que puedan reducir la gravedad de enfermedades debilitantes. Genesis Therapeutics es solo una de las casi 170 empresas diferentes que utilizan IA para investigar nuevas formulaciones de fármacos. Mientras tanto, en términos de dispositivos de monitoreo de la salud, iRhythm y la startup francesa de IA Cardiologs están haciendo uso de algoritmos de IA para analizar datos de EEG y monitorear la salud de los que tienen enfermedades del corazón corren el riesgo de complicaciones. El software diseñado por las empresas puede detectar soplos cardíacos, una condición causada por un flujo sanguíneo turbulento.

Finalmente, un estudio reciente que investigó cómo se puede aplicar la visión por computadora a las imágenes médicas encontró que los sistemas de visión por computadora rendir al menos tan bien o mejor que los radiólogos expertos al examinar tomografías computarizadas para encontrar pequeñas hemorragias. Los algoritmos utilizados en el estudio pudieron generar predicciones después de examinar las tomografías computarizadas durante solo un segundo. Los sistemas de visión por computadora también pudieron localizar la hemorragia dentro del cerebro.

Entonces, si bien los beneficios potenciales del uso de la IA en el cuidado de la salud son claros, lo que no está tan claro es qué nuevos desafíos y riesgos surgirán como efecto secundario del uso de la IA en el campo de la atención médica.

Regulación de un campo en expansión

Como informó TechXplore, con el fin de evaluar los posibles inconvenientes del uso de la IA en el cuidado de la salud, un grupo de investigadores publicó recientemente un artículo en Science, con el objetivo de obtener respuestas para anticipar posibles problemas con la IA y explorar posibles soluciones a estos problemas. Problemas que pueden surgir del uso de IA en el campo de la atención médica incluyen la recomendación inapropiada de tratamientos que resultan en lesiones, problemas de privacidad y sesgo/desigualdad algorítmica.

La FDA solo ha aprobado la IA médica que usa «algoritmos bloqueados», algoritmos que producen de manera confiable el mismo resultado cada vez que se ejecutan. Sin embargo, gran parte del potencial de la IA radica en su capacidad para aprender y responder a nuevos tipos de entradas. Para permitir que los «algoritmos adaptativos» tengan un mayor uso y obtengan la aprobación de la FDA, los autores del artículo analizaron en profundidad cómo se pueden mitigar los riesgos relacionados con la actualización de los algoritmos.

Los autores abogan por que los ingenieros e investigadores de aprendizaje automático se centren en la supervisión continua de los modelos durante la vida útil de su implementación. Entre las herramientas sugeridas para monitorear los sistemas de IA estaba la propia IA, que podría ayudar a brindar informes automatizados sobre cómo se comporta una IA. También es posible que múltiples dispositivos de IA puedan monitorearse entre sí.

“Para gestionar los riesgos, los reguladores deben centrarse particularmente en el monitoreo continuo y la evaluación de riesgos, y menos en la planificación de futuros cambios de algoritmos”, sayudar a los autores del artículo.

Los autores del artículo también recomiendan que los reguladores se concentren en desarrollar nuevos métodos para identificar, monitorear, evaluar y administrar los riesgos. El documento aplica muchas de las técnicas que la FDA ha utilizado para regular otras formas de tecnología médica.

Como explicaron los autores del artículo:

“Nuestro objetivo es enfatizar los riesgos que pueden surgir de cambios imprevistos en la forma en que los sistemas médicos de IA/ML reaccionan o se adaptan a sus entornos. Las actualizaciones paramétricas sutiles, a menudo no reconocidas, o los nuevos tipos de datos pueden causar errores grandes y costosos”.

Deja un comentario