Y si el algoritmo se equivoca, ¿a quién reclamo?
Seguramente has escuchado de las decenas de compañías que buscan hacer uso de la inteligencia artificial para volver a los médicos mas eficientes, extender los servicios de salud a zonas remotas y detectar la presencia de enfermedades con mayor rapidez. También es probable que hayas escuchado acerca de los accidentes causados por vehículos conducidos por inteligencia artificial (IA). Estas historias normalmente resaltan que las tasas de accidentes serán menores con los vehículos administrados por IA. Sin embargo, la alarma internacional es mucho mayor en el caso de este tipo de vehículos en comparación con cualquier accidente rutinario.
Una pregunta que también se suele hacer es: ¿de quién es la culpa cuando se dan este tipo de situaciones? ¿De la persona que hizo el algoritmo? ¿De la compañía que fabricó el vehículo? ¿O del dueño del vehículo?
¿Cómo toma decisiones de salud la inteligencia artificial?
En el sector salud, como es de imaginarse, este tipo de problemas son aún mayores. No solo se debe definir de quién es la culpa, sino que en algunos países es necesario definir si un algoritmo califica como un servicio o un instrumento médico. En Estados Unidos, por ejemplo, los algoritmos deben ser regulados por la Administración de Drogas y Alimentos, a menos que el médico pueda tomar una decisión independiente y entienda el mecanismo que genera las recomendaciones de tratamiento. Sin embargo, todavía no existe claridad acerca de cómo se revisará el adecuado funcionamiento de un algoritmo.
El software que apoya con la implementación de la historia clínica electrónica, en los casos más avanzados, tiene un componente que apoya con decisiones clínicas. Basado en la información del paciente, este tipo de sistemas puede generar alertas simples como interacciones entre medicamentos o contraindicaciones que de otra manera podrían ignorarse. En otras ocasiones, puede proveer recomendaciones de diagnósticos a manera de opciones con diferentes niveles de probabilidad de cada diagnóstico. Este tipo de soluciones pueden ser parte de un sistema de historia clínica electrónica, servicios independientes o en ocasiones aparecer de forma gratuita en páginas web.
Por ahora, más preguntas que respuestas
Por otro lado, existen estudios que evidencian que algunos de estos algoritmos, en particular los que realizan análisis de imágenes, tienen un desempeño igual o mejor que el de los mejores especialistas. Un tema que no queda claro es el nivel de regulación al que deben someterse este tipo de algoritmos y el nivel de responsabilidad que deben tener los diferentes involucrados en el desarrollo y uso de un algoritmo. La tecnología para crear este tipo de herramientas se ha hecho tan accesible, que una persona puede acceder a bases de datos abiertas y gratuitas, a herramientas de elaboración de algoritmos, y en un par de días crear una aplicación que pueda dar diagnósticos sobre, por ejemplo, lesiones de la piel con altos niveles de precisión.
Un algoritmo que está disponible para realizar diagnósticos de forma gratuita o como parte integral de un sistema podría ser muy útil y a la vez riesgoso. ¿Debería este tipo de algoritmos ser regulado y certificado por alguna institución del país donde se utiliza? Si sabemos que existen algoritmos disponibles que pueden ayudar a mejorar los diagnósticos, ¿podemos considerar que es negligente no utilizarlos para ese fin? Y en caso de que sí se utilicen, ¿cómo se divide la responsabilidad legal en caso de un diagnóstico erróneo entre el médico que realiza el diagnóstico, el hospital que compró el sistema y el desarrollador del algoritmo?
Utilizar la IA sabiamente
Es interesante que parte de las respuestas a estas interrogantes debe considerar la decisión de si un algoritmo está brindando un servicio o cuenta como un equipo médico de por sí.
Una solución interesante a este problema se observa en el Portal de Telemedicina de Sao Paulo. Ellos disponen de un algoritmo que puede realizar diagnósticos con bastante precisión y se utiliza para priorizar la revisión por un especialista. El diagnóstico del algoritmo no se comparte con el especialista, pero en caso de encontrarse discrepancias, la información es compartida con tres especialistas adicionales que toman la decisión final. Es decir, el algoritmo no puede influenciar en la opinión del especialista.
Un reto pendiente es que la regulación suele estar atrasada con respecto al avance de la tecnología, y en la región todavía son pocos los casos en los que existen sistemas avanzados de apoyo a personal médico basado en algoritmos. Pero el futuro avanza rápido y es probable que en pocos años tengamos que enfrentar el tipo de dilemas legales y éticos que los casos recién descritos ilustran. Es necesario comenzar a discutir estos temas y pensar en soluciones cuando todavía el problema es relativamente manejable.
Fuente: Blog Gente Saludable (BID)
.png)
No hay comentarios:
Publicar un comentario