Estimad@s amig@s
Sinopsis
Entre los campos en los que se esperan avances notables gracias a la Inteligencia Artificial está la educación, el cambio climático, la propia mejora de la productividad en el trabajo, o, la sanidad, donde se esperan particulares hitos en el descubrimiento de nuevas vacunas o medicamentos, y también en la detección de enfermedades. La Inteligencia Artificial puede tener en el ámbito clínico muchas y muy variadas aplicaciones, entre ellas algunas como facilitar y mejorar la capacidad de diagnóstico, predecir reingresos hospitalarios, ayudar en el descubrimiento de nuevos fármacos, etc. Sin embargo, su utilización también plantea varios desafíos y preocupaciones éticas y legales, especialmente, en el ámbito de la protección de los derechos fundamentales de los pacientes. Así el presente libro tiene por objeto exponer algunas consideraciones éticas y legales en el uso de la inteligencia artificial en el ámbito sanitario o de salud, abordando para ello la protección de los derechos fundamentales de los pacientes en estos casos. Así, en las siguientes páginas trataremos las siguientes cuestiones: principales conceptos técnicos relacionados con la Inteligencia Artificial y los principales casos de uso en el ámbito sanitario y de la salud; marco normativo existente en España en relación con la Inteligencia Artificial y el ámbito sanitario, haciendo especial hincapié en la protección de los derechos fundamentales de los pacientes al respecto; se analizará en detalle el enfoque de la Unión Europea en relación con la Inteligencia Artificial detallando el paquete normativo que se está desarrollando al respecto; retos éticos y legales que todo lo anterior genera; recomendaciones para intentar preservar el equilibrio entre las numerosas posibilidades que ofrece una tecnología tan disruptiva como la Inteligencia Artificial en el ámbito sanitario y el respeto de los derechos fundamentales de los pacientes como la protección de datos, la privacidad y la confidencialidad.
«No hay Inteligencia Artificial correcta
sin inteligencia humana que proporcione
información y datos válidos»[i]
Prólogo I[ii]
(…) la Inteligencia Artificial nos obliga a asumir y redactar nuevas medidas éticas y legales que no solo nos inquietan a los médicos, sino que también parecen resultar inimaginables para nuestros juristas.
Durante los pocos años que los médicos llevamos introduciendo la IA en nuestra actividad profesional, nos estamos enfrentando con encrucijadas que ponen a prueba nuestra imaginación y nuestra ética.
¿De veras ha llegado el momento en el que los médicos vamos a compartir responsabilidades con la IA, en el diagnostico, o en la toma de decisiones terapéuticas? ¿Cómo vamos a ser corresponsables con la IA del resultado o de las posibles complicaciones que sufran nuestros pacientes?
¿El que cada uno de nosotros formemos parte de la big data como nutriente imprescindible de la Inteligencia Artificial nos concienciará de un nuevo deber ético para con el desarrollo científico?, ¿Llegaremos a ser más generosos con nuestra intimidad liberando nuestros datos personales?
(…) la Inteligencia Artificial empuja a la medicina a una evolución inquietantemente rápida (…) innovamos a una velocidad incómoda para la ciencia hipocrática, una disciplina tradicionalmente obligada a guardar un ritmo “prudentemente conservador”.
«Con mucha diferencia,
el mayor peligro de la Inteligencia Artificial es
que las personas concluyen demasiado pronto que la entienden»[iii]
Prólogo II[iv]
¿Hay algo más importante que la salud? (…)
(…) la IA seguirá avanzando, que llegará a ser más inteligente que nosotros y que siendo un producto inacabado, no está exenta de limitaciones, eventos adversos o fallos propios del aprendizaje. En el caso de la medicina, los riesgos son reales e inmediatos, y en el uso de la IA debemos ser conscientes de los mismos y minimizarlos (…)
(…) el futuro se presenta alentador para los sanitarios, ejerciendo la medicina como un asistente constante que ayude en la elaboración de informes, petición de pruebas, en la toma de decisiones y diagnósticos complicados y siempre respaldado por el conocimiento científico más actual y por los datos estadísticos más recientes, disminuyendo, por un lado, la variabilidad, los efectos adversos, las acciones carentes de valor y la fatiga del sanitario, y aumentando, por otro lado, la eficiencia, y el acceso a la atención sanitaria para mejorar las vidas de nuestros pacientes, especialmente de los más vulnerables.
«Tan importante es educar a las nuevas generaciones que vienen
como también creo que es importante
enseñar a la fuerza laboral existente,
para que puedan entender cómo hacer
que la Inteligencia Artificial les sirva a ellos y a sus roles»[v]
La irrupción de lo digital provocó, provoca y seguirá provocando muchos cambios en todos los sectores de actividad. El sector de la salud como no podría ser menos también está andando ese camino, no sin problemas de adaptación, gestión del cambio, seguridad, protección, humanización de la relación entre el profesional y el paciente, etc.
Antonio Serrano utiliza su libro La Inteligencia Artificial en el ámbito sanitario para introducir debates necesarios no sólo para los dirigentes o los profesionales de la salud, también para el paciente ―y los familiares. Todos somos parte del cambio, se nos pide un ejercicio de comprensión del nuevo modelo asistencial, pero no tenemos por qué entender la idoneidad de ceder nuestros datos sanitarios para entrenar un algoritmo. Visto desde el otro lado de la mesa puede que en breve la Inteligencia Artificial nos haga un triage, decida que pruebas nos tenemos que hacer, interprete una radiografía, recomiende a nuestro médico un tratamiento u otro, etc.
Soy un defensor de la salud digital pero con salvedades. Sí a la tecnología para descomprimir el colapso asistencial, pero no a la deshumanización del proceso /relación profesional sanitario-paciente.
Si a entrenar algoritmos con mis imágenes, datos médicos pero yo informado, autorizando, y teniendo la potestad de poder poner límites a la explotación de los mismos. Podríamos llamarlo algo así como ―empoderar al paciente digital―.
Sí a los avances en salud digital, pero a la vez dando los máximos estándares de seguridad al paciente. Como pacientes /usuarios es lógico que tengamos miedo /reticencias a ceder nuestros datos, sin saber ¿Quien los custodia?, ¿Qué hace con ellos?, ¿A quién se los comparte?...
Mucho camino por andar, pero tenemos que dar los primeros pasos, y no podemos empezar a caminar si no entendemos hacía dónde nos dirigimos con el uso de La Inteligencia Artificial en el ámbito sanitario. Mi recomendación es preguntar ¿Qué se va a hacer con la información recopilada de nuestro expediente sanitario? Una vez obtengamos la respuesta obraremos en consecuencia.
«Lo que todos tenemos que hacer es asegurarnos de que estamos usando la IA
de una manera que sea en beneficio de la humanidad,
no en detrimento de la humanidad»[vi]
Aprendizaje de las maquinas
• Inteligencia Artificial
- Machine Learning
o Deep Learning
§Inteligencia Artificial Generativa
(…) la Inteligencia Artificial en salud utiliza algoritmos y software para emular la inteligencia humana en el análisis, interpretación y comprensión de información médica complicada. Su uso promete mejorar la eficacia del sistema de salud, reducir errores médicos y proporcionar cuidados de salud personalizados.
Actividad asistencial
La aplicación de la Inteligencia Artificial en el diagnostico, la prevención y el tratamiento de enfermedades (…)
• Análisis de imágenes médicas
• Sistemas de apoyo a la decisión clínica
• Procesamiento de lenguaje natural
• Administración de tratamientos
• Elaboración de perfiles de pacientes
Gestión sanitaria y de las estrategias de salud pública
(…) la Inteligencia Artificial puede emplearse para establecer correlaciones que permitan cambiar o mejorar procesos, protocolos de actuación (…)
• La gestión optimizada de los hospitales y centros de salud
• La gestión optimizada del sistema sanitario en su conjunto
• La creación de modelos predictivos
Investigación biomédica y desarrollo de nuevos fármacos
(…) la Inteligencia Artificial ofrece herramientas que permiten agilizar y optimizar estos procesos, que tradicionalmente han requerido una inversión considerable de tiempo y recursos.
• Análisis de datos e identificación de objetivos
• Diseño de fármacos y optimización de moléculas
• Screening de compuestos y predicción de toxicidad
• Medicina y farmacología de precisión
Medicina preventiva y autocuidado
(…) la medicina preventiva y el autocuidado emergen como áreas donde está demostrado ser particularmente valiosa (…) la Inteligencia Artificial contribuye a la evolución de la medicina preventiva y fomenta una cultura de autocuidado, empoderando a los individuos en la gestión de su propia salud.
• Monitorización y detección temprana
• Gestión de enfermedades crónicas
• Promoción de estilos de vida saludables
• Educación y concienciación en salud
• Apoyo psicológico y bienestar mental
• Personalización de intervenciones preventivas
Datos, patrones, tendencias, algoritmos predictivos, perfilados de personas (…) nos deben poner en sobre aviso de la necesidad de proteger los derechos fundamentales de las personas cuando se implementen sistemas o herramientas de Inteligencia Artificial con pacientes (…) debe ser considerada como una forma más de tratamiento de datos (…) debe recordarse que la protección de las personas físicas en relación con el tratamiento de datos personales es un derecho fundamental protegido (…) se erige como clave de bóveda para afrontar los riesgos éticos y legales en materia de Inteligencia Artificial.
Retos éticos y legales
• Garantizar el anonimato de los individuos y pacientes
• Protección de la información del individuo por la posibilidad de establecer relaciones entre datos masivos a través de las tecnologías del Big Data
• Evitar posibles sesgos a la hora de tomar decisiones basadas exclusivamente en perfiles y en procesos de estratificación
• Garantizar que la toma de decisiones no sea automatizada o basada exclusivamente en propuestas del sistema de Inteligencia Artificial o en perfiles obtenidos de los pacientes
• Asegurar la transparencia sobre los elementos esenciales y sobre el proceso por el cual un sistema de Inteligencia Artificial llega a la conclusión decisoria
• Establecer a quién atribuir y quién debe asumir responsabilidades a la hora de emplear herramientas de Inteligencia Artificial en salud
Recomendaciones
• La Inteligencia Artificial como instrumento de ayuda en la toma de decisiones del profesional sanitario: autonomía y supervisión humana
La Inteligencia Artificial está desempeñando un papel significativo en el apoyo a la toma de decisiones de los profesionales sanitarios (…) resulta esencial encontrar un equilibrio entre la autonomía de los sistemas de Inteligencia Artificial y la supervisión humana para garantizar decisiones seguras y eficaces (…)
• Transparencia y explicabilidad
(…) desempeñar un papel esencial para garantizar su aceptación y eficacia (…) parece más que conveniente garantizar el principio de transparencia y de información para minimizar las posibles reticencias a las herramientas de Inteligencia Artificial que surgen de la percepción de no conocer cómo toman las decisiones (…) sobre la salud de las personas, (…) será imprescindible potenciar la difusión de información y de transparencia a la hora de aplicar estas herramientas.
• Robustez
(…) de los sistemas de Inteligencia Artificial es fundamental para garantizar su fiabilidad y efectividad en el sector sanitario.
• Fomento de la innovación y el desarrollo
La creatividad, la investigación audaz y la experimentación son las fuerzas vitales que permitirán a la Inteligencia Artificial florecer en todo su esplendor en el sector sanitario (…) es imperativo fomentar y proteger la investigación y desarrollo de esta tecnología tan disruptiva (…)
• Regulación y responsabilidad: Privacidad, calidad de los datos y discriminación
(…) en el fascinante horizonte de la Inteligencia Artificial en el ámbito sanitario, donde la tecnología se convierte en un aliado invaluable en la atención de la salud, es imperativo tener en cuenta los cimientos éticos y legales sobre los que se construye esta revolución.
(…) la regulación y responsabilidad se erigen como baluartes esenciales que garantizan la protección de los derechos fundamentales de los pacientes, cuidando especialmente su privacidad e intimidad, la calidad de los datos y la no discriminación (…)
• Formación
(…) no solo optimiza la eficacia de esta tecnología, sino que también salvaguarda los aspectos éticos y legales inherentes a su uso.
«¿Heredarán los robots la Tierra?
Sí,
pero serán nuestros hijos[vii]
La Inteligencia Artificial en el ámbito sanitario
Protección de los derechos fundamentales de los pacientes
Antonio Serrano Acitores
Tecnos
Link de interés
• Economía digital y regulación europea: mercados y servicios digitales, criptoactivos, gobernanza de datos e IA
• La cuarta revolución industrial
• La salud digital y las nuevas formas de atención médica
• Biotecnología: Soluciones para la salud del futuro y la sostenibilidad del planeta
• Ciberseguridad para directivos
• La salud y las redes sociales: Conectar para investigar, prevenir, compartir, cuidar y curar
• Alquimia: Cómo los datos se están transformando en oro
• Big Data:La utilización del Big Data, el análisis y los parámetros smart para tomar mejores decisiones y aumentar el rendimiento
• Metaverso y derecho
• El urinómetro inteligente, un nuevo paso en la incorporación de la IA al ámbito de la salud
«En el siglo XXI,
el poder es más fácil de conseguir,
más difícil de usar,
y más fácil de perder»[viii]
ABRAZOTES
[ii] Ángel Villamor Pérez
[iii] Eliezer Yudkowsky
[iv] Manuel Gómez Serrano
[v] Sarah Aerni
[vi] Tim Cook
[vii] Marvin Minsky
[viii] Moisés Naím