El secreto más oscuro de la inteligencia artificial

El secreto más oscuro de la inteligencia artificial: ¿por qué hace lo que hace?.

Por muy buenas que sean las predicciones del aprendizaje profundo, nadie sabe cómo llega a sus conclusiones. Este hecho está empezando a generar un problema de confianza y las herramientas para resolverlo no están ayudando demasiado. Pero tal vez así es la propia naturaleza de la inteligencia. En 2015, un grupo de investigadores del Hospital Monte Sinaí de Nueva York (EEUU) quiso aplicar el aprendizaje profundo a la vasta base de datos de historiales de pacientes del hospital. Este conjunto de datos incluye cientos de variables, procedentes de los resultados de pruebas, consultas médicas y mucho más. El programa resultante, que los investigadores llamaron Deep Patient, fue entrenado con datos de alrededor de 700.000 individuos, y cuando fue probado con historiales nuevos, resultó ser increíblemente bueno a la hora de precedir enfermedades. Sin ninguna formación por parte de expertos, Deep Patient había descubierto patrones ocultos dentro de los datos del hospital que parecían indicar cuándo la gente estaba a punto de desarrollar un amplio abanico de trastornos, incluido el cáncer de hígado. Hay muchos métodos para predecir enfermedades a partir del historial médico de un paciente que rinden "bastante bien", según el líder del equipo, Joel Dudley. Pero, añade: "Esto simplemente era mucho mejor". "Podemos elaborar estos modelos, pero no sabemos cómo funcionan". Al mismo tiempo, Deep Patient es algo desconcertante. Parece anticipar el comienzo de trastornos psiquiátricos como la esquizofrenia bastante bien. Pero dado que es un trastorno que a los médicos les cuesta mucho predecir, Dudley no entendía los resultados de su algoritmo. Y sigue sin hacerlo. La nueva herramienta da pistas sobre cómo lo hace. Si algo como Deep Patient puede ayudar a los médicos, lo ideal sería que compartiera el razonamiento que le ha llevado hasta su predicción para asegurarse de que es precisa y poder justificar, por ejemplo, un cambio en la medicación que recibe un paciente. Con una sonrisa algo triste, Dudley afirma: "Podemos desarrollar estos modelos, pero no sabemos cómo funcionan". la profesora del MIT Regina Barzilay, que está empeñada en aplicar el aprendizaje automático a la medicina. Fue diagnosticada con cáncer de mama hace un par de años, a la edad de 43. El diagnóstico le resultó impactante, pero Barzilay también estaba consternada por el hecho de que los métodos estadísticos más modernos y el aprendizaje automático no estuvieran siendo empleados para apoyar las investigaciones oncológicas ni para guiar los tratamientos de los pacientes. Asegura que la IA tiene un enorme potencial para revolucionar la medicina, pero alcanzar ese potencial significará ir más allá de los historiales médicos. Le gustaría que se emplearan muchos más datos, los cuales asegura que están infrautilizados: "datos de imágenes, datos patológicos, todas estas informaciones", aclara.  ¿Esperamos llevarnos y comunicarnos bien con máquinas inteligentes que podrían ser impredecibles e inescrutables? Después de finalizar su tratamiento el año pasado, Barzilay y sus alumnos empezaron a colaborar con médicos del Hospital General de Massachusetts (EEUU) para desarrollar un sistema capaz de minar los informes de patologías para identificar pacientes con determinadas características que los investigadores tal vez querrían estudiar. Sin embargo, Barzilay entendía que el sistema tendría que explicar su razonamiento. Así que, junto con Jaakkola y un alumno, añadió un paso: el sistema extrae y señala las partes de un texto que más representan el patrón que ha descubierto. Barzilay y sus alumnos también están desarrollando un algoritmo de aprendizaje profundo capaz de identificar las primeras señales del cáncer de mama en imágenes de mamografía y quieren dotarlo de la capacidad de explicar su razonamiento. "Realmente necesitas tener un bucle de colaboración entre la máquina y el humano", explica Barzilay. Por Will Knight | traducido por Teresa Woods
Resumen de una publicación del MIT Technology Review: