La aplicación de la inteligencia artificial al diagnóstico médico tiene problemas. Dejando aparte que es como una caja negra, y no sabemos por qué afirma al final lo que dice, son sistemas que tienen "alucinaciones": si se repite una pregunta varias veces, tras unas cuantas respuestas correctas puede comenzar a desvariar y responder incorrectamente.
Un trabajo en Nature explica un sistema de entropía semántica que puede reducir dichas alucinaciones. En todo caso, los sistemas de inteligencia artificial están todavía lejos de poder ser empleados con fiabilidad.