Elementos del juicio humano e implementación en máquinas inteligentes

Cada vez estamos más acostumbrados a algoritmos y sistemas que automatizan decisiones, que toman decisiones por nosotros.¿Hasta qué punto pueden las máquinas llegar a emular las capacidades humanas de juicio?
En este post voy a hacer un breve análisis técnico-filosófico de esa cuestión. 

Decisiones y sabiduría práctica

Avanzando con el libro  'Introduction to digital humanism', que ya he citado varias veces en este blog, llego al capítulo 'AI @ Work: Human Empowerment or Disempowerment' escrito por Sabine T. Koeszegi. 

En él, y citando a su vez el artículo 'Seven Elements of Phronesis: A framework for Understanding Judgment  in Relation to Automated Decision-making' la autora nos refiere al concepto aristotélico de frónesis 

¿En qué consiste esa frónesis y qué tiene que ver con la toma de decisiones?

Bueno, aunque de traducción algo difícil, frónesis, se suele trasladar este concepto a otros como sabiduría práctica o prudencia y viene a ser algo así como entender, ante una decisión concreta, lo que es posible y no posible, unido a la capacidad para juzgar cuál es el mejor curso de acción en un contexto específico.

Es cierto que Aristóteles utiliza este concepto en relación con el juicio de naturaleza moral, pero quizá nos pueda valer como marco más amplio ante cualquier decisión, sea esta realmente moral o, más práctica y ligada también a actividades profesionales.

Los elementos del juicio humano

En relación con este concepto de frónesis y siguiendo las fuentes citadas, se identifican y enumeran siete elementos del juicio humano, a saber:

• No saber: que intenta, ante situaciones con elementos desconocidos, delimitar de alguna forma el problema intentado contestar a preguntas como dónde empieza y termina el problema, qué está en juego o qué aspectos parecen relevantes.


• Emociones: aunque se suelen considerar como fenómenos internos y, por tanto, en cierto sentido alejadas de una decisión racional, lo cierto es que las emociones están en contacto con un flujo de percepción sensorial con el exterior (y también de nuestro interior) y nos pueden alertar, al menos en algunos casos, acerca de lo que es o no importante e influir por tanto en la decisión. 


• Percepción sensorial: una percepción que, por un lado, permite recoger información del mundo y el contexto pero que, como hemos mencionado en el punto anterior, también nos pone en relación con las emociones.


• Experiencias vividas: es decir, la conexión con lo que ya hemos vivido, nuestras experiencias pasadas


• Intuición: una especie de conocimiento inconsciente que parece derivar también de las experiencias pasadas y del aprendizaje consiguiente.


• Ciencia ('episteme'): Concepto este de 'episteme' de procedencia, creo, platónica, y que hace referencia a un conocimiento justificado, sólidamente apoyado en algo, y que podríamos por tanto asimilar a ciencia.


• Técnica ('techne'): concepto que se contrapone de alguna forma al de 'episteme', en su origen entendido como arte y que se centra más en la aplicación práctica. Una aplicación práctica que se conecta también, por ejemplo, con la experiencia vivida,

Implementación del juicio en máquinas inteligentes

¿Exhiben o pueden exhibir en el futuro las máquinas estos elementos del juicio humano?

En este punto, y aunque las conclusiones no vayan a ser muy diferentes, me permito darme libertad separarme de las fuentes que he citado para dar mi propia opinión.

Antes un aviso de prudencia: lo que puede suceder en un futuro lejano (y por lejano estoy pensando en cualquier cosa a partir de los cinco años, más o menos) en materia de tecnología, y muy especialmente de inteligencia artificial, es casi imposible de predecir y no es nada improbable que asistamos, incluso en plazos inferiores a logros impensables poco antes, ahora mismo.

Dicho esto, ¿Cómo veo la implementación en máquinas de esas capacidades del juicio humano?

Hay algunos elementos que, aunque quizá de manera todavía imperfecta, son claramente implementables en máquinas. Los conocimientos científicos existentes ('episteme') se pueden embeber en las reglas que rigen el comportamiento de una máquina, ya sea de forma selectiva, para un problema concreto, o de manera más generalista, un poco en la línea de como está ocurriendo con los modelos generativos especialmente en el ámbito del lenguaje o incluso como una suerte de bases de datos o bases de conocimiento basadas en técnicas de big data. Aunque hay elementos de evolución y mejora, la viabilidad, incluso la realidad, de esa 'capacidad científica' de las máquinas creo que es incuestionable.

No es muy diferente lo que ocurre con la técnica ('techné'),  aunque es cierto que todavía la aplicación práctica tiende a estar muy guiada por humanos (programación tradicional) o a orientarse ámbitos acotados en lugar de hacerlo de manera generalista.

Igualmente, y aunque seguro que habrá mejoras, tenemos capacidades sensoriales avanzadas por parte de las máquinas, algo que se aprecia especialmente en robótica avanzada pero que se incorpora hoy en día incluso a nuestros tan familiares smartphones. Esas capacidades sensoriales incluso pueden superar en muchos aspectos a las humanas.

La cosa se complica un poco con la experiencia vivida porque en este punto, probablemente las máquinas se encuentren lejos de estar a la altura de las capacidades humanas. No obstante, existe una clara y muy potente semilla: el machine learning. El machine learning, precisamente, se centra en aprender a partir, bien de datos (que no dejarían de ser experiencia vivida por terceros, algo así como 'escarmentar en cabeza ajena') o de experiencia adquirida normalmente mediante sensores y puesta en relación con estados y acciones. A pesar de, como digo, las muy impresionantes capacidades actuales del machine learning, creo éstas se hallan, a pesar de todo, lejos de la capacidad humana para aprender de la experiencia. Es decir, esa capacidad de aprendizaje de la experiencia es viable, se han conseguido ya grandes avances, pero queda mucho campo de mejora.

Se complica aún más la consideración de la intuición, en buena medida porque ni siquiera entendemos del todo cómo funciona la intuición humana. Parece razonable pensar que esa intuición humana, se basa en buena medida, en una aprendizaje de la experiencia, pero un aprendizaje que se produce de manera inconsciente, y un aprendizaje incrementado, seguramente, por una suerte de sentido común o conocimiento de especie que, quién sabe, a lo mejor recibimos de manera hereditaria y que vendría a ser una especie de experiencia vivida como especie. Desconociendo en qué consiste exactamente la intuición, es difícil deducir si es implementable o no. En la medida que se trate de  una suerte de aprendizaje de la experiencia parece, que sería implementable, por lo visto en el punto anterior. Igualmente, parece que, si fuésemos capaces de compilar ese conocimiento humano, ese conocimiento de especie, sería incorporable al conocimiento de una máquina. En este punto de la intuición cabe decir como conclusión que, no es fácil afirmar si será implementable o no, en buena medida porque ni siquiera sabemos del todo en qué consiste. En cualquier caso, hoy en día carecemos de máquinas realmente intuitivas, al menos en el sentido en que familiarmente asignamos a ese término intuición. 

En cuanto al primer elemento del juicio, el 'no saber', resulta un poco extraño ese 'no saber' en el contexto de una decisión de una máquina porque, en el fondo, cuando le pedimos de la forma que sea a una máquina que tome una decisión, ya le estamos delineando claramente el problema. Es como si esto fuese algo que no necesitásemos en las máquinas. A menos, claro, que estemos pensando en máquinas muy avanzadas, digamos en robots humanoides tipo ciencia ficción que, actuando de forma muy similar a los humanos, se encontrasen ante situaciones en que 'ellos mismos' necesitasen delinear la naturaleza del problema. No digo que sea imposible a largo plazo pero, ahora mismo, no creo que exista ninguna implementación que se acerque a eso ni de lejos y, no creo que exista, siguiera, o al menos yo no lo detecto, especial interés ahora mismo en la comunidad científica y técnica por este aspecto.

Muy complejo es el tema de las emociones entre otras cosas porque, de nuevo, y a pesar de existir abundantes teorías psicológicas y neurocientíficas al respecto, es algo que todavía no entendemos realmente. Está claro que ya hoy en día existen soluciones técnicas para detectar emociones en humanos y también para expresar emociones por parte de robots o agentes conversacionales. Cosa muy diferente es que esas máquinas experimenten realmente emociones como un estado interno que esas mismas máquinas sean capaces de reconocer. No es fácil afirmar si esto es posible o imposible, dado que es un fenómeno que ni siquiera entendemos bien en los humanos y dado que, y esto es un problema filosófico de siglos, ni siquiera tenemos acceso a los estados internos de otros humanos, sólo a los nuestros, los de cada individuo. Aunque no me atrevo a decir que no sea implementable a largo plazo, en este momento, creo que estamos lejos de disponer de máquinas que experimenten emociones y ni siquiera está claro ni el interés práctico ni la bondad moral de conseguirlo.

Conclusiones

El juicio humano, ese que nos permite tomar decisiones de todo tipo, parece una capacidad compleja y polifacética. En algunos aspectos las máquinas se pueden acercar (o se acercan de hecho) a asumir algunos de sus componentes, pero existen otros en que no esta claro, a menos a corto plazo, que sea conseguible y, en algún caso, ni siquiera si sería deseable.