¿Qué pasaría si a la Inteligencia Artificial le damos ética humana?

Para enseñar a la inteligencia artificial a que tenga ética humana, tienes que enseñarla a entender la ética como lo hacemos nosotros.

Un par de investigadores del Instituto Internacional de Tecnología de la información en Bangalore, India, publicaron un artículo, el cual fue titulado “IA y el sentido del yo”.

El documento describe una metodología llamada “identidad elástica” mediante la cual los investigadores dicen que la IA podría aprender a obtener un mayor sentido y, al mismo tiempo, comprender cómo evitar los “daños colaterales”

En resumen, los investigadores sugieren que le enseñemos a la IA a estar más éticamente alineada con los humanos al permitirle aprender cuándo es apropiado optimizar para sí misma y cuándo es necesario optimizar para el bien de una comunidad.  

Lo que algunos investigadores piensan

Si bien podemos estar lejos de un modelo computacional integral del yo, en este trabajo nos enfocamos en una característica especifica de nuestro sentido del yo que puede ser la clave para el sentido innato de la responsabilidad y la ética en los humanos.

A esto lo llamamos el sentido elástico del yo, que se extiende sobre el conjunto de objetos externos llamado conjunto de identidad.

Nuestro sentido del yo no se limita a los limites de nuestro ser físico y, a menudo, se extiende para incluir otros objetos y conceptos de nuestro entorno. Esto forma la base de la identidad social que contribuye a un sentido de pertenencia y lealtad hacia algo distinto o más allá del ser físico de uno.

Los investigadores describen una especie de equilibrio entre el altruismo y el comportamiento egoísta en el que un agente podría comprender los matices éticos.

Desafortunadamente, no hay cálculo para la ética

Los seres humanos han estado tratando de resolver la forma correcta de comportarse en una sociedad civilizada durante milenios y la falla de naciones utópicas en la sociedad moderna te dice hasta dónde hemos llegado.

Según los investigadores:

A nivel sistémico, también hay preguntas abiertas sobre la estabilidad evolutiva de un sistema de agentes con identidad elástica. ¿Puede un sistema de agentes empáticos ser “invadido” con éxito por un pequeño grupo de agentes no empáticos que se identifican con los demás?

¿Realmente queremos que la IA sea capaz de aprender ética a la manera humana? Nuestro punto de vista socio-ético se ha forjado en el fuego de innumerables guerras y una tradición interrumpida de cometer atrocidades horribles.

Enseñar a la IA nuestra ética y luego entrenarla para que evolucione como lo hacemos nosotros podría ser la receta para automatizar el desastre.

Podría conducir a una mayor compresión filosófica de la ética humana y la capacidad de simular la civilización con agentes artificiales. Tal vez máquinas lidiarán con la incertidumbre mejor que lo qué los humanos lo han hecho históricamente.

La entrada ¿Qué pasaría si a la Inteligencia Artificial le damos ética humana? se publicó primero en Cristian Monroy.