Estimad@s amig@s
Sinopsis
Adela Cortina, Premio Nacional de Ensayo 2015 y autora del éxito Aporofobia, reflexiona en su nuevo libro sobre los desafíos éticos que plantea la IA y nos alerta de sus peligros para la democracia.
La inteligencia artificial ha nacido cargada de promesas y de amenazas, suscitando a la vez entusiasmos y recelos. Tanto los entusiastas como los temerosos reclaman dotarla de ética para defender y empoderar a los seres humanos y a la naturaleza; algunos incluso aseguran que podremos acabar con las enfermedades, la muerte y crear una especie superior que inaugure un mundo de paz y felicidad.
Ante esta visión tan optimista, ¿hablamos de «ética» o de «ideología»? ¿No se está dando por ciencia lo que no lo es para atraer suculentas inversiones, o incluso ganar en la competencia por el poder mundial? Y todo ello mientras en el espacio público triunfa la razón estratégica y se produce el eclipse de la razón comunicativa. Es ésta una pésima noticia si queremos fortalecer la democracia, que está en peligro en el contexto mundial. Y, por supuesto, en España, Europa y América Latina.
Con la claridad de ideas y los argumentos que caracterizan a Adela Cortina, este libro aborda todos los aspectos clave del debate en torno a la IA: el deber ético de las tecnociencias, la geoestrategia del poder, los desafíos de la robótica, la libertad en la era digital y el control del espacio público por parte de los algoritmos y las tecnologías.
«Un robot no puede dañar a la humanidad,
o, por inacción,
permitir que la humanidad sufra daños»[i]
Prólogo
La inteligencia artificial nació en el pasado siglo, cargada de amenazas y también de promesas. Tanto los temerosos frente a las amenazas como los entusiastas de las promesas reclamaron dotar a la IA de una ética.
(…) la gran pregunta ética es ¿hacia dónde queremos ir?, ¿cuál es la brújula que debe orientar la construcción de mapas de carreteras que habrán de ir cambiando con el tiempo necesariamente?
Somos los seres humanos quienes tenemos capacidad de dialogar y decidir hoy por hoy, pero tomar decisiones conjuntas implica hacerlo desde un «nosotros» sin exclusiones, que, valiéndose de los sistemas inteligentes, busque las respuestas adecuadas (…)
«El primer deber de una ética
es no engañar»[ii]
Adela Cortina nos habla entre otros muchos temas de interés en ¿Ética o ideología de la inteligencia artificial?sobre los políticos virtuales. Un robot ginoide, Mitchito Matsuda que se presentó a la elecciones en un distrito de Tokio.
Sin ánimo de cambiar el debate, vamos a llevarlo al terreno del gobierno corporativo:
¿Para cuándo un consejero ginoide en nuestras compañías?
Ø¿Qué aportaría?
Ø¿Cómo interactuaríamos con él?
Ø ¿Cómo lo evaluaría la comisión de nombramientos y retribuciones?
Ø¿Lo consideraríamos dominical, ejecutivo, independiente, externo…?
o ¿Podría presidir una comisión del Consejo?
o ¿Estamos preparados para dar entrada a un consejero robots?
o ¿Cómo sería el proceso de onboarding?
No preocuparos si vuestra cabeza puede estar a punto de explotar —la mía también—, pero tendríamos que ser capaces de abstraernos y tener estos debates, evaluar su impacto, y empezar a construir reglas —modificar el reglamento del Consejo de Administración ¿será una de ellas?
Si nos venimos arriba podemos imitar a Deep Knowledge Ventures, y nombrar a un algoritmo presidente de la junta:
¿Cómo serían sus decisiones de inversión?
ØPodría decidir dónde debe invertir /desinvertir la compañía
ØMúltiplos de salida
ØCláusulas del pacto de socios
¿Cómo presidente tendría voto de calidad?
ØLa ventaja es que al carecer de emociones, no se enfadaría con el resto de consejeros si le tumban sus propuestas.
Detrás de todo lo anterior, que lo podemos tomar de manera anecdótica en un primer momento, debemos de empezar a visualizar las decisiones éticas y de gran calado que más pronto que tarde deberemos empezar a tomar.
Sigamos avanzando en el debate:
¿Hacer uso del algoritmo o delegar en el algoritmo?
Ø¿Estamos hablando de que los consejeros usen la IA como herramienta o que ésta sustituya al Consejo de Administración?
Ø¿Qué peso le vamos a dar a la ética en la decisión?
o ¿Por qué?
Ø¿Qué peso de deberíamos dar?
o ¿Por qué?
Si recordamos la primera ley de Asimov «Un robot no hará daño a un ser humano, ni por inacción permitirá que un ser humano sufra daño», cómo podría un robot aprobar determinadas decisiones que afecten al equipo humano.
¿Qué debe prevalecer la sostenibilidad de la compañía o proteger a las personas?
«Si hoy enseñamos a los estudiantes lo que les enseñábamos ayer,
les robamos el futuro»[iii]
(…) el aprendizaje de máquinas irá configurando su personalidad y condicionando sus decisiones a lo largo de su existencia (…)
(…) ¿es posible que la máquina tenga motivaciones, sentimientos subjetivos, autoconciencia, incluida la capacidad para la deslealtad y la traición? (…) ¿puede hablarse de «inclinación al bien y a la verdad» en seres que no están dotados de las características (…)?
(…) proliferan los intentos de dotar a los sistemas inteligentes [iv](…) de leyes morales de uno u otro cuño (...) la meta consistía en lograr que se comporten de modo que respeten los intereses de los seres humanos y ayuden a satisfacerlos, pero, evidentemente, la empresa ha desbordado sobrada mente esta pretensión.
• ¿Se trata realmente de una «ética de la IA» en el sentido del genitivo subjetivo por el que entendemos que son las máquinas las que tienen una ética desde la que actúan, unas normas o unos valores desde los que deberían actuar, como podrían ser las leyes de Asimov o cualquier otro modelo ético? ¿O más bien se trata de la ética con la que los seres humanos deben actuar para servirse de la IA?
• (…) ¿Una ética de la IA es la que deben practicar los sistemas inteligentes desde sus propios valores o es la que los seres humanos deberíamos adoptar para servir nos de los sistemas inteligentes?
• (…) ¿Se trata de que los seres humanos utilicemos los sistemas inteligentes como instrumentos o de que los sistemas inteligentes sustituyan a los seres humanos?
• (…) tomar las soluciones que ofrecen los algoritmos, aplicados a muy diversas esferas de la vida social, y asumirlas en nuestras decisiones sin mayor reflexión ni crítica, ¿no implicaría caer en un determinismo algorítmico, renunciando a la libertad?
• ¿Qué tipo de ética sería en cada uno de los dos casos, teniendo en cuenta que hay diversas teorías éticas y muy distintas culturas en la vida cotidiana de un universo multicultural?
• En el caso de que las inteligencias artificiales pudieran integrar en sus «mentes» normas éticas, ¿se las podría considerar como seres dotados de características, tradicionalmente tenidas por humanas, como sentido moral, conciencia y autoconciencia, autonomía, libertad y responsabilidad? ¿Tendríamos que reconocerlas como personas dotadas de dignidad y de derechos, incluso como miembros de la comunidad social y política?
(…) — las máquinas inteligentes— son o serán capaces de ejercer esas competencias que Kipling les niega?[v]
Una IA fuerte, exenta de rasgos emocionales, seria capaz de predecir hechos y consecuencias, y de aplicar políticas basadas en el bien común.
— ¿Cómo podríamos apoyarnos en la IA para conseguir mejorar nuestra toma de decisiones?
o ¿Qué ayuda nos puede prestar la IA para trabajar en interés de todos los stackeholders de la empresa?
«Si caemos en mínimos de humanidad,
entonces nos deshumanizamos»[vi]
¿Ética o ideología de la inteligencia artificial?
El eclipse de la razón comunicativa de una sociedad tecnologizada
Adela Cortina
Ediciones Paidós
Link de interés
• La metafísica de las costumbres
• ¿Para qué sirve realmente la ética?
• La singularidad está cerca: cuando los humanos trascendamos la biología
• Armas de destrucción matemática: como el big data aumenta la desigualdad y amenaza la democracia
• El auge de los robots: La tecnología y la amenaza de un futuro sin empleo
• Qué haremos cuando las máquinas lo hagan todo: Artificial Intelligence, Bots & Big Data
• En qué piensan los robots Bienvenidos a la era de la inteligencia artificial: todo lo que cambiará y todo lo que permanecerá
• Ética para maquinas
«Los humanos agregarán valor donde las máquinas no pueden.
A medida que avance más y más la Inteligencia Artificial,
la inteligencia real, la empatía real
y el sentido común real serán escasos.
Los nuevos trabajos se basarán en
saber cómo trabajar con máquinas,
pero también en cómo impulsar estos atributos humanos únicos»[vii]
ABRAZOTES
[i] Ley cero, Isaac Asimov
[ii] Adela Cortina
[iii] Apotegma de John Dewey
[iv] Robots, algoritmos, máquinas
[v] Mas recuerda la ley que rige nuestras vidas;
No estamos construidas para entender mentiras,
No podemos amar, llorar ni perdonar.
Si nos manejas mal, encontrarás la muerte.
Somos mayores que el Hombre o los Reyes.
Sé humilde cuando te arrastres por debajo de nuestras bielas,
Nuestro toque puede cambiar todas las cosas creadas.
Somos todo en el mundo, salvo los dioses.
Aunque nuestro humo oculte los cielos de sus ojos,
Desaparecerá y las estrellas volverán a brillar;
Porque pese a nuestra fuerza, peso y magnitud,
No somos más que el producto de su intelecto.
èEl secreto de las máquinas
[vi] Adela Cortina
[vii] Satya Nadella