La definición de Inteligencia Artificial en el ámbito jurídico. El caso de la AI Act

La inteligencia artificial es, probablemente, la tecnología más transformadora que podemos contemplar hoy en día.

Una tecnología que, sin embargo, es muy diversa y polifacética tanto en cuanto a sus técnicas como en cuanto a sus aplicaciones. Eso que la convierte, creo, en más valiosa a interesante, complica, sin embargo, su definición. 

La definición de la inteligencia artificial

En efecto, suelo decirle a los alumnos de cursos en que en mayor o menor medida abordo la inteligencia artificial, que todavía no he encontrado una definición que me satisfaga plenamente, una definición correcta, abarcadora, que delimite bien las fronteras y, en la medida de lo posible, corta y clara.

Al igual que hago en mi segundo libro 'Robots en la sombra' suelo recordar en primer lugar la, no sé si definición o explicación', que en su momento aportó McCarthy, uno de los padres de la inteligencia artificial.

Hacer que una máquina se comporte de una forma que consideraríamos inteligente si un humano se comportase de esa forma.

Una declaración simple, aspiracional y fácil de entender... pero laxa y alejada de lo que es realmente hoy en día la inteligencia artificial.

En mi primer libro, 'La carrera digital' proponía la siguiente definición:

Inteligencia artificial es una disciplina que define algoritmos capaces de aprender a partir de datos y experiencia, adaptando su comportamiento con un cierto grado de autonomía.

aunque, y sabiendo que está mal que yo lo diga, es de las definiciones que creo más acertadas, sin embargo, y a pesar de ser mía, tampoco me satisface completamente. Sobre todo porque parece referirse sólo al machine learning que, a pesar de ser el subconjunto dominante, y muy dominante, hoy en día en la inteligencia artificial, no lo es todo, especialmente si miramos al pasado, a las primeras realizaciones de la inteligencia artificial y, cualquier sabe si será tan dominante en el futuro.

El enfoque pragmático

Para mis labores de formación, e incluso de investigación y reflexión, en este ámbito como en otros, y muy especialmente el de la robótica, donde el propio término robot está sometido a encendidos debates, suelo adoptar lo que llamaría un enfoque pragmático. 

Un enfoque en que 'no me empeño' en encontrar la definición perfecta, sino en ser capaz de explicar (si es posible hacerlo apoyado en un diagrama de bloques, aún mejor) la idea principal y las características que, al menos en la mayor parte de las veces, exhibe aquello que llamamos robot o que llamamos inteligencia artificial.

Las definiciones y la ley

Ese enfoque pragmático, que considero acertado y útil en muchos casos, puede que sea un lujo que una formulación jurídica, una ley o un reglamento no se puedan permitir.

No soy jurista, así que puedo equivocarme en mis apreciaciones, pero siempre me ha parecido que uno de los ámbitos donde mayor atención se presta a las definiciones, a un uso preciso, extremadamente preciso, del lenguaje, en en el ámbito legal.

Y me parece muy bien que sea así. El rigor es muy bueno en cualquier ámbito de la vida, pero en el legal creo que es imprescindible. Si vas a marcar en un texto lo que las personas e instituciones pueden hacer y lo que no, y si presuntamente vas a castigar a quien no observe esas directrices, más vale que seas claro en el establecimiento de las reglas y para ello, entre otras cosas, necesitas buenas definiciones de aquello que vas a regular.

Formulaciones en la AI Act

Como muchos lectores de este blog conocerán, se encuentra en estos momentos en avanzado estado de tramitación la llamada AI Act, la ley europea aplicable a la inteligencia artificial.

Y, claro, si tengo razón en todo lo expuesto más arriba, el legislador europeo tiene un problema: no le queda otra que intentar definir inteligencia artificial...cuando no existe realmente una definición precisa y universalmente aceptada.

¿Qué está haciendo?

Según me cuentan compañer@s juristas de OdiseIA (Observatorio del Impacto Social y Ético de la Inteligencia Artificial), y si lo he entendido bien, se encuentran en liza y sometidas a comentarios y supongo que negociaciones, dos formulaciones de lo que es la inteligencia artificial. Veámoslas y luego comento alguna percepción:

La propuesta de la Comisión Europea

En la propuesta elevada por la Comisión Europea, se define sistema de inteligencia artificial a lo siguiente:

artificial intelligence system’ (AI system) means software that is developed with one or more of the techniques and approaches listed in Annex I and can, for a given set of human-defined objectives, generate outputs such as content, predictions, recommendations, or decisions influencing the environments they interact with

En cierto sentido es una definición incompleta o que se completa por referencia, ya que las técnicas a que se refiere la definición no están en ellas contenidos sino en un anexo. Bueno, ese anexo, reza lo siguiente:

Machine learning approaches, including supervised, unsupervised and reinforcement learning, using a wide variety of methods including deep learning;

Logic- and knowledge-based approaches, including knowledge representation, inductive (logic) programming, knowledge bases, inference/deductive engines, (symbolic) reasoning and expert systems;

Statistical approaches, Bayesian estimation, search and optimization methods.

Esta es una de las formulaciones. Veamos la otra.

La propuesta del Parlamento Europeo

La enmienda que ha salido del Parlamento Europeo, es:

artificial intelligence system’ (AI system) means a machine-based system that is designed to operate with varying levels of autonomy and that can, for explicit or implicit objectives, generate outputs such as predictions, recommendations, or decisions, that influence physical or virtual environment.

Ya no hay referencias a un anexo. Pero hay alguna diferencia más que analizaré en lo que queda de post.

El retorno a la teoría de conjuntos. Definiciones por extensión y por enumeración.

Cuando confronto estas dos definiciones, especialmente en lo relativo al anexo, no puedo evitar que vengan a mi memoria recuerdos infantiles de cuando en EGB me explicaban teoría de conjuntos y nos decían que había dos formas de definir un conjunto:

• Por extensión: en que de alguna forma dabas la regla que hacía que un elemento perteneciese o no a un conjunto.
• Por enumeración: simplemente, listabas los elementos del conjunto

En cierto sentido, salvando las distancias y tomándome alguna licencia, es como si la definición propuesta por el Parlamento Europeo actuase definiendo inteligencia artificial por extensión, mientras que la propuesta original de la Comisión Europea, con su anexo, lo hace por enumeración.

¿Qué es mejor?

Desde un punto de vista académico, teórico, conceptual, casi diría que intelectual, prefiero mil veces una definición por extensión (como es la del Parlamento). Si en algún futuro libro, que lo habrá, hago un nuevo intento de definir inteligencia artificial, será, sin duda, por extensión y no por enumeración.

En cierto sentido, una definición por enumeración me parece casi un truco burdo, una no definición. Quizá una explicación, pero no una definición.

Y sin embargo...

Enumeración y resiliencia de la ley

Y sin embargo, para este caso concreto, para la definición de inteligencia artificial en un texto legal, la ley de la inteligencia artificial europea, puede ser un gran acierto actuar por enumeración (usar el anexo).

¿Por qué?

Pues por dos motivos. 

Porque, por un lado, como he dicho, no existe, al menos que yo sepa, una definición de inteligencia artificial completa, clara, realista y ampliamente aceptada. Un enfoque por enumeración parece más fácil que tenga consenso porque los expertos reconocerán las técnicas sin necesidad de empeñarse en reducirlas a un enunciado de difícil generalidad y convergencia.

Y quizá más importante: porque intentar definir inteligencia artificial es apuntar a un blanco móvil, algo que está en constante y muy rápida evolución. Y la apurada inclusión en el texto legal de las consideraciones específicas a la inteligencia artificial generativa y los modelos fundacionales, así lo acredita.

Aislar las técnicas que comprende la inteligencia artificial en un anexo, es un factor de resiliencia y de estabilidad en el tiempo de la propia ley. Si la evolución de la inteligencia artificial hace que se incluyan nuevas técnicas, pero sin desafiar ni los principios éticos, ni los niveles de riesgo ni las medidas de gobierno que plantea la ley, modificar la ley consistiría en modificar tan solo el anexo, permaneciendo inalterado el articulado, que no deja de ser el verdadero contenido de la ley.

Repito que no soy jurista, y desconozco los procedimientos de tramitación, pero el sentido común me dice que tramitar un cambio sólo en el anexo debería ser muchísimo más rápido y sencillo que decidir sobre el articulado.

Software versus sistema

Otra diferencia que aprecio es que en la propuesta de la Comisión Europea se considera a la Inteligencia Artificial como software mientras que en la enmienda del Parlamento Europeo  nos habla de sistemas basados en máquinas.

Siendo realistas, la inteligencia artificial es básicamente software y no preveo que esto cambie demasiado. Por supuesto el software se ejecuta sobre un hardware pero, en general, podemos considerar a la inteligencia artificial como software.

Sin embargo, no es descartable que, por ejemplo, y por meros motivos técnicos y de eficiencia y rapidez, algún fabricante decidiese, por ejemplo, implementar un algoritmo en un circuito integrado o hacerlo (a lo mejor en algún caso ya se hace) con las operaciones matriciales y tensoriales habituales en machine learning.

Si hablas de sistema, abarcas ambas posibilidades, incluyes el software pero también la posibilidad de hardware. Por eso, y pensando de nuevo en la resiliencia de la ley, yo tendería a hablar de sistemas, más que de software.

Sobre la autonomía

Un tema que veo expresado de forma ambigua, y no es nada trivial, es la mención al concepto de autonomía en la propuesta del Parlamento Europeo.

Reconozco desconocer si algún texto complementario dentro de la propia ley o la enmienda, clarifica qué quiere decir con autonomía.

Así, por ejemplo, yo mismo, cuando en 'La carrera digital' explico las características hablo de la autonomía de los algoritmos en el sentido de que, dado que son capaces de aprender de datos y experiencia, pueden, si así se ha previsto, evolucionar sin que sus creadores (desarrolladores) intervengan directamente.

Cuando en 'Robots en la sombra' hablo de autonomía en relación a los robots, lo hago para indicar que al contrario que, por ejemplo, herramientas como un martillo neumático, un robot funciona sin ser 'pilotado' por un humano.

Aunque en lenguaje llano podemos pensar que utilizo autonomía de forma equivalente (independencia de los humanos) creo que hay matices prácticos y técnicos relevantes entre una concepción y otra de autonomía. 

No tengo claro a qué se refiere exactamente con autonomía el texto del Parlamento Europeo, pero no es una palabra baladí en el ámbito en que se está utilizando así que, simplemente, dejo el aviso de que, si no se clarifica en alguna parte del texto que ahora no tengo en mente, debería hacerse.

La fijación de objetivos

En la formulación de la Comisión Europea, se dice que los objetivos del sistema de Inteligencia Artificial los fijan los humanos, mientras que esa referencia humana desaparece en la formulación del Parlamento Europeo que habla de objetivos explícitos e implícitos.

Sinceramente, creo más realista la formulación del Parlamento Europeo. Creo que la Comisión se dejó arrastrar por ese deseo de que los humanos estén al mando o de no asustar con la posibilidad de que las máquinas puedan hacer su voluntad.

Sin embargo, es más realista pensar que, aunque esperamos que en último término siempre haya alguna forma de control humano, muchos algoritmos y sistemas de inteligencia Artificial pueden poner sus propios objetivos o recibirlos de otro algoritmo o incluso un sistema no inteligente. 

Así que me parece mejor formulación la del Parlamento.

Los entornos

Ambas propuestas acaban diciendo que los algoritmos actúan sobre su entorno. En el caso de la propuesta de la Comisión Europea, lo hace en general mientras que en la enmienda del Parlamento Europeo, matiza indicando que ese entorno puede ser físico o virtual.

Estrictamente hablando, no hay error y no hay contradicción en ninguna de las dos, solo más nivel de detalle en el caso de la propuesta del Parlamento Europeo. 

Sin embargo, intuyo un riesgo de malentendido en la propuesta del Parlamento Europeo. Hablar de 'influir en un entorno físico' conduce, creo, a pensar directamente en robótica, aunque, como también he comentado en este blog, la realidad física o no de los robots también es un elemento sometido a debate.

Por desgracia, creo que existe una cierta asimilación entre inteligencia artificial y robótica, y es cierto que son disciplinas que cada vez se entremezclan más. Sin embargo son claramente disciplinas diferenciadas. Así, existen muchos robots, muchos robots físicos, que no emplean inteligencia artificial y que 'actúan sobre un entorno físico'.

Insisto, no es que me parezca realmente incorrecta la formulación del Parlamento Europeo en cuanto a los entornos pero, como digo, creo que incita a concepciones erróneas, por lo cual me quedaría, a pesar de ser más vaga, con la de la Comisión que habla únicamente de entornos 

Uso de la Inteligencia Artificial

La parte final de ambas definiciones, de una forma, no muy detallada, nos habla de alguna forma de cómo se aplica la inteligencia artificial y menciona salidas como predicciones, recomendaciones o decisiones.

No es muy detallado, pero tampoco lo voy a criticar. Sí sugeriría, quizá, añadir a la lista, algo a sí como 'contenidos' o 'media', pensando en la últimamente omnipresente inteligencia artificial generativa. 

Conclusiones

Como decía al principio del post, definir inteligencia artificial es realmente difícil, al menos eso creo yo, pero a un texto legal como es el caso de la AI Act, entiendo que no le queda otro remedio que hacerlo.

Visto así, alabo el esfuerzo, aunque sigo sin encontrar, tal vez no exista, esa definición de inteligencia artificial que realmente me satisfaga. Tampoco en la AI Act, lo siento.

Si algún jurista lee esto, y especialmente si es alguno o alguna implicado en la redacción de esa ley, espero que estas líneas le puedan arrojar alguna idea, alguna reflexión, alguna consideración, quizá alguna sugerencia de enmienda o alguna propuesta de decisión y, si así sucede, me encantaría que me lo hiciese saber.