Durante las últimas décadas nuestra sociedad ha expandido considerablemente las formas de interacción, conexión y comunicación a través de los sistemas informáticos y el internet. Este escenario ha generado al día de hoy un claro contexto de hiperconectividad digital, que produce constantemente un intercambio masivo de información y datos. En el marco de este nuevo contexto y a raíz de él, son múltiples las esferas sociales que están experimentando una transformación importante, la economía, la sanidad, la ciencia y por supuesto la política, son algunas de ellas.
Dichas transformaciones son promovidas por la interacción de una serie de elementos como la IA (Inteligencia Artificial), el Big data y el IoT (Internet de las Cosas). Cada vez más, es evidente la forma en cómo estas han cambiado, casi que por completo, los diferentes procesos, o la manera en la que los ciudadanos interactuamos y accedemos a los servicios, el mercado, el conocimiento o elegimos quién nos representa.
En el ámbito político en particular, es interesante observar cómo la confluencia de los elementos informáticos y tecnológicos, sumado al creciente hartazgo social de la política y los políticos tradicionales, ha hecho emerger una serie de alternativas basadas en la tecnología, los algoritmos, y la IA. Dichas opciones, enmarcadas en lo que se ha denominado como democracia algorítmica, prometen un alentador escenario en el que los sesgos, la corrupción, la parcialidad y el error humano, están fuera de las decisiones políticas, por lo tanto, es posible hablar de gobiernos más eficientes y equilibrados.
Candidatos virtuales y democracia algorítmicaLa democracia algorítmica promueve un sistema político estructurado alrededor de modelos matemáticos guiados por la participación ciudadana que, a través de la hiperconectividad, genera constantemente un volumen de datos suficiente para alimentar modelos matemáticos que indiquen cuáles son las mejores decisiones que benefician a la mayoría. Pese a que puede parecer un escenario absolutamente futurista, lo cierto es que las alternativas de democracia algorítmica están tomando fuerza hoy en día.
Muestra de ello es el caso del robot Michihito Matsuda, que se postuló para ser alcalde en la localidad japonesa de Tama en 2018 y obtuvo la tercera votación más numerosa, o de SAM (Semantic Analysis Machine) un político algorítmico que hizo carrera desde 2017 para postularse como opción presidencial en las elecciones neozelandesas de 2020.
En ambos casos, se trata de candidatos virtuales o IA, que ofrecen un programa de gobierno tecnocrático basado en los datos y libre del error y las tendencias humanas, perfilándose como la única opción para combatir problemas como la corrupción y la falta de transparencia en los gobiernos. De igual manera ya hemos hablado en anteriores ocasiones de la posibilidad de tener portavoces perfectos de gobierno basados en los beneficios del Big Data.
El gobierno del algoritmoLos casos mencionados, además de marcar un hito en los procesos democráticos actuales, plantean dos tendencias de análisis sobre el papel de la IA y el Big Data en la democracia y la gestión pública. La primera, lleva a considerar los enormes beneficios que pueden tener el uso de estas herramientas para profesionalizar y tecnificar completamente los gobiernos.
El IoT y el Big Data en concreto, ofrecen la posibilidad de obtener un conocimiento altamente detallado del funcionamiento de las ciudades, sus principales problemáticas y demandas, así como ponderar, cuantificar y medir, con altos niveles de precisión, cuáles son las mejores decisiones para el beneficio de la mayoría. Esto, partiendo de los datos que proporcionan los ciudadanos acerca de sus preferencias, opiniones y hábitos, lo que a su vez garantiza, según los defensores de este modelo, la toma de decisiones más objetivamente racionales y ajustadas a las necesidades reales de los ciudadanos.
Candidatos virtuales ¿100% imparciales?Desde una segunda perspectiva, se identifica que, a pesar de las bondades, el pensar en un modelo democrático basado en algoritmos, también conlleva una serie de desajustes y desafíos. Algunos de los más importantes tienen que ver con temas no menos cruciales para la democracia, por ejemplo, la exclusión, desigualdad y transparencia.
En el primer caso, un gobierno basado en la modelación matemática y algorítmica, al depender altamente del flujo de datos y la hiperconectividad de los ciudadanos, plantea un escenario de exclusión y desigualdad respecto a aquellos individuos que, por criterios económicos, educativos o geográficos, no tienen acceso a la tecnología en igualdad de condiciones. Por lo tanto, si bien se trataría de un gobierno inteligente, optimo y eficiente, no sería representativo de las necesidades de la mayoría, sino sólo de aquellos con acceso total a la tecnología.
De otra parte, si bien el volumen de datos, y la complejidad de los modelos matemáticos implementados, generan una cierta imagen de certidumbre en la toma de decisiones, lo cierto es que el hecho de responder a modelos exactos y estandarizados, no siempre garantiza la infalibilidad y exactitud. En diversas oportunidades se ha constatado cómo los algoritmos no siempre son capaces de tomar las mejores decisiones para la mayoría, pues pueden presentarse sesgos, o situaciones no previstas por la programación que afectan los resultados esperados.
Por último, en cuanto a la idea de imparcialidad, transparencia y ausencia de conflicto de intereses, bajo un modelo ejecutado por IA, hay que tener en cuenta cuál es el verdadero grado de independencia que pueden comportar estos sistemas y si realmente puede hablarse de total ausencia de intereses particulares. Por ejemplo, en el caso de Michihito Matsuda hay detrás personas como Norio Murakami, exempleado de Google en Japón o Tetsuzo Matsuda, vicepresidente del proveedor de servicios para Softbank. O en el caso de SAM, hay detrás una compañía tecnológica como Touchtech. Así, cabe preguntarse ¿acaso las corporaciones o personas detrás de la modelación de algoritmos políticos, no tienen la misma probabilidad o tendencia hacia los sesgos o el favorecimiento particular, que cualquier otro candidato humano? ¿qué puede realmente diferenciarlos?
Finalmente, si bien no debería cuestionarse el potencial que tiene la IA, el Big Data o la IoT en la mejora de los sistemas democráticos, es preciso evaluar conscientemente esta nueva tendencia de propuestas y candidatos virtuales. Es decir, considerar que también tienen una serie de limitaciones y desafíos, que pueden afectar peligrosamente la democracia y a la sociedad en general, y no simplemente maquillar sus bondades como máximas e infalibles.