Los algoritmos gobiernan nuestra vida ¿lo sabías?

Los algoritmos son capaces de adivinar y predecir muchos sucesos. Cuando yo estudié Psicología aprendí algunas reglas y circunstancias que pueden afectar o modificar las conductas de las personas. Pero no sabía que también se puede predecir el comportamiento humano a partir de análisis matemáticos. Hoy día y gracias a grandes secuencias de algoritmos se puede conocer con gran exactitud qué pasará mañana o cómo actuará una persona. Increíble pero cierto.

Los algoritmos ¿qué son?

Los algoritmos provienen del mundo de las matemáticas. Son una serie de normas o leyes específicas que hacen posible la ejecución de actividades, cumpliendo una serie de pasos continuos que no le originen dudas a la persona que realice dicha actividad. Los algoritmos se pueden expresar de diversas formas: lenguaje natural, lenguaje de programación, pseudocódigo y diagramas de flujo.

Los algoritmos analizan datos y extraen reglas que permiten generar predicciones, detectar excepciones, aislar patrones... a medida que alimentamos a los algoritmos con más datos, mejoran en esas capacidades, y permiten incluso ponerlos a inventar nuevas situaciones hipotéticas que no han ocurrido anteriormente, a "jugar contra sí mismos" para mejorar los resultados obtenidos.
Los algoritmos consisten en una lista ordenada de operaciones que tienen el propósito de buscar la solución a un problema en matemática, informática y disciplinas afines. Para las ciencias de la matemática y de la computación, un algoritmo es una lista que, dado un estado inicial y una entrada, propone pasos sucesivos para alcanzar un estado final obteniendo una solución. Sin embargo, el algoritmo no es excluyente de las ciencias duras o matemáticas. También en la vida cotidiana se emplean este tipo de operaciones casi sin notarlo: por ejemplo, en los instructivos o manuales de usuario que incluye cualquier aparato o mueble de IKEA.

Cómo los algoritmos gobiernan nuestra vida

Un reciente estudio de un grupo de 40 usuarios de Facebook encontró que más de la mitad no sabían que sus muros son compilados por algoritmos. Tecnologías como la geolocalización alimentan sistemas de aprendizaje de máquinas con datos para generar el nivel de personalización que hemos llegado a esperar. Los algoritmos que alimentan Affirm, una empresa creada por el cofundador de PayPal Max Levchin, emplean datos de redes sociales para ayudar a establecer la identidad de un cliente. Google, Tinder, Amazon...... todos usan algoritmos para personalizar las interacciones que mantienen con cada usuario. La atención al cliente también tiene en cuenta el big data y los algoritmos.

Muchas empresas han sido creadas sobre la idea de que, al estudiar decenas de miles de datos, los programas de machine learning pueden aumentar el número de personas consideradas solventes. En otras palabras, los algoritmos alimentados con tantos datos tan diversos estarán menos predispuestos a la discriminación que las tradicionales prácticas humanas basadas en un número de factores mucho más limitado. Uno de los descubrimientos logrados por los algoritmos de ZestFinance es que los ingresos no son tan buen indicador de la solvencia como la combinación de ingresos, gastos y el coste de vida en una ciudad determinada. El algoritmo también toma nota de la gente que rellena una solicitud de préstamos totalmente en mayúsculas, ya que su modelo ha encontrado que representan peores candidatos para un crédito que la gente que rellena las solicitudes sólo en minúsculas.

Algoritmos y toma de decisiones

En EE.UU. existe un software de evaluación de riesgos denominado COMPAS ( Correctional Offender Management Profiling for Alternative S anctions), que se emplea para predecir qué criminales tienen mayores probabilidades de reincidir. Con los resultados en la mano, los jueces de todo EE.UU. deciden el futuro de los acusados ​​y condenados ajustando las cantidades de la fianza para salir en libertad y las sentencias.

Según un estudio realizado por ProPublica, una organización de noticias sin ánimo de lucro y ganadora de un Premio Pulitzer, el algoritmo "predijo correctamente la reincidencia para los acusados ​​blancos y negros con aproximadamente la misma tasa de éxito". Pero cuando el algoritmo fallaba, el error era distinto para negros y blancos. En concreto, "los negros son casi dos veces más propensos que los blancos a ser clasificados como un riesgo más alto sin llegar realmente a reincidir".

Pero los problemas de los sistemas automatizados de toma de decisiones (ADM, por sus siglas en inglés) van más allá del sistema de justicia. A través de tests de personalidad, los ADM están ayudando a determinar si alguien es un candidato adecuado para un puesto de trabajo. Los algoritmos de evaluación de crédito son claves para decidir si alguien puede acceder a una hipoteca, una tarjeta de crédito o incluso las ofertas de teléfono móvil más rentables.

Riesgos y alguna ventaja de los algoritmos

Usar sistemas de evaluación de riesgos como COMPAS no tiene por qué ser malo. En muchos casos, pueden aumentar la imparcialidad. La toma de decisiones humana puede ser tan incoherente que necesita supervisión para adaptarse a los estándares de la justicia. Como demostró un estudio especialmente inquietante, las juntas de libertad condicional tenían más probabilidades de liberar a los convictos cuando los jueces acababan de hacer una pausa para comer. Un sistema ADM podría descubrir tales inconsistencias y mejorar el proceso.

El problema es que no siempre es posible determinar qué algoritmos están sesgados y cuáles no.

Es necesario mayor experiencia de trabajo con los algoritmos y sistemas ADM para saber cómo mejorarlos. Matthias Spielkamp ha fundado junto a un informático, un filósofo y un periodista la organización sin ánimo de lucro AlgorithmWatch con el objetivo de ayudar a la gente a entender los efectos de tales sistemas. Han elaborado un interesante manifiesto y pretenden que la tecnología no se demonice ​inmerecidamente.

Los algoritmos pueden hacernos la vida más justa si están bien diseñados ya que eliminan el sesgo humano, la subjetividad implícita en todas y cada una de nuestras decisiones.

De los coches inteligentes a los motores de búsqueda de internet pasando por los diferentes proyectos de smart cities, detrás de cualquier proceso donde se recopilen y se procesen datos para obtener un resultado hay un algoritmo. Como propone Enrique Dans, es hora de ir pensando con profundidad en todo este galimatías; nos guste o no los algoritmos gobiernan nuestra vida.

Retos

En este momento, los retos están en orientar las empresas a la generación de datos que puedan ser analizados. Si lo único que generas cuando vendes un producto es eso, una venta, y no tienes más datos ni sobre quién lo compró, ni sus características, ni la evaluación del producto, ni su uso, ni nada, pierdes competitividad. Cualquiera que pueda llevar a cabo tu negocio en un entorno más rico en datos superará tus posibilidades muy rápidamente, hará mejores predicciones y convertirá su oferta en más competitiva que la tuya. Pero además de obtener datos (todos pensamos que los tenemos, pero no es así), hay que desarrollar las capacidades para su explotación.

La toma de decisiones en los negocios se tiene que basar en datos, análisis cuantitativos que justifiquen cada paso que damos. En Amazon, la intuición humana está prohibida a la hora de tomar decisiones: si tomas una decisión, tiene que estar basada en datos que la justifican.