La crisis hace que los gobiernos y las empresas se peleen por decidir cuándo es apropiado levantar la protección de la privacidad de los datos y las directrices éticas de la IA.
24 de m arzo de 2020
Hace apenas un mes la UE esbozó su nueva estrategia de gobernanza de la IA y los datos, que, entre otras cosas, abogaba por la soberanía de los datos y pedía que la IA europea se formara sólo con datos europeos para garantizar su calidad y su procedencia ética. Las directrices fueron elogiadas por su liderazgo en la protección de la privacidad de los datos y la facilitación de una IA fiable. Pero según el Financial Times, la pandemia de coronavirus está obligando a los reguladores a reconsiderarlas.
Tales restricciones, si funcionaran como se preveía originalmente, correrían el riesgo de ralentizar el ritmo de los progresos a medida que los científicos se apresuran a desarrollar vacunas y algoritmos en la lucha contra la enfermedad. Aunque los organismos reguladores aún no han dado marcha atrás en sus recomendaciones originales, han retrasado el plazo para aplicar la legislación que habría marcado el ritmo de los organismos reguladores en todo el mundo.
Los compromisos a los que se enfrentan los reguladores de la UE reflejan el tira y afloja entre la privacidad de los datos y la salud pública con el que muchos gobiernos y empresas están lidiando actualmente. El acceso rápido a los datos, dondequiera que sea, es importante para luchar contra el brote. Pero la flexibilización de las medidas de privacidad de datos también ha sido controvertida. "Uno podría preguntarse si la historia ha demostrado alguna vez que una vez que el gobierno dispone de herramientas de vigilancia, mantendrá la modestia y la precaución al utilizarlas", escribió Hu Yong, un conocido crítico en China y profesor de la Escuela de Periodismo y Comunicación de la Universidad de Pekín.
Aunque esta tensión siempre ha estado presente, la urgencia de contener un virus que se propaga exponencialmente lo ha puesto de relieve. Muchos países que han logrado contener sus brotes, entre ellos China, Corea del Sur y Singapur, han utilizado medidas de vigilancia agresivas para rastrear y aislar a las personas infectadas. Otros países que se han mostrado reacios a adoptar medidas similares, como Italia y España, se enfrentan ahora a una carga de casos devastadora que ha desbordado sus sistemas de atención de la salud. Los Estados Unidos, que tradicionalmente han sido uno de los gobiernos que más han preservado la privacidad, ahora se están doblegando ante la presión: la Casa Blanca ha iniciado conversaciones con Google y Facebook para aprovechar sus datos sobre los movimientos de los usuarios.
El acceso rápido a datos de alta calidad es importante más allá de la simple vigilancia. Los pronosticadores que trabajan en la predicción de la trayectoria del virus, por ejemplo, también dependen de la mayor cantidad de datos ricos y precisos posibles. Actualmente, uno de los principales laboratorios de predicción de los EE.UU. está reuniendo el comportamiento de navegación por Internet y la actividad de los medios sociales para ayudar al gobierno a aumentar su capacidad de pruebas y determinar las intervenciones adecuadas. Pero el laboratorio también está buscando información en tiempo real sobre el comportamiento de las tiendas, así como registros de salud anónimos, lo que dice que mejoraría enormemente sus predicciones.
Los reguladores y los defensores de la privacidad se preocupan por el tipo de precedente que esto podría sentar. El Foro Económico Mundial (WEF) publicó un comunicado la semana pasada instando a las empresas a no perder de vista la adecuada supervisión de la IA simplemente para ganar mayor velocidad. "Tenemos que tener en cuenta que los grandes desafíos éticos en torno a la privacidad, la responsabilidad, la parcialidad y la transparencia de la inteligencia artificial siguen existiendo", dijo Kay Firth-Butterfield, jefe de inteligencia artificial y aprendizaje automático del WEF.
En su blog, Yong recomienda adherirse a tres principios en la búsqueda del equilibrio adecuado entre la privacidad y la salud pública. Primero, los legisladores deben tratar las intrusiones en la privacidad en el interés público como excepciones en lugar de normas. Esas excepciones también deben ser justificadas por la legislación de derechos humanos. En segundo lugar, los legisladores deben definir las garantías básicas de los derechos civiles que deben prevalecer incluso si se debilita la privacidad. "Es importante darse cuenta de que, aunque a veces haya que restringir la privacidad en aras del interés público general, la privacidad en sí misma es un interés público vital", escribe. Por lo tanto, los individuos no deberían tener que "ceder al interés público de forma ilimitada". Y, por último, los legisladores deberían restringir en gran medida la forma en que utilizan la información recogida durante una crisis. No debe ser desviada a otros fines, y debe ser recogida, almacenada y procesada con una seguridad rigurosa.
"A veces pensamos que la tecnología inevitablemente erosionará la privacidad", escribe Yong, pero en última instancia son los humanos, y no la tecnología, los que toman esa decisión, añade: "La pérdida de la privacidad no es inevitable, así como su reconstrucción está lejos de ser segura."