La videovigilancia asistida por IA nos vigilará y nos juzgará en silencio

Atrás quedaron los días en que las cámaras de seguridad de una tienda sólo importaban a los ladrones.

Ahora, con la creciente prevalencia de sistemas de vigilancia constantemente monitoreados por inteligencia artificial, los sistemas de seguridad ubicuos pueden observar, conocer y discriminar a los compradores más que nunca.

Esa es la esencia de un nuevo informe de la ACLU titulado "The Dawn of Robot Surveillance" (El amanecer de la vigilancia robótica), sobre cómo la emergente tecnología de inteligencia artificial permite a las empresas de seguridad monitorizar y recopilar datos sobre las personas de forma constante, lo que abre nuevas posibilidades en las que se abusa del poder o las comunidades desatendidas son objeto de una vigilancia excesiva.

Desglose

El informe, primero cubierto por Motherboard, explica cómo los sistemas de vigilancia impulsados por la IA podrían empezar a afectar nuestras vidas en breve.

En lugar de limitarse a hacer un seguimiento de quién está en una tienda, los sistemas de vigilancia podrían utilizar el reconocimiento facial para determinar las identidades de las personas y recopilar aún más información sobre ellas. En ese caso, esos datos estarían ahí fuera, sin la oportunidad de optar por la exclusión voluntaria.

Para las personas de color y otras comunidades marginadas contra las cuales los algoritmos de la IA ya están sesgados, esto podría significar una mayor estigmatización sólo por entrar en la vista de una cámara.

Medidas preventivas

Para prevenir las peores consecuencias de esta nueva tecnología de vigilancia inteligente, el informe de la ACLU pide una legislación fuerte que limite la forma en que se pueden utilizar las imágenes de las cámaras, especialmente para evitar la recopilación masiva de datos sobre las personas que sólo se dedican a sus vidas.

"El crecimiento en el uso y la eficacia de las técnicas de inteligencia artificial ha sido tan rápido que la gente no ha tenido tiempo de asimilar una nueva comprensión de lo que se está haciendo, y cuáles pueden ser las consecuencias de la recopilación de datos y las invasiones de la privacidad", concluye el informe.