En un acontecimiento histórico, la Unión Europea ha promulgado una ley innovadora centrada en la regulación de la inteligencia artificial (IA) de alto riesgo. La legislación, aprobada recientemente, busca salvaguardar los derechos fundamentales de los ciudadanos europeos frente a las amenazas que plantea la implementación de tecnologías de IA avanzadas. Al mismo tiempo, la ley tiene como objetivo fomentar la innovación y posicionar a Europa como líder en el campo de la inteligencia artificial. Emitido a través de un comunicado de prensa, el enfoque multifacético de la Ley de IA destaca su compromiso con la protección de la democracia, el Estado de derecho y la sostenibilidad medioambiental.
Nueva ley de IA: prohibiciones y enfoque en aplicaciones de alto riesgo
Cabe mencionar que la ley aborda específicamente los riesgos asociados con las aplicaciones de IA, prohibiendo prácticas riesgosas y estableciendo requisitos claros para aquellas consideradas de alto riesgo. Entre las prohibiciones notables se encuentran los «sistemas de categorización biométrica basados en características sensibles y la extracción no dirigida de imágenes faciales de Internet o secuencias de CCTV para crear bases de datos de reconocimiento facial».
Además, se prohíben prácticas como el «reconocimiento de emociones en el lugar de trabajo y en las escuelas», la «puntuación social», la «vigilancia policial predictiva» basada únicamente en perfiles o evaluaciones de características de una persona, y la manipulación del comportamiento humano por parte de la IA.
A pesar de las restricciones establecidas, la legislación contempla excepciones para ciertos escenarios específicos. Por ejemplo, la implementación de sistemas de identificación biométrica en tiempo real está permitida siempre que se cumplan «estrictas salvaguardias», que incluyen requisitos de «autorización judicial o administrativa previa específica».
Lo anterior podría aplicarse en situaciones críticas como la búsqueda de personas desaparecidas o la prevención de amenazas terroristas.
Regulación de sistemas de Inteligencia Artificial de Propósito General (GPAI)
Por otra parte, es importante decir que la nueva ley también aborda los sistemas de inteligencia artificial de propósito general (GPAI), imponiendo requisitos de transparencia de la UE, que incluyen la adhesión a la ley de derechos de autor de la UE.
Por ejemplo, para los GPAI altamente potentes, se establecen requisitos adicionales, como la evaluación de riesgos sistémicos y la obligación de informar sobre incidentes. Además, se destaca la necesidad de etiquetar claramente todo contenido de imágenes, audio o vídeo artificial o manipulado, comúnmente conocido como «deepfakes», con el objetivo de poder garantizar la transparencia y la integridad en su difusión.
Finalmente, es válido resaltar que la nueva ley de la UE sobre inteligencia artificial marca un hito significativo en la regulación de tecnologías emergentes. Al proteger los derechos fundamentales de los ciudadanos y al mismo tiempo fomentar la innovación, la legislación aborda de manera integral los desafíos y oportunidades que presenta la inteligencia artificial de alto riesgo. Con un enfoque equilibrado, la Unión Europea busca liderar el camino hacia un uso ético y responsable de la inteligencia artificial en el siglo XXI.
La entrada La nueva ley de IA de la UE: hito histórico en la protección ciudadana se publicó primero en El Tecnoilogico.