Por qué los niños necesitan una protección especial contra la influencia de la IA

Los algoritmos están dando forma cada vez más a la vida de los niños, pero las nuevas barandillas podrían evitar que se lastimen.

por Karen Hao

Los algoritmos pueden cambiar el curso de la vida de los niños. Los niños interactúan con Alexa (dispositivo de Amazon), que puede grabar sus datos de voz e influir en su habla y desarrollo social. Están viendo videos en TikTok y YouTube impulsados ​​por sistemas de recomendación que terminan dando forma a sus visiones del mundo.

Los algoritmos también se utilizan cada vez más para determinar cómo es su educación, si recibirán atención médica e incluso si sus padres se consideran aptos para cuidarlos. A veces, esto puede tener efectos devastadores: el verano pasado, por ejemplo, miles de estudiantes perdieron su admisión a la universidad debido a los algoritmos. -utilizados en lugar de las pruebas estandarizadas canceladas por la pandemia- predijeran incorrectamente su rendimiento académico.

En otras palabras, los niños suelen estar a la vanguardia cuando se trata de usar y ser usados ​​por la IA, y eso puede dejarlos en una posición de ser dañados. "Debido a que se están desarrollando intelectual, emocional y físicamente, son muy moldeables", dice Steve Vosloo, especialista en políticas para la conectividad digital en Unicef, el Fondo de las Naciones Unidas para la Infancia.

Vosloo lideró la redacción de un nuevo conjunto de directrices de Unicef ​​diseñadas para ayudar a los gobiernos y las empresas a desarrollar políticas de IA que consideren las necesidades de los niños. Publicadas el 16 de septiembre, las nueve nuevas pautas son la culminación de varias consultas realizadas con legisladores, investigadores de desarrollo infantil, profesionales de la inteligencia artificial y niños de todo el mundo. También toman en consideración la Convención de las Naciones Unidas sobre los Derechos del Niño, un tratado de derechos humanos ratificado en 1989.

Las pautas no están destinadas a ser otro conjunto de principios de IA, muchos de los cuales ya dicen lo mismo. En enero de este año, una revisión del Harvard Berkman Klein Center de 36 de los documentos más destacados que guían las estrategias de inteligencia artificial nacionales y empresariales encontró ocho temas comunes, entre ellos la privacidad, la seguridad, la equidad y la explicabilidad.

Más bien, las directrices de Unicef ​​están destinadas a complementar estos temas existentes y adaptarlos a los niños. Por ejemplo, los sistemas de inteligencia artificial no solo deberían ser explicables, deberían ser explicables a los niños. También deben considerar las necesidades de desarrollo únicas de los niños. "Los niños tienen derechos adicionales a los adultos", dice Vosloo. También se estima que representan al menos un tercio de los usuarios en línea. "No estamos hablando de un grupo minoritario aquí", señala.

Además de mitigar los daños causados ​​por la IA, el objetivo de los principios es fomentar el desarrollo de sistemas de IA que podrían mejorar el crecimiento y el bienestar de los niños. Si están bien diseñados, por ejemplo, se ha demostrado que las herramientas de aprendizaje basadas en inteligencia artificial mejoran las habilidades de pensamiento crítico y resolución de problemas de los niños, y pueden ser útiles para los niños con discapacidades de aprendizaje. Los asistentes de IA emocional, aunque relativamente incipientes, podrían brindar apoyo para la salud mental y se ha demostrado que mejoran las habilidades sociales de los niños autistas. El reconocimiento facial, usado con limitaciones cuidadosas, podría ayudar a identificar a los niños que han sido secuestrados o traficados.

Los niños también deben recibir educación sobre la IA y alentarlos a participar en su desarrollo. No se trata solo de protegerlos, dice Vosloo. Se trata de empoderarlos y darles la capacidad de dar forma a su futuro.

Unicef ​​no es el único que piensa en el tema. El día antes de que saliera el borrador de las directrices, la Academia de Inteligencia Artificial de Beijing (BAAI), una organización respaldada por el Ministerio de Ciencia y Tecnología de China y el gobierno municipal de Beijing, también publicó un conjunto de principios de inteligencia artificial para niños.

El anuncio se produce un año después de que BAAI publicara los principios de inteligencia artificial de Beijing, entendidos como los valores rectores para el desarrollo de la inteligencia artificial nacional de China. Los nuevos principios descritos específicamente para los niños están destinados a ser "una implementación concreta" de los más generales, dice Yi Zeng, director del Centro de Investigación de Ética y Desarrollo Sostenible de AI en BAAI, quien dirigió su redacción. Se alinean estrechamente con las pautas de Unicef, y también se refieren a la privacidad, la equidad, la explicabilidad y el bienestar infantil, aunque algunos de los detalles son más específicos de las preocupaciones de China. Una guía para mejorar la salud física de los niños, por ejemplo, incluye el uso de IA para ayudar a combatir la contaminación ambiental.

Si bien los dos esfuerzos no están relacionados formalmente, el momento tampoco es casual. Después de una avalancha de principios de IA en los últimos años, ambos redactores principales dicen que crear pautas más personalizadas para los niños era el siguiente paso lógico. "Hablando de grupos desfavorecidos, por supuesto que los niños son los más desfavorecidos", dice Zeng. "Es por eso que realmente necesitamos [brindar] atención especial a este grupo de personas". Los equipos conversaron entre sí mientras redactaban sus respectivos documentos. Cuando Unicef ​​llevó a cabo un taller de consulta en el este de Asia, Zeng asistió como orador.

Unicef ​​ahora planea ejecutar una serie de programas piloto con varios países socios para observar cuán prácticas y efectivas son sus directrices en diferentes contextos. BAAI ha formado un grupo de trabajo con representantes de algunas de las empresas más grandes que impulsan la estrategia nacional de inteligencia artificial del país, incluida la empresa de tecnología educativa TAL, la empresa de electrónica de consumo Xiaomi, la empresa de visión por computadora Megvii y el gigante de Internet Baidu. La esperanza es conseguir que empiecen a prestar atención a los principios de sus productos e influir en otras empresas y organizaciones para que hagan lo mismo.

Tanto Vosloo como Zeng esperan que, al articular las preocupaciones únicas que la IA plantea para los niños, las directrices aumenten la conciencia sobre estos problemas. "Entramos en esto con los ojos bien abiertos", dice Vosloo. "Entendemos que este es un territorio nuevo para muchos gobiernos y empresas. Entonces, si con el tiempo vemos más ejemplos de niños incluidos en la IA o el ciclo de desarrollo de políticas, más atención sobre cómo se recopilan y analizan sus datos, si vemos que la IA se hace más explicable para los niños o sus cuidadores, sería una victoria para nosotros."