De esta manera Google detecta pornografía infantil en Gmail

Google denunció recientemente a un ciudadano estadounidense debido a una foto de pornografía infantil que el sujeto, actualmente detenido, había enviado a través de Gmail. Sabemos que Google, como otras compañías, colabora con la erradicación del abuso sexual infantil analizando las imágenes que adjuntamos a través de su servicio de correo, pero ¿cómo lo hace?
La compañía del buscador filtra el contenido de lo que enviamos por correo electrónico con varios objetivos. El análisis de palabras clave para ajustar mejor la publicidad es uno de ellos. La detección de imágenes sospechosas de abuso infantil es otro. En este último caso, no es que haya empleados humanos mirando una por una nuestras fotos de las últimas vacaciones. Esa tarea la realiza una tecnología de algoritmos llamada PhotoDNA y desarrollada por Microsoft.
Google ha utilizado esta plataforma desde el año 2008. Cuando se detecta una fotografía de abuso infantil, PhotoDNA crea una firma electrónica asociada a la disposición de los píxeles y otros datos de la imagen, y archiva esta firma en una base de datos. Los algoritmos comparan entonces la firma con las nuevas imágenes que circulan por los servidores de Gmail. Si alguien comparte una foto que coincide con una firma sospechosa, la imagen se somete a una revisión más exhaustiva.
Un dato interesante es que PhotoDNA es capaz de identificar imágenes sospechosas incluso si son recortadas, cambiadas de posición (giradas) o si son modificadas. Google explica en un comunicado a la AFP que el sistema únicamente detecta fotos de abuso infantil que estén en su base de datos. Las imágenes provienen del National Center for Missing and Exploited Children (NCMEC), que es la institución que lucha contra este tipo de delitos en Estados Unidos.
Google también dispone de algoritmos propios que analizan los archivos de vídeo. El gigante de las búsquedas no es el único que utiliza esta tecnología. Facebook y Twitter también lo hacen. En el caso del hombre detenido en Houston, Google solo informó al NCMEC. Después son ellos los que investigan si el sujeto tiene antecedentes de abuso infantil (tal y cómo sucedió en este caso) y toma las medidas necesarias.