Punto y seguimos | Los renovados engaños cotidianos: las deepfakes

Si no ha hecho la tarea con las noticias falsas, sepa que ya raspó el módulo. Llegaron las falsedades profundas.

La tecnología evoluciona y lo hace de manera tan veloz que pareciera que vamos siempre un paso atrás. En cuanto se aprende a utilizar una aplicación o herramienta, ya está saliendo otra, con nuevas y más complejas características. Nada (o muy poco) de lo que percibimos a través de medios tecnológicos es permanente o inamovible y, como todo conocimiento, resulta demasiado amplio como para que —los ciudadanos comunes— tengamos una comprensión profunda acerca del fenómeno, ni teórica ni empíricamente. La frase «quedarse en el aparato» nunca fue tan certera.

Distamos de entender a cabalidad cómo se crean las nuevas tecnologías, quiénes las crean, cuántas y cuáles existen y cómo funcionan más allá de la aplicación práctica directa de algunas de ellas. De hecho, según el lugar del mundo en que nos encontremos, el conocimiento variará. No es lo mismo China que el África Subsahariana. En la primera existen ciudades que hace treinta años nos las imaginábamos en el mundo de la ciencia ficción. Mientras, en la segunda se vive una guerra cruel, con millones de muertos y condiciones de miseria extrema. La cruel ironía es que el Congo es el principal productor de los minerales —como el coltán o el cobalto— que se encuentran en la mayoría de dispositivos electrónicos que se producen en China.

Sin embargo, más allá de la antigua e incesante historia del capitalismo mundial y su funcionamiento, es menester tratar de informarse en estos tiempos veloces del llamado «tecnocapitalismo», donde parte de nuestra realidad está atravesada y manipulada por la existencia de aparatos tecnológicos y mediada por innovaciones de las que entendemos poco o nada.

Mientras la población promedio de un país latinoamericano como el nuestro aún empieza a estudiar y entender fenómenos como las fake news («noticias falsas»), ya nos caen encima las deepfakes («falsedades profundas»). Estas últimas son una evolución de las primeras y consisten en videos, audios e imágenes manipulados con inteligencia artificial (IA) que ruedan por el ciberespacio (y van directo a los celulares, tabletas y computadores), con supuestas declaraciones de personajes públicos.

Las deepfakes están haciendo estragos en las campañas electorales y en los escenarios políticos de muchos países. Estas imágenes son muy avanzadas, de aspecto real y es difícil determinar —sobre todo al ojo no entrenado— su falsedad. Los gigantes de la tecnología y redes como Google, Meta o TikTok se han «comprometido» a que sus instrumentos de IA identifiquen y controlen este tipo de materiales creados con fines de manipulación política, pero claramente se les han ido de las manos. Medios de comunicación profesionales denuncian su existencia como un peligro adicional para la actividad periodística.

Ya no son solo las noticias que cualquiera puede crear y difundir, sino declaraciones y testimonios en audios y vídeos falsos que se «legitiman» en sí mismos, pues pocas personas dudan de su veracidad. Así que sepa que la próxima vez que escuche o «vea» a algún político o personaje reconocido en contenidos de redes sociales, existe la posibilidad de que no sea real. Las deepfakes están tan bien hechas que se ofrecen cursos para detectarlas. Ojo pelado, o más bien, peladísimo. Y como canta Rubén Blades: «No te dejes confundir / busca el fondo y su razón. / Recuerda: se ven las caras, / pero nunca el corazón».

Mariel Carrillo García