TikTok etiquetará el contenido generado por IA

TikTok está intensificando sus esfuerzos para frenar la desinformación generada por inteligencia artificial (IA) que circula en las redes sociales. La plataforma anunció recientemente una nueva política para etiquetar automáticamente el contenido generado por IA.

Esta iniciativa forma parte de su compromiso con la Iniciativa de Autenticidad de Contenido liderada por Adobe y la Coalición para la Procedencia y Autenticidad del Contenido (C2PA). Este es un proyecto respaldado por organizaciones sin fines de lucro que busca alinear a las empresas tecnológicas y redes sociales en las mejores prácticas de autenticidad de contenido digital.

Cabe mencionar que TikTok ya tiene políticas para etiquetar el contenido generado por IA usando sus propios efectos y requiere que los usuarios etiqueten su propio contenido de IA cargado. Sin embargo, la nueva política aplicará una supervisión automática al contenido creado fuera de la plataforma. El objetivo es utilizar un sistema de etiquetado automático que lea las credenciales de contenido, analice los metadatos de una imagen o video, e identifique rápidamente si fue generado por IA.

Además, TikTok comenzará a adjuntar credenciales de contenido a sus videos para que otros puedan saber cuándo, dónde y cómo se creó o editó el contenido. Esto convierte a TikTok en la primera plataforma de redes sociales en adherirse a los estándares de credenciales de contenido de Adobe, según informa Fortune.

Campañas de alfabetización mediática

En su anuncio, TikTok destacó la importancia de educar a su comunidad sobre la identificación y el pensamiento crítico en torno al contenido generado por IA y la desinformación. La compañía señaló que, aunque el etiquetado de contenido de IA es ampliamente recomendado por los expertos como una forma de promover la creación responsable de contenido, estas etiquetas pueden causar confusión si los espectadores no entienden su significado. Por ello, TikTok ha colaborado con expertos para desarrollar campañas de alfabetización mediática que ayuden a su comunidad a comprender mejor estos conceptos.

Además, TikTok también lanzará 12 nuevos recursos de alfabetización mediática creados junto con Mediawise del Instituto Poynter. Este es un proyecto de verificación de datos enfocado en los jóvenes, y WITNESS, una organización de derechos humanos que enseña a los civiles cómo usar la tecnología para grabar y protegerse. WITNESS también ofrece pautas y consejos para detectar deepfakes y otras amenazas de IA.

Esta iniciativa de TikTok se suma a los esfuerzos de otras plataformas tecnológicas que también están lidiando con el aumento del contenido generado por IA. Meta, por ejemplo, anunció nuevas etiquetas de contenido de IA en abril de 2024. Poco después, Snapchat informó que agregaría una marca de agua automática a todo el contenido creado con sus herramientas internas de IA. La marca de agua del logotipo de Snapchat se agrega a las imágenes una vez que se descargan a un dispositivo o se exportan fuera de la plataforma.

Impacto y futuro de las medidas de etiquetado para contenido generado por IA

Estas nuevas políticas de TikTok se implementan en un momento en que la plataforma enfrenta un escrutinio significativo por su papel en la organización global y su posible impacto en las próximas elecciones presidenciales. Además, se producen en medio del último esfuerzo de la compañía para mantener su lugar en los dispositivos estadounidenses, incluido una demanda reciente contra el gobierno de EE. UU. por la prohibición de la aplicación aprobada por la administración Biden.

Es importante enfatizar en que la implementación de estas medidas de etiquetado de IA representa un paso significativo hacia la transparencia y autenticidad en las redes sociales. La colaboración con organizaciones como Adobe y C2PA y la adopción de sus estándares de credenciales de contenido subrayan el compromiso de TikTok con la lucha contra la desinformación. Sin embargo, la efectividad de estas medidas dependerá en gran medida de la capacidad de la plataforma para educar a sus usuarios sobre el significado y la importancia de las etiquetas de IA.

Asimismo, las iniciativas de alfabetización mediática, como las desarrolladas en conjunto con Mediawise y WITNESS, serán cruciales para garantizar que los usuarios comprendan el contexto detrás de las etiquetas de IA y puedan identificar y evaluar críticamente el contenido generado por IA. La colaboración con expertos y organizaciones especializadas en verificación de datos y derechos humanos muestra un enfoque integral para abordar este desafío complejo.

La entrada TikTok etiquetará el contenido generado por IA se publicó primero en El Tecnoilogico.