Algoritmos en las Redes Sociales: un peligro invisible para los adolescentes

Los algoritmos se han convertido en una parte integral de nuestras vidas. Desde las redes sociales hasta las plataformas de streaming y los motores de búsqueda, los algoritmos determinan qué contenido vemos, cuándo lo vemos y con qué frecuencia. Si bien esto puede parecer conveniente, también plantea serios riesgos.
Comprender cómo operan estos algoritmos y cómo afectan nuestras interacciones en línea es el primer paso para abordar y mitigar los riesgos que representan, especialmente para el público adolescente.

¿Qué son los algoritmos y cómo funcionan?

Un algoritmo es una secuencia de instrucciones utilizadas para realizar una tarea específica. En el contexto de las plataformas digitales, los algoritmos se utilizan para personalizar la experiencia del usuario. Por ejemplo, los algoritmos de recomendación en YouTube sugieren videos basados en tus visualizaciones previas, tus "me gusta" y tu historial de búsqueda.
Los algoritmos funcionan mediante el análisis de grandes cantidades de datos para identificar patrones. Utilizan técnicas de aprendizaje automático o machine learning para mejorar sus recomendaciones con el tiempo. A continuación, mostramos un flujo simplificado de cómo puede funcionar un algoritmo de recomendación:

• Recopilación de datos: la plataforma recopila datos sobre tus interacciones (clics, likes, tiempo de visualización, etc).
• Análisis de datos: utiliza técnicas de análisis para identificar patrones y tendencias.
• Predicción: el algoritmo predice qué contenido te podría interesar en función de los patrones identificados.
• Recomendación: te muestra el contenido recomendado basado en la predicción.

Image by pressfoto on Freepik

Peligros de los algoritmos para los adolescentes

1. Aislamiento en burbujas de filtro

Los algoritmos de las redes sociales y las plataformas de contenido tienden a mostrarte más de lo que ya te gusta y con lo que interactúas, lo que puede llevar a la creación de "burbujas de filtro", donde solo ves contenido que refuerza tus creencias y gustos actuales, aislándote de perspectivas diferentes. Para los adolescentes, puede tener consecuencias como limitar su visión del mundo y obstaculizar su desarrollo personal.

Ejemplo: teorías conspirativas en YouTube

Imagina que un adolescente se interesa por una teoría conspirativa y empieza a ver videos sobre el tema en YouTube. El algoritmo de YouTube, diseñado para maximizar el tiempo de visualización del usuario, comenzará a recomendar videos similares. Este patrón no solo refuerza la creencia del adolescente en la teoría conspirativa, sino que también le aísla de información contrastada. Con el tiempo, puede desarrollar una visión distorsionada de la realidad, ya que el algoritmo no distingue entre contenido factual y desinformación.

2. Exposición a contenido inapropiado

Los algoritmos no siempre pueden distinguir entre contenido apropiado e inapropiado, especialmente si ese contenido genera muchas interacciones, pudiendo llevar a los adolescentes a la exposición de contenido violento, sexual o comportamientos peligrosos.

Ejemplo: contenido dañino en TikTok

TikTok, una plataforma extremadamente popular entre los adolescentes, ha sido criticada por permitir la difusión de videos que glorifican trastornos alimenticios, conductas autolesivas o retos peligrosos. Por ejemplo, retos virales como el "Benadryl Challenge" alentaban a los usuarios a consumir grandes cantidades de antihistamínicos para experimentar alucinaciones, lo cual es extremadamente peligroso y ha resultado en hospitalizaciones. Los algoritmos de TikTok, que promueven contenido basado en la cantidad de interacciones y visualizaciones, pueden inadvertidamente amplificar estos videos, exponiendo a los adolescentes a conductas peligrosas.

3. Adicción y salud mental

Las plataformas están diseñadas para mantener a los usuarios enganchados el mayor tiempo posible. Los algoritmos logran este objetivo mostrando contenido altamente adictivo, lo que puede resultar en que los adolescentes pasen horas en sus dispositivos, afectando su salud mental y física.

Ejemplo: comparación social en Instagram

Instagram utiliza algoritmos que muestran publicaciones basadas en la probabilidad de que interactúes con ellas, pudiendo derivar en un ciclo de uso compulsivo, donde los adolescentes pasan horas desplazándose por el contenido, comparando sus vidas con las de otros. Ver constantemente imágenes de amigos y celebridades con vidas aparentemente perfectas puede afectar la autoestima de los adolescentes, llevando a sentimientos de insuficiencia y ansiedad. Además, la presión para obtener "me gusta" y comentarios positivos puede generar estrés y obsesión por la aprobación social.

4. Privacidad y uso de datos personales

Los algoritmos dependen de la recopilación y análisis de grandes cantidades de datos personales, generando serias preocupaciones sobre la privacidad, ya que los datos de los adolescentes pueden ser utilizados de manera inapropiada o ser vulnerables a brechas de seguridad.

Ejemplo: recopilación de datos en aplicaciones móviles

Muchas aplicaciones móviles, incluyendo las populares entre adolescentes, recopilan datos como la ubicación, el historial de navegación y las preferencias de los usuarios. Estos datos, en ocasiones, son vendidos a terceros sin el conocimiento del usuario. Por ejemplo, en 2020, se descubrió que varias aplicaciones de seguimiento de ciclos menstruales estaban compartiendo datos sensibles con Facebook sin el consentimiento explícito de los usuarios. Este tipo de prácticas pone en riesgo la privacidad de los adolescentes, exponiéndolos a potenciales abusos y vulnerabilidades.

Cómo pueden protegerse los adolescentes

• Educación digital: es fundamental que los adolescentes comprendan cómo funcionan los algoritmos y sus posibles riesgos. La alfabetización digital debe incluir información sobre privacidad, seguridad en línea y pensamiento crítico.
• Control de privacidad: revisar y ajustar las configuraciones de privacidad en las redes sociales y aplicaciones para limitar la cantidad de datos compartidos.
• Diversificar fuentes de información: animar a los adolescentes a seguir diversas fuentes de información y contenido para evitar las burbujas de filtro.
• Tiempo de pantalla controlado: establecer límites de tiempo para el uso de dispositivos y fomentar actividades fuera de línea.
• Hablar abiertamente: crear un entorno donde los adolescentes se sientan cómodos hablando sobre sus experiencias en línea y cualquier contenido que les preocupe.

Conclusión

Los algoritmos juegan un papel significativo en la vida digital de los adolescentes, ofreciendo tanto beneficios como riesgos. Es esencial que los adolescentes y sus padres estén informados sobre cómo funcionan estos sistemas y tomen medidas para mitigar los posibles peligros. Con educación y prácticas responsables, es posible disfrutar de las ventajas del mundo digital sin caer en sus trampas.
Jose Maria Acuña Morgado - Web Developer - Ethical Hacking