El precio de la atención

Algoritmos, redes sociales y salud mental

Las redes sociales forman parte importante de la vida digital y también offline. En esta nota hablamos y diseccionamos —aunque de forma superficial— cómo funcionan los algoritmos de las más utilizadas y cómo impactan en los usuarios.

Por Nadia Gómez

No hace mucho tiempo, las redes sociales funcionaban de una manera muy distinta. Los feeds se ordenaban de forma cronológica. Plataformas como Facebook —ahora Meta— tenían una impronta de comunidad; así como dice su descripción: una red social, una comunidad o grupo que se juntaba de acuerdo a intereses en común para compartir contenido e interactuar con otros usuarios. Hoy, varias de esas prácticas quedaron atrás.

Las redes sociales —o por lo menos las más famosas, como TikTok, Instagram y Facebook— mutaron a un modelo de negocio menos amigable con el usuario, pero mucho más ambicioso en su faceta monetaria. Shoshana Zuboff, socióloga, profesora emérita de Harvard Business School y autora del libro La era del capitalismo de vigilancia, lo califica como la reivindicación unilateral, por parte de un selecto grupo de empresas provenientes de Silicon Valley, de la experiencia humana privada como materia prima para su traducción en datos.

¿Qué significa esto? Que los datos, nuestros datos, se computan y procesan como productos de predicción, para luego utilizarse para personalizar y percibir el mundo digital de cierta manera, con mecanismos que no son transparentes para el usuario. “Se pierde cualquier atisbo de soberanía personal”, escribe Joaquín Estefanía en un artículo para El País sobre la obra de Zuboff.

Este tema tiene muchas aristas y una de ellas trata sobre los algoritmos que impactan e inciden en nuestra vida como usuarios de estas redes sociales, día a día.

Un algoritmo se puede definir como una secuencia de instrucciones para solucionar un problema de manera automática. En cuanto a redes sociales, la tarea principal de estos sería mejorar la experiencia del usuario. Esto implica recopilar toda la información posible sobre la persona para luego proporcionarle contenido adaptado a sus gustos, para que permanezca conectado aún más tiempo en la plataforma.

Pero como usuarios, convivimos con múltiples tipos de algoritmos, incluso para actividades que van más allá de las plataformas digitales. Recibir recomendaciones de libros, publicidades sobre productos que necesitamos o escuchar una playlist específicamente curada y pensada en nosotros, son algunas de las maneras en que los algoritmos actúan en nuestra vida. Pero, ¿qué pasa cuando dependemos de decisiones algorítmicas para acceder a un préstamo, a un trabajo o a la universidad?

Según Eticas Foundation, una entidad que promueve el uso responsable de los avances y los sistemas de inteligencia artificial, los algoritmos son construcciones sociales tanto como cálculos matemáticos. Y como cualquier otra tecnología, capturan y reproducen dinámicas sociales. Es decir, no son neutras; y sí, tienen sesgos.

Más allá de los videos de bailes y gatitos

¿Qué nos puede decir el algoritmo de redes como TikTok sobre nosotros mismos? Mucho más de lo que pensamos. “Cuando uno ingresa a TikTok, la plataforma muestra contenido muy general, pero hay cosas que ni te diste cuenta que esta red ya tomó en consideración para empezar a esbozar quién sos vos como usuario. A qué hora te conectaste, qué día, en qué ubicación geográfica, en qué idioma está tu aplicación, el sistema operativo de tu teléfono, etcétera. A partir de todos estos datos se crea un perfil para resumirte en, por ejemplo, tres o cuatro etiquetas”, explica Álvaro Machuca, científico de datos (data scientist) y matemático aplicado.

El caso de TikTok, y de cómo su algoritmo descifra al usuario y dibuja un perímetro alrededor de lo que termina consumiendo, es muy particular. En 2021, el Wall Street Journal (WSJ) condujo una serie de investigaciones que esclarecen un poco la manera en que funciona la plataforma. Para una de las investigaciones, el medio creó 100 cuentas de TikTok que navegaban la red con poca intervención humana, pero con intereses asignados, algunos de ellos registrados como menores de edad.

Analizaron los videos recomendados a estas cuentas y determinaron que, a través de sus algoritmos, TikTok puede llevar rápidamente a menores (quienes se encuentran entre los mayores usuarios de la aplicación) a interminables cascadas de contenido sobre sexo y drogas. De hecho, la red social mostró a una cuenta registrada como un niño de 13 años más de 500 videos sobre drogas, referencias a la adicción a la cocaína y metanfetamina. Muchos videos similares aparecieron en los feeds de otras cuentas de menores del WSJ.

A diferencia de los algoritmos de otras redes sociales, TikTok toma muy en cuenta el lapso que uno permanece en cada contenido. “Se ve que en su objetivo de maximizar el engagement y el tiempo que pasás en la aplicación, te trasnporta a los rabbit holes, madrigueras de contenido, y esto reduce las probabilidades de que te salgas. Eso es el algoritmo funcionando correctamente, te lleva a un lugar donde vas a estar horas, y la compañía queda feliz porque van a capitalizar más sobre tu atención”, comenta Álvaro.

Todas estas revelaciones parecen ser la punta del iceberg recién. “Los algoritmos, si bien pueden ser positivos, también es posible que sean negativos para el usuario. Hay que recordar que los mismos no se inventan de la nada, son creados por personas, con una finalidad específica. Por eso en los últimos tiempos se siente mucho la presión de parte de entes gubernamentales en Estados Unidos, por ejemplo. Gigantes de redes sociales como Facebook están en el blanco específicamente por sus algoritmos”, agrega Sergio Villalba, estratega de medios, con una década de experiencia en comunicación digital.

Sergio se refiere al caso de Facebook Papers, que involucra documentos internos de la compañía que fueron filtrados por Frances Haugen, ex gerente de producto que luego se convirtió en denunciante. Los datos revelan —y Haugen lo reafirma— los efectos nocivos que Facebook e Instagram tienen sobre los usuarios, en especial los jóvenes. En un testimonio, ella declaró que “Facebook daña a los niños y debilita la democracia”.

“Esto no quiere decir que no se pueda tener un mejor tipo de algoritmo, uno mucho más orgánico y manejable para el usuario. Hay una necesidad de algoritmos más saludables, que tengan un mayor control sobre sus actividades y así vivir una experiencia más enriquecedora en las redes sociales”, indica Sergio. Sin embargo, una vez que el usuario está dentro, puede ser difícil salir. Con el paso de los años, la idea de comunidad o de conexión de grupo que se da a través de las redes sociales se convirtió en una comunicación unidireccional, en la que el usuario es principalmente un consumidor.

“Las redes sociales como TikTok dejaron de ser una forma de conectar con personas. Es entretenimiento, consumo de contenido. La plataforma apunta a que nunca te vayas a aburrir porque hay una cascada de contenido que nunca para”, detalla Álvaro. Sostiene que, además, otra promesa que nos hizo la tecnología es que ya no existe una solución para todos, ahora las cosas son “curadas” y pensadas específicamente para vos.

Los algoritmos pueden ser muy poderosos. Inciden en nuestra vida de maneras difíciles de controlar. El caso que trajo a la luz Frances Haugen no es el primero que pone a Facebook en el spotlight. Antes, fue el de Cambridge Analytica, en el cual la firma de consultoría política recolectó datos de alrededor de 87 millones de usuarios de Facebook para ayudar a elegir a Donald Trump como presidente de los Estados Unidos.

“Debería haber transparencia algorítmica, tendrían que poder decirte la razón por la que no estás pudiendo conseguir algo (un crédito, por ejemplo); deberíamos saber cómo nuestros datos ingresando a esos sistemas. Creo que es complicado con el paradigma actual, pero debería haber transparencia”, agrega Álvaro.

La importancia de la salud mental (digital)

Luego de hablar con cierta profundidad sobre lo que implica ser un usuario activo de redes sociales, es importante tomar en consideración el cuidado y la salud de nuestra mente, al estar expuestos a todo esto que mencionamos: largas horas frente a diferentes tipos de pantallas absorbiendo cantidades masivas de información todos los días.

Al respecto, y en un contexto mucho más pandémico que el actual, Tedic, una ONG que desarrolla tecnología cívica abierta y defiende los derechos digitales por una cultura libre en internet, desarrolló materiales que indican cómo podemos combatir el estrés y la ansiedad que genera la hiperconectividad. Estos materiales están en forma de fanzines, y hablan sobre temas como telecuidados, detox digital y salud mental, y tecnoestrés y enganche digital. Todo esto está disponible para leer y descargar en la página web www.menteenlinea.org.