Las cuentas de dieta extrema se han actualizado a una cuenta de Instagram creada por el personal del senador Richard Blumenthal. El senador de Connecticut registró una cuenta como una niña de 13 años y procedió a seguir algún desorden dietético y respaldar cuentas de alimentación (esta última supuestamente bloqueada por Instagram). Pronto, el algoritmo de Instagram comenzó a recomendar casi exclusivamente que la cuenta de un adolescente siga cuentas de dietas cada vez más extremas, dijo el senador a CNN.
La oficina de Blumenthal compartió con CNN una lista de cuentas recomendadas por el algoritmo de Instagram. Después de que CNN envió una muestra de esta lista de cinco cuentas a Instagram para comentar, la compañía las eliminó, diciendo que todas violaban sus políticas contra el fomento de los trastornos alimentarios.
«No permitimos contenido que promueva o fomente los trastornos alimentarios y hemos eliminado las cuentas compartidas con nosotros por violar estas reglas», dijo a CNN un portavoz de Facebook, la empresa matriz de Instagram. «Usamos tecnología e informes de nuestra comunidad para encontrar y eliminar este contenido lo más rápido posible, y siempre estamos trabajando para mejorar. Continuaremos siguiendo los consejos de expertos de académicos y organizaciones de salud mental, como la Asociación Nacional de Trastornos de la Alimentación, para lograr el difícil equilibrio entre permitir que las personas compartan sus experiencias de salud mental y protegerlas de contenido potencialmente dañino «.
En declaraciones a CNN el lunes, Blumenthal dijo: «Este experimento muestra cómo se hace esto de una manera muy gráfica. [Facebook’s] Las acusaciones de proteger a los niños o eliminar cuentas que pueden ser peligrosas para ellos son una absoluta tontería «.
La experiencia de Blumenthal no es una anomalía, y podría sorprender un poco a los usuarios habituales de Instagram que están familiarizados con cómo el algoritmo de la plataforma sugiere cuentas en las que han determinado que un usuario podría estar interesado.
El experimento de Blumenthal va un nivel más profundo y muestra la rapidez con la que el algoritmo de Instagram puede promover contenido malicioso entre los usuarios más jóvenes.
CNN creó una cuenta la semana pasada usando la misma metodología que la oficina del senador, y también siguiendo algunas cuentas extremas de dieta y desórdenes alimenticios. El domingo, Instagram promovió cuentas con nombres como «Sweet Skinny», «Prettily Skinny» y «Wanna Be Skinny» en una cuenta de demostración de CNN que también se registró como perteneciente a una niña de 13 años. CNN se acercó a Instagram para preguntar si estas cuentas también violan sus políticas.
Los peligros del contenido de trastornos alimentarios en Instagram
Los expertos dicen que ver el contenido de estas cuentas de dietas extremas, que, por ejemplo, incluían fotos de cuerpos ultradelgados e información sobre el «peso actual» de un usuario frente al «peso objetivo», puede servir como validación para los usuarios que ya son propensos a comportamientos poco saludables. .
«Buscamos constantemente la validación de que tenemos razón, incluso si esa validación es realmente dañina para nuestra salud personal», agregó Kiel, aumentando las apuestas para que Instagram evite promover dicho contenido.
Instagram también ha promovido afirmaciones sobre su papel en la perpetuación de comportamientos dañinos al decir que la comparación social es un problema generalizado y que las imágenes potencialmente problemáticas también están disponibles en otros lugares. De hecho, las comunidades «pro-anorexia» de Internet han existido durante años, antes de la llegada de Instagram. Sin embargo, el amplio alcance de Instagram entre las mujeres jóvenes y las niñas significa que dicho contenido publicado en su plataforma puede ser especialmente peligroso, según Keel.
“El dominio de Instagram entre el grupo de edad que ya tenía un mayor riesgo de desarrollar un trastorno alimentario es uno [issue]Dijo Kiel. Tienes un círculo vicioso: tienes un grupo que está en alto riesgo de tener estos problemas para demostrarle a esta IA que esto es lo que les llama la atención, y luego esa IA dice: «Déjame darte más de esto. .. Es simplemente una tormenta perfecta «.
Chelsea Kroningold, jefa de comunicaciones de la Asociación Nacional de Trastornos de la Alimentación (NEDA), agregó que si bien Instagram y otros sitios de redes sociales pueden no causar trastornos de la alimentación y otros problemas de imagen corporal, «sabemos que definitivamente es un factor de riesgo importante en estas situaciones».
“No hay ningún beneficio a largo plazo en matar a los miembros de su base de usuarios más grande, porque los trastornos alimentarios son muy peligrosos y no hay forma de hacerlo [Instagram] quiere «, dijo Keil. Mi única petición es ser más transparente. Está rastreando esto, tratando de hacer cosas para reducir el riesgo de su sitio y siendo más transparente sobre lo que está tratando de hacer «.
