Instagram está bajo una presión cada vez mayor después de que una investigación exhaustiva descubriera que millones de usuarios compartían publicaciones pronazis, que negaban el Holocausto y abiertamente antisemitas.
un informe de Activos descubrió que el contenido ofensivo se colocaba justo al lado de anuncios de algunas de las empresas más grandes de Estados Unidos, incluidas JP Morgan, SUNY e incluso el ejército de EE. UU.
Las revelaciones se producen pocos meses después de que el director ejecutivo de Meta, Mark Zuckerberg, relajara drásticamente las reglas de contenido y desmantelara el programa de verificación de datos de la compañía en Estados Unidos.
Zuckerberg defendió la medida como un retorno a “dar prioridad a la libre expresión”, pero los críticos dicen que ha hecho que la propaganda extremista esté más disponible en la plataforma.
En el centro de la controversia se encuentra una cuenta de marca de moda ahora desaparecida llamada @forbiddenclothes.
La cuenta parece haber sido eliminada, pero anteriormente se publicaron memes de temática fascista, lo que despertó un interés generalizado, informó Fortune.
Uno de sus papeles fijados desde la perspectiva de Activos Junto con otros 31 millones de personas, un oficial nazi de las SS de la película “Malditos bastardos” fue utilizado como parte de un meme con la leyenda “Cuando la familia discute sobre política y me piden mi opinión experta”.
Según el informe, los comentarios que condenaban el uso del clip para glorificar el nazismo superaron con creces las reacciones positivas. También dijo que afrontar el papel abrió la puerta a contenidos más escandalosos.
Instagram está bajo un intenso escrutinio después de que se descubrió que los algoritmos de la aplicación distribuían videos abiertamente antisemitas, nazis y que negaban el Holocausto a grandes audiencias.
Las revelaciones se producen pocos meses después de que el director ejecutivo de Meta, Mark Zuckerberg, relajara drásticamente las reglas de contenido y desmantelara el programa independiente de verificación de datos de la compañía poco antes de que el presidente Trump regresara al cargo.
Una película que siguió mostró una “traducción” generada por IA de un supuesto discurso de Adolf Hitler, con gráficos que pretendían identificar a los judíos en el gabinete de Trump y en los principales medios de comunicación.
El vídeo, que fue visto 1,4 millones de veces, mostraba estrellas judías retocadas con Photoshop en los rostros de las personas.
Los comentarios incluyeron: “Le debemos una disculpa al gran hombre”, en referencia a Hitler. Otro usuario escribió: “Tenía razón en todo”.
Un periodista de Fortune encontró memes que negaban el Holocausto, incluido uno con un personaje de “cerebro pequeño” que decía: “Gasó a millones de personas”. “Lee un libro de historia” y un personaje “con un cerebro grande” responde: “¿Quién escribió los libros de historia?”
La publicación, que sugiere que el Holocausto fue inventado por el pueblo judío mediante la promoción de teorías de conspiración racistas sobre el control de los medios por parte del pueblo judío, recibió 3,2 millones de visitas y más de 250.000 interacciones.
Después Activos Después de marcar las publicaciones en Meta, los clips desaparecieron silenciosamente, pero no antes de que se compartieran ampliamente.
El contenido apareció en un patrón que, según los expertos, se debe al sistema de recompensa del algoritmo de Instagram.
Tan pronto como un usuario interactúa incluso con un solo carrete codificado de forma fascista, el motor de recomendaciones de Instagram “personaliza” un feed que rápidamente se convierte en una corriente de conspiraciones antisemitas, chistes racistas y glorificación de imágenes nazis, a menudo presentadas como humor o una estética extravagante e irónica.
La investigación encontró que este contenido estaba superpuesto con publicidad paga de algunas de las marcas más respetadas del país, desde JPMorgan Chase hasta Nationwide Insurance, SUNY, Porsche y el ejército de EE. UU.
Según el estudio, se reprodujeron simultáneamente contenidos extremistas y publicidad corporativa. Sin embargo, no hay evidencia de que las empresas supieran junto a qué contenido se colocaban sus anuncios.
Meta eliminó las publicaciones después de que fueron denunciadas, a pesar de que los videos ya habían llegado a una gran audiencia.
Meta, que incluye tanto Facebook como Instagram, alguna vez fue una plataforma que alguna vez invirtió dinero con moderación pero desde entonces ha cambiado de rumbo.
Un portavoz del ejército estadounidense dijo que el ejército no tiene control sobre la colocación de anuncios de Meta.
Meta emitió un breve comunicado a Fortune: “No queremos este tipo de contenido en nuestras plataformas y las marcas no quieren que sus anuncios aparezcan junto a él”.
La compañía dijo que agregó las publicaciones marcadas a su base de datos de material prohibido.
Las propias políticas de Meta prohíben específicamente la negación del Holocausto, las afirmaciones de que los judíos controlan las instituciones financieras y cualquier contenido que glorifique a Hitler.
La investigación también reveló los beneficios económicos de distribuir contenido ofensivo.
El propietario de una página de memes británica le contó a Fortune cómo había ganado “más de 10.000 libras (13.000 dólares)” vendiendo camisetas y menciones, y agregó que las publicaciones con temas de Hitler estaban “obteniendo más tracción”.
Un técnico con sede en EE. UU. dijo que ganó casi $ 3,000 con los bonos de Instagram antes de que fuera desmonetizado. Incluso admitió que es judío y no cree en el contenido, pero lo publicó porque los carretes “ofensivos y políticos” son los que hacen crecer las cuentas más rápido.
Varios YouTubers dijeron que sus ganancias se dispararon después de que Zuckerberg decidiera detener la verificación de datos por parte de terceros.
Zvika Krieger, ex directora de innovación responsable de Meta, dijo a Fortune que los sistemas de moderación fueron “intencionalmente hechos menos sensibles” después del cambio de reglas.
El presidente Trump y Mark Zuckerberg son vistos en una cena con líderes tecnológicos estadounidenses en el Comedor Estatal de la Casa Blanca en Washington, DC, en septiembre.
“Lo que genere la mayor participación es lo que se recompensa en este algoritmo”, dijo Krieger.
El gran cambio radical de Zuckerberg se produjo el 8 de enero de 2025, apenas dos semanas antes de que Donald Trump regresara a la Casa Blanca.
En un video de cinco minutos que sorprendió a los grupos de derechos civiles y aplaudió a partes del mundo MAGA, Zuckerberg anunció que Meta dejaría de utilizar verificadores de datos independientes en Facebook e Instagram.
En cambio, han sido reemplazadas por “notas comunitarias” estilo X, que dejan los comentarios sobre la precisión de las publicaciones en manos de los usuarios.
Zuckerberg también señaló que el umbral para eliminar el discurso de odio se elevaría para “restaurar la libre expresión” en la plataforma.
Dijo que las elecciones de 2024 “se sienten como un punto de inflexión cultural para priorizar nuevamente el discurso”, y agregó: “Volveremos a nuestras raíces y nos concentraremos en reducir errores, simplificar nuestras políticas y restaurar la libre expresión en nuestras plataformas”.
Sin embargo, los críticos, incluida la Liga Antidifamación, notaron un aumento del contenido antisemita tras el cambio de política.
En mayo, la ADL dijo que los miembros judíos del Congreso habían experimentado un aumento cinco veces mayor en el acoso en Facebook.
Meta ha defendido su vigilancia del contenido de su sitio web.
“Solo en la primera mitad de 2025, interpusimos acciones contra casi 21 millones de contenidos por violar nuestra prohibición de organizaciones e individuos peligrosos”, dijo Meta en un comunicado.
Después de citar inicialmente una tasa de detección proactiva del 99 por ciento, la compañía admitió más tarde que el número real estaba “en el 90 por ciento”.
Daily Mail se ha puesto en contacto con Meta, así como con JPMorgan Chase, Nationwide Insurance, SUNY y Porsche para solicitar comentarios.
