Elon Musk ha tomado medidas para tomar medidas enérgicas contra los usuarios de X que se benefician de videos generados por inteligencia artificial que representan el Medio Oriente devastado por la guerra.
La compañía de redes sociales dijo que los usuarios que publiquen videos de guerra generados por IA sin etiquetarlos claramente serán excluidos del programa de monetización de X durante 90 días.
Las infracciones posteriores podrían dar lugar a la exclusión permanente del programa, según la directora de producto de la empresa, Nikita Bier. anunciado Martes.
Bier advirtió: “Con las tecnologías de inteligencia artificial actuales, es trivial crear contenido que pueda engañar a la gente”.
“En tiempos de guerra, es fundamental que la población local tenga acceso a información auténtica”, escribió.
La nueva política se produce después de que Estados Unidos e Israel atacaran a Irán el sábado, sumiendo a la región en una guerra y provocando una ola de publicaciones engañosas generadas por IA en las redes sociales.
Uno de los viles videos falsos incluía imágenes de lo que parecían ser soldados israelíes llorando de miedo, supuestamente durante un ataque iraní. Este clip tiene más de 1,4 millones de visitas.
Otro clip falso, visto por más de 2,1 millones de personas, mostraba el Burj Khalifa de Dubai envuelto en llamas tras un supuesto ataque de Irán.
Un video separado que está en
En realidad, el clip fue generado por IA y los usuarios de X lo marcaron como tal.
La compañía dijo el martes que el contenido generado por IA se marcaría a través de notas de los usuarios obtenidas mediante crowdsourcing o mediante metadatos y otras señales indicativas de herramientas de IA generativa.
Otro vídeo compartido en
Las imágenes generadas por IA mostraron lo que parecía ser una lluvia de misiles cayendo sobre la ciudad mediterránea.
Se podían ver explosiones y nubes de humo a lo lejos mientras el usuario que parecía estar filmando las imágenes hacía zoom.
Otra publicación describía un ataque a un aeropuerto israelí anónimo y parecía haberlo capturado en vídeo.
Sin embargo, las escenas aparentemente aterradoras en realidad fueron completamente inventadas por la IA.
Únete al debate
¿Deberían las plataformas de redes sociales monitorear el contenido bélico generado por IA o confiar en que los usuarios detecten ellos mismos las falsificaciones?
Según el informe, las formas de saber si un vídeo fue creado por IA incluyen una mala calidad de imagen y una duración muy corta. bbc.
Algunos robots de IA también utilizan información desactualizada que aparece en videos y puede representar ubicaciones de manera inexacta.
Texturas extrañas o un aspecto casi retocado también pueden ser un indicio de contenido generado por IA. Mejor oficina de negocios.
También se cuentan inconsistencias físicas, sombras y luces antinaturales.
Otros indicios incluyen inconsistencias físicas, sombras o iluminación antinaturales.
Por extraño que parezca, los errores tipográficos pueden ser una señal alentadora, porque es más probable que los cometan personas que máquinas.
Musk ha predicho que los videos generados por IA son el futuro del contenido, incluso cuando su propia plataforma busca combatir la información errónea difundida a través de la tecnología.
“La mayor parte de lo que la gente consuma en cinco o seis años, tal vez antes, será contenido generado por IA”, dijo Musk. dicho en octubre.
Los usuarios que publiquen vídeos de guerra generados por IA y no los etiqueten serán excluidos del programa de monetización de X, inicialmente durante 90 días y luego de forma permanente.
Las nuevas pautas requieren que los usuarios de X agreguen la etiqueta “Hecho con IA” haciendo clic en el menú de la publicación y seleccionando “Agregar divulgación de contenido”.
La medida fue elogiada por la administración Trump.
“Esta es una gran adición al sistema de Notas comunitarias.
Rogers añadió: “No se necesita un Ministerio de la Verdad para incentivar la verdad en línea”.
El cambio se produce mientras la empresa continúa endureciendo sus políticas de IA.
El mes pasado, X anunció que optimizaría su herramienta de inteligencia artificial Grok para evitar que cree fotografías demasiado sexualizadas.
Grok había sido criticado anteriormente por publicar sobre frases antisemitas y afirmaciones de genocidio blanco.
