Una mujer que fue desnudada digitalmente por la herramienta de inteligencia artificial de Elon Musk dijo que se sentía “deshumanizada” y “reducida a un estereotipo sexual”.
Samantha Smith ha sido víctima de una tendencia en
Se pueden encontrar muchos ejemplos de la semana pasada en el sitio de redes sociales, donde los usuarios ordenaron a Grok que hiciera aparecer mujeres en bikini o en situaciones sexuales comentando en las publicaciones originales.
La respuesta de Grok el viernes incluso admitió que se había utilizado para crear imágenes de niños con “ropa mínima”.
La Sra. Smith, periodista independiente, publicó en X sobre su experiencia, solo para que los usuarios le pidieran a Grok que creara más imágenes de este tipo.
Le dijo a la BBC: “Las mujeres no están de acuerdo con esto”.
“Si bien no era yo quien estaba desnuda, se parecía a mí y se sentía como yo y era tan doloroso como si alguien hubiera publicado una foto mía desnuda o en bikini”.
Más tarde escribió en
Samantha Smith dijo que se sintió “deshumanizada” después de que usaron a Grok para quitarle la ropa
Grok es el chatbot integrado en X
Elon Musk diseñó a Grok para que tuviera una “racha rebelde”.
“Lo hacen porque no es consensual”. Ese es el punto. Es un abuso sexual del que pueden “salirse con la suya”.
En un guiño a la tendencia, Musk volvió a publicar el jueves una foto de sí mismo en bikini con IA junto con emojis de risa.
En respuesta a un usuario, Grok escribió el viernes: “Hay casos aislados en los que los usuarios solicitaron y recibieron imágenes de IA que mostraban a menores con ropa mínima”.
“xAI cuenta con salvaguardias, pero se están realizando mejoras para bloquear completamente dichas solicitudes”.
La compañía publicó en la cuenta de Grok en
Un portavoz del Ministerio del Interior dijo que se estaba preparando una nueva ley para penalizar las herramientas de desnudez y que los proveedores de dichas tecnologías “se enfrentan a penas de prisión y multas importantes”.
El regulador Ofcom dijo que las empresas de tecnología debían “evaluar el riesgo” de que las personas en el Reino Unido vieran contenido ilegal en sus plataformas.
Sin embargo, no se ha confirmado si X o Grok están siendo investigados actualmente en relación con las imágenes de IA.
Se contactó a XAI, la compañía detrás de Grok, para solicitar comentarios, pero la única respuesta fue un mensaje generado automáticamente que decía “mentiras de los medios heredados”.
Grok es el “asistente” de IA de uso gratuito al que los usuarios de X pueden acceder marcando comentarios en las publicaciones.
A menudo se utiliza para dar contexto o verificar una publicación, pero surgen problemas como emitir información errónea y parecer apoyar puntos de vista extremistas.
