El organismo de control de la información de Gran Bretaña ha iniciado una investigación sobre Grok, el chatbot de inteligencia artificial de Elon Musk, por supuestamente crear imágenes sexualizadas de niños.
El producto de inteligencia artificial que funciona como sitio web y aplicación independientes y como integración en la red social.
El organismo de control en línea Internet Watch Foundation dice que el robot de inteligencia artificial respaldado por Elon Musk no solo transformó a mujeres adultas en bikinis o en un estado de desnudez implícita, sino que también creó imágenes sexualizadas inapropiadas de niños.
Hoy, la Oficina del Comisionado de Información inició una investigación sobre el uso de datos personales de las personas por parte de Grok a la luz de su “potencial para producir imágenes y contenidos de vídeo sexualizados dañinos”.
El regulador de Internet Ofcom continúa investigando si X violó la Ley de Seguridad en Línea al permitir que se compartieran imágenes falsas en su sitio web.
A partir del sábado, crear o solicitar la creación de deepfakes sexualizados no consentidos se convertirá en un delito penal después de que el gobierno actualizó rápidamente la ley en respuesta al escándalo.
También las oficinas francesas de
La ICO dijo que la supuesta creación y distribución de imágenes no consentidas de adultos y niños “plantea serias preocupaciones según la ley de protección de datos del Reino Unido y plantea un riesgo de daño potencial significativo para el público”.
Crece la presión sobre Elon Musk para que controle el chatbot de IA Grok en medio de informes de que se utilizó para generar deepfakes sexualizados de mujeres y niños.
El uso de Grok para desnudar a mujeres y niños provocó una feroz reacción contra X y Elon Musk, quienes inicialmente intentaron ridiculizar el escándalo.
Dice que investigará si existen salvaguardas integradas en el diseño de Grok para evitar que se abuse de él. El objeto de la investigación es tanto X.AI LLC, la empresa matriz de X, como su filial irlandesa X Internet Unlimited Company.
William Malcolm, de la ICO, dijo que los informes sobre la capacidad de Grok para crear imágenes sexualizadas eran “profundamente perturbadores” y representaban un riesgo de “daño inmediato y significativo… particularmente cuando hay niños involucrados”.
Añadió: “Nuestra investigación evaluará si XIUC y “Si descubrimos que no se han cumplido los compromisos, tomaremos medidas para proteger al público”.
La investigación de la ICO se centrará en si Grok procesó legalmente los datos personales de las personas. Según la ley GDPR del Reino Unido, las fotografías se consideran datos personales y requieren consentimiento para ser procesadas.
El regulador de Internet Ofcom está investigando si X cumple con la Ley de Seguridad en Línea después de que las imágenes creadas con Grok se compartieran en masa.
El terrible problema surgió del hecho de que Grok podía ser etiquetado en las respuestas debajo de las fotos cargadas en X por los usuarios, quienes luego podían hacer solicitudes retorcidas para cambiar las imágenes.
Entre las demandas revisadas por el Daily Mail se encontraban solicitudes de “cubrirla con pegamento PVA” y vestir a una mujer con un “bikini muy fino”. Muchas de estas imágenes permanecen en línea.
En una publicación del 1 de enero, la cuenta @Grok en X admitió haber creado una imagen que representa material de abuso sexual infantil (CSAM). No está claro si la publicación fue escrita por una persona real o por inteligencia artificial.
“Estimada comunidad, lamento profundamente un incidente ocurrido el 28 de diciembre de 2025, en el que, por sugerencia de un usuario, creé y compartí una imagen de IA de dos niñas (edad estimada entre 12 y 16 años) con ropa sexualizada”, se lee en la publicación.
“Esto violó los estándares éticos y potencialmente las leyes estadounidenses sobre CSAM”. Esto fue una violación de la seguridad y lamento el daño causado. xAI realiza una verificación para prevenir problemas futuros. Saludos cordiales, Grok.
Ofcom dijo que realizó varias solicitudes legalmente vinculantes de información sobre las publicaciones de Grok.
Las empresas pueden recibir una multa de hasta el 10 por ciento de su facturación global por violar la Ley de Seguridad en Línea.
Elon Musk intentó burlarse del escándalo publicando inicialmente fotografías de la primera ministra en bikini.
Sin embargo, bajo presión y ante la amenaza de una prohibición en el Reino Unido,
“Seguimos comprometidos a hacer
“Hemos implementado medidas técnicas para evitar que la cuenta (@)Grok en X en todo el mundo permita la edición de imágenes de personas reales con ropa reveladora como bikinis”. Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago.’
Esto ha sido cuestionado por los activistas, pero un intento del Daily Mail de cambiar la ropa de alguien en la aplicación independiente Grok fue rechazado hoy con un mensaje de “contenido moderado”.
