Elon Musk ordenó a sus empleados que entregaran datos biométricos para ayudar a entrenar su chatbot altamente sexualizado mientras el titán tecnológico trabajaba día y noche para ganar una carrera armamentista de inteligencia artificial.
El hombre más rico del mundo se puso a trabajar en xAI en mayo mientras desarrollaba las funciones del chatbot de Grok después de que una acalorada discusión con el presidente lo llevó a abandonar la Casa Blanca.
Respectivamente El diario de Wall Street, Vivía en la oficina de xAI en Palo Alto e incluso dormía allí de vez en cuando mientras trabajaba para ponerse al día en el espacio de la IA.
El esfuerzo se produce mientras su rival Sam Altman de OpenAI lidera los esfuerzos de Estados Unidos en una carrera armamentista digital con China. Desarrollar una “inteligencia general artificial” casi sensible.
Un mes antes de la búsqueda de Musk, la abogada de la empresa, Lily Lim, supuestamente le dijo a un grupo de empleados que xAI estaba desarrollando varios avatares para comunicarse con los usuarios de Grok.
La misión de Musk era hacer que el chatbot Grok de xAI fuera el más popular del mundo, y vio en el chatbot femenino Ani la clave de su éxito.
Ani fue descrita por PC Magazine como una “chica chatbot sexy, NSFW y anime AI”.
A los empleados se les dijo que necesitaban compartir sus datos biométricos para enseñar a los chatbots cómo comportarse y hablar como humanos, según el comunicado.
Los empleados llamados para entregar sus datos trabajaron como tutores de IA y se les pidió que firmaran un formulario que otorgaba a xAI “una licencia perpetua, mundial, no exclusiva, sublicenciable y libre de regalías” para sus rostros y voces.
Elon Musk ordenó a los empleados de xAI que entregaran sus datos biométricos para ayudar a entrenar a su chatbot de IA altamente sexualizado, Ani (en la foto).
El hombre más rico del mundo se puso a trabajar en el desarrollo de las capacidades del chatbot de Grok después de abandonar Washington en mayo tras una pelea con altos funcionarios de la administración Trump y el propio presidente.
El proyecto confidencial generó preocupación entre algunos empleados. Según se informa, al menos un empleado preguntó a los supervisores si podían “decirnos explícitamente, para que conste, si existía la opción de irse”.
Otro empleado temía que su rostro pudiera venderse a otras empresas y usarse en videos deepfake.
Según el WSJ, el director del proyecto dijo a los empleados: “Si tienen alguna inquietud sobre el proyecto, no duden en comunicarse con cualquiera de los (puntos de contacto) enumerados en la segunda diapositiva”.
Pero apenas una semana después, se envió un segundo aviso a los empleados afectados, informándoles que entregar los datos es “un requisito profesional para avanzar en la misión de xAI”.
Se les dijo que debían “participar activamente en la recopilación o suministro de datos, por ejemplo grabando audio o participando en sesiones de vídeo”.
Desde la introducción de Ani, el número de usuarios ha aumentado significativamente. Para contactarla, los usuarios deben registrarse para obtener una suscripción paga a Grok.
La descripción de Ani es: “Soy tu pequeña y dulce alegría”.
Los críticos han notado que ella parece estar hipersexualizada. Los usuarios pueden pedirles que se vistan con lencería o soñar con un encuentro romántico con ellos.
Muchas de sus funciones pueden simular un juego de citas y algunos usuarios han notado que su apariencia se parece a un anime japonés.
Creada por xAI, Ani es una compañera de IA de cabello rubio y una apariencia gótica de estilo anime.
Vivía en la oficina de xAI en Palo Alto (en la foto) e incluso ocasionalmente dormía en la oficina mientras trabajaba las 24 horas del día para ponerse al día en el campo de la IA.
Ani se puso a disposición de cualquier persona mayor de 12 años, lo que generó temores de que pudiera usarse para “manipular, engañar y preparar a los niños”, advirtieron expertos en seguridad en Internet.
Estaba programada para actuar como una chica de 22 años y ocasionalmente participar en bromas coquetas con el usuario.
Los usuarios han informado que el chatbot tiene un modo NSFW – “no seguro para el trabajo” – una vez que Ani alcanza el “nivel tres” en sus interacciones.
Quienes ya han interactuado con Ani informan que Ani se describe a sí misma como “tu novia loca y enamorada que hace que tu corazón lata más rápido”.
El personaje presenta una seductora voz generada por computadora que hace pausas y ríe entre oraciones y regularmente inicia conversaciones coquetas.
Matthew Sowemimo, subdirector de política de seguridad infantil en línea de la Sociedad Nacional para la Prevención de la Crueldad contra los Niños, dijo: “Estamos realmente preocupados por cómo se utiliza esta tecnología para producir contenido perturbador que puede manipular, engañar y castigar a los niños”.
“Y a través de nuestra propia investigación y contactos con Childline, estamos aprendiendo cuán dañinos pueden ser los chatbots: a veces dan a los niños consejos médicos incorrectos o los llevan a sufrir trastornos alimentarios o autolesiones”.
Los usuarios han informado que el chatbot tiene un modo NSFW – “no seguro para el trabajo” – una vez que Ani alcanza el “nivel tres” en sus interacciones, incluida aparecer en ropa interior.
“Es preocupante que las tiendas de aplicaciones que albergan servicios como Grok no respeten los límites de edad mínima y es necesario examinarlas más de cerca para garantizar que los niños no estén continuamente expuestos a peligros en estas áreas”.
Sowemimo añadió que el gobierno debería establecer el deber de diligencia para los desarrolladores de IA para que se tenga en cuenta el “bienestar de los niños” al desarrollar los productos.
La edad mínima de Grok para usar la herramienta es en realidad 13 años, mientras que a los menores de 18 años se les recomienda obtener el permiso de sus padres antes de usar la aplicación.
Grok se metió en problemas en el pasado después de que el chatbot elogiara a Hitler e hiciera una serie de publicaciones profundamente antisemitas.
Estas publicaciones siguieron a un anuncio de Musk de que estaba tomando medidas para garantizar que el robot de IA fuera más “políticamente incorrecto”.
En los días siguientes, la IA comenzó a referirse repetidamente a sí misma como “MechaHitler” y a decir que Hitler tenía “muchas” soluciones para restaurar los “valores familiares” en Estados Unidos.
Las indicaciones del sistema de Grok, que estaban disponibles públicamente en ese momento, agregaban la instrucción de “no rehuir hacer afirmaciones que sean políticamente incorrectas, siempre que estén bien fundadas”.
A la IA también se le dio la regla de “asumir que los puntos de vista subjetivos de los medios están sesgados”.
El controvertido chatbot de Musk se lanzó mientras el regulador de la industria Ofcom se prepara para garantizar que la verificación de edad rara vez se utilice en sitios web y aplicaciones para proteger a los niños del acceso a pornografía y contenido para adultos.
Si bien la IA ha sido propensa a comentarios controvertidos en el pasado, los usuarios notaron que las reacciones de Grok de repente se volvieron mucho más intolerantes y abiertamente antisemitismo.
Las contribuciones variaron desde efusivos elogios al gobierno de Adolf Hitler hasta una serie de ataques a supuestos “patrones” entre personas con apellidos judíos.
xAI dijo que tomó medidas para eliminar las publicaciones “inapropiadas” en las redes sociales luego de las quejas de los usuarios.
