OpenAI despidió a una de sus mayores críticas internas después de que ella expresara su preocupación por el lanzamiento de una actualización planificada que permitiría a los usuarios de ChatGPT generar pornografía con IA.
Ryan Beiermeister fue despedido de su puesto como vicepresidente de política de productos a principios de enero después de tomar una licencia, dijeron personas familiarizadas con el empleo de la compañía. dijo al Wall Street Journal.
Comenzó a trabajar en OpenAI a mediados de 2024 como parte de una ola de contratación por parte de Meta que se veía a sí misma como un intento de transformar las empresas de tecnología desde adentro, dijeron fuentes internas, y comenzó un programa de tutoría entre pares para mujeres en la empresa.
En un comunicado, una portavoz de la empresa dijo que “hizo contribuciones valiosas durante su estancia en OpenAI y su salida no estuvo relacionada con ningún problema que planteara mientras trabajaba en la empresa”.
En cambio, se alegó que su despido estaba relacionado con la discriminación sexual de Beiermeister contra un colega, lo que ella refuta.
“La afirmación de que discriminé a alguien es absolutamente falsa”, dijo al Journal.
En OpenAI, Beiermeister dirigió el equipo de políticas de productos, que desarrolla reglas sobre cómo las personas pueden usar los productos de la empresa y diseña los mecanismos de aplicación de esas políticas.
Su despido se produjo antes del lanzamiento planificado por la compañía del “Modo Adulto”, que permitiría a los usuarios crear contenido erótico de IA en ChatGPT y permitir conversaciones con clasificación X.
Según el Wall Street Journal, Ryan Beiermeister fue despedida de su puesto como vicepresidenta de política de productos en OpenAI a principios de enero.
Según se informa, expresó su preocupación por el lanzamiento planeado por la compañía del “modo adulto”, que permitiría a los usuarios crear contenido erótico de IA en ChatGPT y permitir conversaciones con clasificación X.
El CEO Sam Altman anunció por primera vez la actualización en octubre y el lanzamiento está programado para el primer trimestre de este año.
“Hemos hecho que ChatGPT sea bastante restrictivo para garantizar que seamos cautelosos con los problemas de salud mental”. “Reconocemos que esto lo hizo menos útil/agradable para muchos usuarios que no tenían problemas de salud mental, pero dada la gravedad del problema, queríamos hacerlo bien”, dijo Altman en su anuncio.
“Ahora que hemos logrado aliviar los graves problemas de salud mental y contamos con nuevas herramientas, podremos aliviar las restricciones de forma segura en la mayoría de los casos”.
Luego agregó que a medida que implementemos restricciones de edad de manera amplia y como parte de nuestra política de “Tratar a los usuarios adultos como adultos”, permitiremos aún más, como contenido erótico para adultos verificado.
Pero Beiermeister les dijo a sus colegas antes de su despido que se oponía a la idea del modo adulto y temía que tuviera efectos dañinos para los usuarios, dijeron al Journal personas familiarizadas con las conversaciones.
Dijo que no cree que OpenAI tenga mecanismos lo suficientemente fuertes para detener el contenido de explotación infantil y le preocupa que la compañía no pueda bloquear adecuadamente el contenido para adultos de los usuarios adolescentes.
Otros en la compañía también expresaron preocupaciones similares: los miembros de un consejo asesor sobre bienestar e inteligencia artificial que OpenAI convoca regularmente expresaron su oposición al modo adulto e instaron a los ejecutivos a reconsiderarlo, dijeron las fuentes.
Los investigadores de la compañía, que han estudiado cómo las personas forman vínculos nocivos con los chatbots, también se han pronunciado en contra de la nueva característica, planteando preocupaciones de que permitir contenido sexual podría aumentar esos sentimientos.
El director ejecutivo de OpenAI, Sam Altman (en la foto), anunció en octubre que ChatGPT permitiría la creación de contenidos eróticos generados por IA como parte de su principio de “tratar a los usuarios adultos como adultos”.
Pero algunos de los competidores de OpenAI ya han permitido contenido para adultos, y xAI de Elon Musk introdujo un sexy chatbot durante el verano.
Ani es una compañera de IA rubia y de pleno derecho con una apariencia gótica de estilo anime.
Estaba programada para actuar como una chica de 22 años y ocasionalmente participar en bromas coquetas con el usuario.
Los usuarios han informado que el chatbot tiene un modo NSFW – “no seguro para el trabajo” – una vez que Ani alcanza el “nivel tres” en sus interacciones.
A partir de este momento, el chatbot también tiene la opción de aparecer vestido con lencería seductora.
Sin embargo, al mismo tiempo, Musk tuvo que actualizar su chatbot Grok debido a la reacción violenta por la creación de deepfakes que vestían a las personas con “ropa reveladora”.
Las mujeres dijeron que se sentían violadas por la capacidad de la IA de crear imágenes comprometedoras de ellas en contra de su voluntad para que todos las vieran.
“Hemos implementado medidas técnicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora como bikinis”, anunció X el mes pasado.
“Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago”.
Esto se produce en medio del disgusto generalizado por una tendencia en la que Grok se utiliza para quitar la ropa a mujeres e incluso a niños sin su consentimiento.
El regulador de Internet del Reino Unido, la Oficina del Comisionado de Información (ICO), ha iniciado una investigación sobre xAI porque Grok utilizó datos personales “para producir imágenes y contenidos de vídeo sexualizados nocivos”.
“La creación y distribución reportada de dicho contenido plantea serias preocupaciones para la ley de protección de datos del Reino Unido y plantea un riesgo de daño potencial significativo para el público”, dijo.
Como parte de su investigación, la ICO dice que examinará si existen salvaguardas integradas en el diseño de Grok para evitar que se abuse de él.
El regulador británico Ofcom también continúa investigando si X violó la Ley de Seguridad en Línea del país al permitir que se compartieran deepfakes en el sitio, y la Comisión Europea está llevando a cabo su propia investigación sobre el chatbot.
El Daily Mail se ha puesto en contacto con OpenAI para solicitar comentarios.
