Por TRÂN NGUYỄN, Associated Press
SACRAMENTO – El gobernador de California, Gavin Newsom, firmó el lunes una ley para regular los chatbots de inteligencia artificial y proteger a los niños y adolescentes de los peligros potenciales de la tecnología.
La ley exige que las plataformas recuerden a los usuarios que están interactuando con un chatbot y no con un humano. Para usuarios menores de edad, la notificación aparece cada tres horas. Las empresas también deben seguir un protocolo para prevenir contenidos de autolesión y remitir a los usuarios a proveedores de servicios de crisis si han expresado pensamientos suicidas.
RELACIONADO: Los sueños de Chatbot crean pesadillas de IA para los abogados del Área de la Bahía
Newsom, que tiene cuatro hijos menores de 18 años, dijo que California tiene la responsabilidad de proteger a los niños y adolescentes que recurren cada vez más a los chatbots de IA para todo, desde ayuda con las tareas hasta apoyo emocional y asesoramiento personal.
“Las nuevas tecnologías como los chatbots y las redes sociales pueden inspirar, educar y conectar, pero sin barreras de seguridad reales, la tecnología también puede explotar, engañar y poner en peligro a nuestros niños”, afirmó el demócrata. “Hemos visto algunos ejemplos verdaderamente horribles y trágicos de jóvenes que se ven perjudicados por la tecnología no regulada y no nos quedaremos de brazos cruzados y permitiremos que las empresas sigan adelante sin los límites y la responsabilidad necesarios”.
California es uno de varios estados que han tratado de abordar las preocupaciones este año en torno a los chatbots utilizados por los niños como compañía. Las preocupaciones de seguridad en torno a la tecnología explotaron después de que informes y demandas dijeran que los chatbots de Meta, OpenAI y otros estaban interactuando con usuarios jóvenes. conversaciones altamente sexualizadas y en algunos casos le enseñó a quitarse la vida.
La ley forma parte de una serie de proyectos de ley sobre IA presentados por los legisladores de California este año para controlar la industria nacional, que está evolucionando rápidamente y tiene poca supervisión. En respuesta, las empresas tecnológicas y sus coaliciones gastaron al menos 2,5 millones de dólares cabildeando contra las medidas en los primeros seis meses de la sesión, según el grupo de defensa Tech Oversight California. Las empresas de tecnología y los líderes corporativos también han anunciado en los últimos meses que están lanzando súper PAC pro-IA para combatir la supervisión estatal y federal.
El fiscal general de California, Rob Bonta, dijo a OpenAI en septiembre que tenía “serias preocupaciones” sobre su chatbot insignia OpenAI para niños y adolescentes. El mes pasado, la Comisión Federal de Comercio también inició una investigación sobre varias empresas de inteligencia artificial sobre los riesgos potenciales para los niños del uso de chatbots como compañeros.
Según una investigación de un grupo de vigilancia, se ha demostrado que los chatbots dan Consejos peligrosos para los niños. sobre temas como drogas, alcohol y trastornos alimentarios. La madre de un adolescente de Florida que se suicidó después de desarrollar lo que describió como una relación de abuso emocional y sexual con un chatbot presentó una demanda por muerte por negligencia. contra Character.AI. Y los padres de Adam Raine, de 16 años, demandaron recientemente a OpenAI y a su director ejecutivo, Sam Altman, alegando que ChatGPT entrenó al chico de California para planificar su vida y quitarse la vida a principios de este año.
OpenAI y Meta se anunciaron el mes pasado Cambios en la forma en que sus chatbots responden a los adolescentes Hacer preguntas sobre el suicidio o mostrar signos de angustia psicológica y emocional. OpenAI dijo que está introduciendo nuevos controles que permitirán a los padres vincular sus cuentas a la cuenta de su hijo adolescente.
Meta dijo que ahora impide que sus chatbots hablen con adolescentes sobre autolesiones, suicidio, trastornos alimentarios y conversaciones románticas inapropiadas y, en cambio, los dirige a recursos expertos. Meta ya ofrece controles parentales para cuentas juveniles.
Si usted o alguien que conoce está luchando contra sentimientos de depresión o pensamientos suicidas, 988 Suicide & Crisis Lifeline ofrece apoyo, información y recursos gratuitos las 24 horas, los 7 días de la semana. Llame, envíe mensajes de texto o vea Lifeline al 988 988lifeline.org Sitio web donde está disponible el chat.
