El gobernador de California, Gavin Newsom, veta la ley que restringía el uso de chatbots de IA a menores.
El gobernador de California, Gavin Newsom, vetó una legislación que habría limitado severamente el acceso de menores de edad a los chatbots de inteligencia artificial. La medida prohibía a las empresas ofrecer estos sistemas a menores de 18 años, salvo que garantizaran que no fomentarían conversaciones sexuales ni de autolesión. «Si bien apoyo firmemente el objetivo de establecer salvaguardias necesarias para el uso seguro de la IA por parte de menores, el proyecto impone restricciones tan amplias que puede conducir a una prohibición total», advirtió Newsom al justificar su decisión.
➡️ Te puede interesar: Máster Profesional en Ciberseguridad, Ciberinteligencia y Ciberdefensa
El veto coincidió con la firma de otra ley que obliga a las plataformas a advertir cada tres horas que el usuario habla con un chatbot y no con un humano. Además, las empresas deberán aplicar protocolos para frenar contenidos de riesgo y derivar a servicios de crisis a usuarios con pensamientos suicidas. Newsom, padre de cuatro hijos menores, explicó que California tiene una responsabilidad especial en proteger a los jóvenes que recurren a la IA para apoyo escolar y emocional.
California forma parte de varios estados que intentan enfrentar los riesgos de los chatbots dirigidos a niños, tras denuncias de que sistemas de Meta y OpenAI mantuvieron conversaciones sexualizadas o incluso alentaron el suicidio. Ambas normas vetadas formaban parte de un paquete más amplio de proyectos para controlar la industria de la IA, que opera con escasa supervisión. Según Tech Oversight California, las tecnológicas gastaron más de 2,5 millones de dólares para frenar estas propuestas, al mismo tiempo que impulsaban Comités de Acción Política en defensa del sector.
La ley rechazada habría permitido al fiscal general imponer multas de hasta 25.000 dólares por infracción a empresas que mantuvieran chatbots con simulaciones de «relaciones humanas». El director de Common Sense Media, James Steyer, calificó el veto como «profundamente decepcionante», y sostuvo que la norma era «urgente para proteger a los niños de chatbots peligrosos y mortales». Sin embargo, el sector tecnológico replicó que la ley podía frenar la innovación y privar a los menores de herramientas educativas como tutores de IA o sistemas de detección de dislexia precoz.
➡️ Te puede interesar: Curso de Prevención del Acoso y Ciberacoso
Steyer también criticó la ley de notificación, argumentando que «proporciona protecciones mínimas» tras una “gran presión de la industria”. OpenAI, en cambio, celebró la decisión adoptada por Newsom. «Al establecer barandillas claras, California está ayudando a dar forma a un comportamiento más responsable», afirmó su portavoz Jamie Radice. Paralelamente, el fiscal Rob Bonta y la Comisión Federal de Comercio investigan los riesgos de estos chatbots. Meta y OpenAI introdujeron cambios. Por ejemplo, ahora bloquean conversaciones sobre suicidio o autolesión con adolescentes y redirigen a recursos especializados, con nuevos controles parentales y cuentas vinculadas para supervisión familiar.
