Elon Musk limita el generador de imágenes de IA de Grok a usuarios verificados ante la presión pública y legal por la generación de imágenes sexualizadas, incluidas de menores.
La plataforma X ha limitado Grok, su generador de imágenes impulsado por IA, tras la polémica por fotografías sexualizadas que involucran a menores. La medida restringe el acceso a la herramienta a miembros de pago, mientras que usuarios sin insignia de verificación pueden suscribirse para desbloquearla. En palabras de la propia Grok: «La creación y edición de imágenes actualmente solo está disponible para miembros de pago. Puedes suscribirte para desbloquear estas funciones».
➡️ Te puede interesar: Máster Profesional en Ciberseguridad, Ciberinteligencia y Ciberdefensa
Según CNBC, el abuso de Grok empezó a finales de diciembre y se intensificó durante Nochevieja, lo que permitió la difusión de imágenes explícitas sin consentimiento de las víctimas en la mayoría de los casos. Las protestas de usuarios y de autoridades han contribuido a presionar a la empresa, y The Guardian recoge que Reino Unido llegó a amenazar con prohibir X si persiste la situación.
Posible investigación de la UE
En España, la ministra de Juventud e Infancia, Sira Rego, pidió a la Fiscalía investigar a Grok por presuntos delitos de difusión de material de violencia sexual contra la infancia, ante los casos de desnudos de menores. Por su parte, la Unión Europea condenó el uso de la herramienta para generar imágenes de menores y solicitó a X conservar la documentación generada por Grok hasta finales de 2026 para una posible investigación, informa Bloomberg.
➡️ Te puede interesar: Curso de Prevención del Acoso y Ciberacoso
El propio Elon Musk afirmó en un post de X que «cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal». Las políticas de xAI son claras al respecto: no permitir el uso para «representar imágenes de personas de manera pornográfica» ni «la sexualización o explotación de los niños», cumpliendo así la ley vigente y las normativas de protección infantil.
