Inteligencia Artificial
El Gobierno pide que se investigue la IA de X tras peticiones a Grok como "quítale la ropa" o "ponle bikini"
El Ministerio de Juventud e Infancia ha pedido a la Fiscalía General del Estado que investigue a la inteligencia artificial de X (antes Twitter) por presuntos delitos relacionados con la difusión de material de violencia sexual contra menores de edad.
Publicidad
La ministra Sira Rego ha remitido un escrito a la Fiscalía General del Estado después de que diversos medios informaran de que Grok (la IA de la plataforma) habría generado, a petición de los usuarios, contenidos de carácter sexual con menores. Según expone el Ministerio, estas prácticas no pueden considerarse un uso neutral de la tecnología y podrían suponer un delito de pornografía infantil, tipificado en el artículo 189 del Código Penal, así como un delito contra la integridad moral, recogido en el artículo 173.
Desde Juventud e Infancia advierten de que este tipo de contenidos suponen una grave vulneración de la dignidad, la intimidad y los derechos fundamentales de niñas, niños y adolescentes en el entorno digital.
En el escrito remitido a la Fiscalía, Rego también hace referencia a la sentencia 86/2024 del Juzgado de Menores de Badajoz, de 20 de junio, que condenó a varias personas por utilizar inteligencia artificial para manipular imágenes de menores. La resolución reconoce estas prácticas como una forma de violencia digital y las tipifica como delitos de pornografía infantil y contra la integridad moral.
"Estamos ante una vulneración de derechos fundamentales", subraya la ministra, quien considera como "urgente que la Fiscalía analice estos hechos gravísimos y que inicie las medidas necesarias para evitar que más personas, especialmente los menores, vean vulnerados sus derechos fundamentales en internet".
Ley de protección de los menores
Esta petición se enmarca en el contexto de la tramitación en el Congreso de la Ley Orgánica para la Protección de las Personas Menores de Edad en los Entornos Digitales, impulsada por el propio Ministerio, que busca situar la seguridad, la dignidad y los derechos de la infancia en el centro del ecosistema digital.
La iniciativa forma parte de una estrategia más amplia para construir entornos digitales seguros y parte del reconocimiento de que internet y las plataformas no fueron diseñadas pensando en la infancia. La norma refuerza la protección de la integridad y la intimidad personal frente a nuevas formas de vulneración asociadas a tecnologías como la inteligencia artificial, y reafirma que el interés superior del menor debe prevalecer sobre cualquier modelo de negocio digital.
Síguenos en nuestro canal de WhatsApp y no te pierdas la última hora y toda la actualidad en nuestro perfil de Google.
Publicidad
