Prácticas IA
El Gobierno pide a la Fiscalía investigar a Grok, la IA de 'X', por presuntos delitos de pornografía infantil
La ministra de Juventud e Infancia expone que Grok podría estar cometiendo un delito de difusión de violencia sexual contra la infancia.
Publicidad
"Grok es un asistente de inteligencia artificial que ayuda a completar tareas, como responder preguntas, resolver problemas y realizar lluvias de ideas", así define la red social 'X' su asistente de IA. Aunque debido a supuestas malas prácticas, el Gobierno ha pedido a la Fiscalía que la investigue.
En un escrito remitido a la Fiscalía General del Estado, la ministra de Juventud e Infancia, Sira Rego, ha expuesto que la inteligencia podría estar cometiendo un delito de difusión de violencia sexual contra la infancia. Todo ello a petición del usuario, según han explicado fuentes del departamento de la ministra.
Para el Gobierno este tipo de prácticas vulneran gravemente la dignidad, intimidad y derechos fundamentales de los niños. Según recoge el artículo 189 del Código Penal, estamos hablando de "una práctica que no puede entenderse como un uso neutro de la tecnología y que podría suponer un delito de pornografía infantil", además de un delito como la integridad moral, tal como el artículo 173.
La ministra recuerda la sentencia del Juzgado de Menores de Badajoz 86/2024, de 20 de junio, en la que varias personas que utilizaron la IA para manipular imágenes de niñas y adolescentes fueron condenadas. En el documento subraya que "estamos ante una vulneración de derechos fundamentales" ya que califica estas prácticas como una forma de violencia digital tipificada como delito de pornografía infantil y contra la integridad moral.
Por ello destaca que "es imprescindible que la Fiscalía analice estos hechos gravísimos e impulse las actuaciones necesarias para garantizar la protección de la infancia también en internet", y así, también, frenar aquellas que atentan contra la dignidad y desarrollo libre y seguro en el espacio digital.
La nueva ley
El pasado mes de noviembre, el Congreso de los Diputado dio luz verde a la tramitación del proyecto de Ley Orgánica de protección de los menores en entornos digitales. Con esta, el Gobierno quiere preservar y garantizar los derechos de los menores en este espacio, así como la protección de sus datos personales y el acceso a contenidos adecuados a su edad.
El ministro a la Presidencia, Justicia y Relaciones con las Cortes, Félix Bolaños, explicó que esta ley introduciría cambios en el Código Penal, una de ellas incorporaba la prohibición de acceso o comunicación entornos digitales, además de tipificar como delito "el suministro indiscriminado de material pornográfico a menores", explican en la web del Ministerio de Justicia.
Además, también se tipifican como contenido contra la integridad moral las deepfakes de contenido sexual o gravemente vejatorio. Y finalmente, será un agravante en algunos delitos como la libertad sexual el grooming, el engaño a menores en internet.
Síguenos en nuestro canal de WhatsApp y no te pierdas la última hora y toda la actualidad en nuestro perfil de Google.
Publicidad
