La Fiscalía investiga el uso de una IA de X por posibles contenidos sexuales con menores

Las peticiones realizadas a una herramienta de inteligencia artificial vinculada a la red social X para "quitar la ropa" o "poner en bikini" a personas se viralizaron durante las pasadas Navidades. Lo que comenzó como una tendencia en redes sociales ha derivado ahora en una investigación judicial, después de que se detectara que este uso se estaba aplicando también sobre imágenes de menores.

La Fiscalía General del Estado analiza si el funcionamiento de esta herramienta pudo incurrir en delitos relacionados con la pornografía infantil. El foco está puesto en la generación de imágenes de carácter sexual a partir de fotografías reales, una práctica que, en el caso de menores, tiene una especial gravedad penal. Desde la propia plataforma se ha reconocido que existieron fallos de seguridad en el sistema, que ya han sido corregidos para impedir este tipo de solicitudes.

La investigación trata de determinar si la red social incurrió en alguna responsabilidad por permitir, aunque fuera de forma temporal, este uso indebido de su tecnología.

El papel del usuario

Desde la compañía insisten en que la responsabilidad principal recae en los usuarios que emplean la herramienta de forma ilícita. No obstante, las autoridades subrayan que las plataformas digitales tienen la obligación de establecer controles eficaces que impidan la creación y difusión de este tipo de contenidos, especialmente cuando afectan a menores.

La proliferación de estas prácticas ha puesto de relieve la rapidez con la que la inteligencia artificial puede ser utilizada para vulnerar derechos fundamentales, como la intimidad o la dignidad personal.

Un marco legal más estricto

Las denominadas falsificaciones sexuales generadas con inteligencia artificial ya están tipificadas como delito contra la integridad moral. La legislación vigente considera ilegítima la manipulación y difusión de imágenes personales sin consentimiento o sin advertir de forma clara que se trata de contenidos manipulados.

El objetivo de esta regulación es frenar casos como los registrados en La Rioja o en Almendralejo en 2024, donde varios jóvenes fueron condenados por crear y difundir imágenes falsas de compañeras de instituto desnudas mediante inteligencia artificial.

Expertos en ciberseguridad y derecho digital alertan de que este tipo de prácticas puede aumentar si no se refuerzan los mecanismos de control y la educación digital. La combinación de tecnologías cada vez más accesibles y la viralidad en redes sociales multiplica el impacto de estos contenidos y el daño a las víctimas.

Síguenos en nuestro canal de WhatsApp y no te pierdas la última hora y toda la actualidad en nuestro perfil de Google.

Salvan la pierna a un niño con un tumor óseo gracias a la tecnología 3D