Cae la primera red criminal que generaba vídeos pederastas con IA: los riesgos de subir fotos de menores a la red
Los expertos aconsejan siempre llevar mucho cuidado con las imágenes que se suben a las redes sociales
La utilización de la inteligencia artificial por parte de pedófilos tiene un importante riesgo añadido para la Policía
La exposición de los menores en las redes sociales: el negocio de hacer que tus hijos sean influencers
Crear vídeos pedófilos con inteligencia artificial es ilegal. La Policía ha detenido a 25 personas que vendía este tipo de contenidos por media Europa, cuatro de ellas se escondían en España. Es la primera red que la mayoría del material que movía y consumía era generado por este tipo de tecnología cuyo uso tiene muchos riesgos. Los expertos advierten de la necesidad de crear un entorno digital seguro para los menores.
El tema de los menores está tan legislado que ya es ilegal generar cualquier material pedófilo sea real o no como podría ser, por ejemplo, una serie de animación.
MÁS
¿Por qué hay que llevar cuidado con las imágenes que se suben a Internet?
Los expertos aconsejan siempre llevar mucho cuidado con las imágenes que se suben a las redes sociales. Esto sucede por dos puntos: el uso que puede hacer un tercero de ese contenido y el entrenamiento que pueden hacer con los modelos de IA. Las plataformas tienen una serie de mecanismos para usar de forma apta, pero es verdad que dentro de la Deep web se usa. La utilización de la inteligencia artificial por parte de pedófilos tiene un importante riesgo añadido para la Policía.
Esto ocurre porque los agentes cuando ven una imagen no saben si es real o no. Tratan de identificar al menor porque estaría en una situación de riesgo. A veces, pierden un tiempo valioso al comprobar que no es real y que está generado por IA, ya que dejan de investigar otros procesos con otros menores que sí están expuestos a esta situación.
El material sexual infantil, una de las grandes amenazas para la Policía Nacional
La Policía Nacional ha detenido a 25 miembros de una organización criminal dedicada a distribuir imágenes de abusos a menores con IA. Dos de los arrestos se han producido en Madrid y en Barcelona. "Se trata de una de las primeras operaciones en las que se investiga material de abuso sexual infantil generado íntegramente por inteligencia artificial", han indicado las autoridades.
La investigación comenzó en 2024 con la detención de un ciudadano danés que dirigía la plataforma online por donde se distribuía el material. El material sexual infantil realizado con IA se ha convertido en una de las mayores amenazas para los agentes. Esto plantea importantes desafíos a las autoridades a la hora de identificar a las verdaderas víctimas. Incluso en los casos en los que el contenido es íntegramente generado por IA y no se representa a ninguna víctima real, como en esta operación, sigue contribuyendo a la cosificación y sexualización de los niños", ha concluido el cuerpo policial.
Síguenos en nuestro canal de WhatsApp y conoce toda la actualidad al momento.