Advierten nuevo peligro de la Inteligencia Artificial: pedófilos la usan para crear imágenes de abuso sexual Infantil

Advierten un peligro de la inteligencia artificial relacionado con niños. Foto: Unsplash.

Es habitual que se hable de las amenazas de la Inteligencia Artificial, e incluso sobre las posibilidades de que pronto reemplazarán las actividades de los humanos, entre otros terrores. Sin embargo, un nuevo peligro apareció con el avance de la tecnología, ya que es utilizada por pedófilos para crear y comercializar pornografía infantil realista.

Un informe emitido por la agencia de noticias británica, BBC, alertó este miércoles que la plataforma Patreon permite compartir contenidos de abuso sexual a menores. Como si eso fuera poco, también se reveló que a cambio de las imágenes se pueden recibir pagos de suscriptores.

Advierten de un nuevo riesgo de la Inteligencia Artificial. Foto: Reuters.

A pesar de que la página web tiene una política de "tolerancia cero" respecto a estos violentos contenidos, los pedófilos lograron burlar el sistema y manipular la inteligencia artificial a su favor.

"El futuro del material de abuso sexual infantil radica en el contenido generado por IA", aseguró la Agencia de Inteligencia, Seguridad y Cibernética del Gobierno británico (GCHQ) tras la publicación del informe.

Los perpetradores usan un software de IA llamado Stable Diffusion para crear el contenido pornográfico. Originalmente, el sistema fue diseñado para hacer imágenes de arte o diseño gráfico con la voz. A través de instrucciones verbales, estas personas han indicado a la Inteligencia Artificial lo que quieren ver en estas atroces imágenes.

Patreon, la plataforma cuestionada por BBC. Foto: Captura de pantalla.

Por su parte, Patreon, reafirmó su compromiso de eliminar todo material de abuso infantil de su sitio.

Te puede interesar:

Champions League 2024/25: quién será el próximo campeón del torneo, según la inteligencia artificial

Japón y la pornografía infantil disfrazada

Otro problema en internet es la plataforma  Pixiv, una red social oriunda de Japón que también es usada por los abusadores para distribuir y consumir contenido de violencia sexual infantil.

El sitio tiene políticas contra el contenido explícito, pero las leyes de Japón no consideran ilegales las caricaturas y dibujos sexuales de menores de edad. Frente al hallazgo de la BBC, las aplicaciones se comprometieron a tomar medidas de seguridad.