Alerta pedófilos: descubren que usan la IA de código abierto para fabricar contenido de abuso sexual infantil

Inteligencia Artificial. Foto: Reuters.

La inteligencia artificial (IA) se encuentra bajo la mira después de que la Organización Internet Watch Foundation (IWF) alertara que pedófilos están explotando software de IA de código abierto para fabricar material de abuso sexual infantil (CSAM), a través de imágenes alteradas de niños conocidos o famosos.

La principal diferencia entre la IA de código abierto y las herramientas de modelo cerrado, como Dall-E de OpenAI o Imagen de Google, radica en que los usuarios pueden descargar, modificar y ajustar el software de la primera, mientras que los modelos subyacentes de la segunda no están disponibles al público.

Dan Sexton, director de tecnología de la IWF, expresó que "existe una comunidad técnica dentro del espacio de los delincuentes, particularmente en los foros de la web oscura, donde se discute esta tecnología. Comparten imágenes, modelos de IA y guías".

Las escuelas regularización el uso de inteligencia artificial (IA). Foto: Unsplash.

Durante una entrevista con el diario 'The Guardian', Sexton destacó la dificultad de abordar el problema debido a que el contenido generado con software de código abierto "se descarga y ejecuta localmente en las computadoras de las personas".

La alerta indicó que los delincuentes comienzan con un modelo básico de generación de imágenes, que luego se ajusta con imágenes de abuso sexual infantil, lo que permite generar contenido más realista y perturbador con menos requerimientos de computación.

"El abuso sexual infantil en línea ya es una epidemia de salud pública. Potencialmente esto solo empeorará las cosas", advirtió Sexton ante el posible incremento de contenido de abuso infantil generado por IA.

Advierten sobre el uso de inteligencia artificial para contenido de abuso sexual infantil. Foto: Reuters.

Asimismo, a los expertos les preocupa que dichos contenidos ilícitos generados por IA dificulten la identificación y asistencia a las víctimas reales. Además, la creación masiva de imágenes realistas podría ampliar su consumo.

Te puede interesar:

Los anteojos inteligentes de Meta y Ray-Ban que permiten traducir conversaciones en tiempo real

La postura de Gran Bretaña

Reino Unido planea abordar el tema del abuso sexual infantil generado por IA en el próximo proyecto de ley de seguridad en línea, obligando a las plataformas de redes sociales a prevenir su difusión.

Ian Hogarth, presidente del grupo de trabajo de IA del Gobierno británico, se mostró preocupado por los desafíos de los modelos de código abierto, que una vez liberados, son difíciles de controlar.