Experto alemán: la pornografía infantil con IA plantea nuevos desafíos

El material creado con inteligencia artificial (IA) plantea nuevos retos a la hora de combatir la pornografía infantil, explicó hoy Thorsten Nees, fiscal jefe en el Centro de Ciberdelincuencia (CCZ) del estado federado alemán de Baden-Wurtemberg.

"Hasta ahora apenas existe jurisprudencia sobre el tema", señaló. El centro, adscrito a la Fiscalía General de la ciudad de Karlsruhe, tramita una cantidad de casos de dos cifras y logró una de las primeras condenas a nivel federal en este ámbito.

Según el Código Penal, el contenido pornográfico infantil ficticio también es pornografía infantil. Sin embargo, depende de si el material se puede reconocer claramente como artificial a primera vista desde la perspectiva de un observador medio, explicó el fiscal jefe Mirko Heim del CCZ, poniendo como ejemplo los mangas. En ese caso, solo cabe una pena por la difusión y distribución.

Si ya no resulta tan fácil de determinar, la posesión también puede castigarse con varios años de pena privativa de libertad. El problema es que "lo que resulta realista es una cuestión de interpretación", según explicó Nees. Esto siempre conlleva incertidumbres jurídicas.

Un equipo de investigación de la Universidad de Passau concluyó en un análisis que, en determinadas circunstancias, los operadores de herramientas de IA también podrían ser procesados penalmente por complicidad, por ejemplo.

Los agresores utilizan herramientas disponibles libremente

Los casos de pornografía infantil y juvenil generada por IA están aumentando considerablemente, señalaron los expertos. "Esto se debe también a que entretanto ya no se requiere ninguna experiencia informática especial para crear dichos contenidos mediante software de IA de libre acceso", explicó Nees. Los agresores utilizan habitualmente herramientas de IA disponibles libremente en Internet. El CCZ no facilitó cifras concretas.

Según los hallazgos de los investigadores, a los agresores les importa sobre todo satisfacer su interés sexual. A veces, estos contenidos se utilizan para perjudicar a la persona afectada o representada, respectivamente.

Para reconocer que una imagen ha sido generada artificialmente, resultan útiles en particular las instrucciones o prompts y los certificados de origen. Sin embargo, en general, esto es cada vez más difícil, reconoció Nees. Si los contenidos se alojan de forma anónima, cifrada o en el extranjero, esto puede dificultar la identificación del agresor.

¿Por qué es importante distinguir si es IA o no?

Según los datos, el hecho de que se trate de pornografía infantil real o generada por IA no solo es importante para la actuación de las autoridades investigadoras o en lo que respecta a la punibilidad. En el marco de la individualización de la pena, también puede influir el hecho de que no se haya abusado de un niño existente en la realidad.

No obstante, Heim subrayó, por ejemplo, que los niños cuya imagen fue utilizada se sienten abusados y avergonzados de manera similar a una víctima de abuso real. Por otra parte, existe el peligro de que un agresor quiera más con el tiempo y pase a la pornografía infantil real o agreda a un niño en la vida real. "Cada imagen generada por IA puede reducir el umbral de inhibición", afirmó Heim.

En términos similares se había expresado a principios de año la comisionada del Gobierno alemán contra el abuso de menores, Kerstin Claus. "Dichas imágenes son sumamente problemáticas porque no solo representan la violencia sexualizada, sino que la reproducen y normalizan", dijo.