Una jueza ordenó bloquear un sitio web que genera imágenes íntimas falsas con Inteligencia Artificial

La jueza de Corrientes, Marta Rut Legarreta, ordenó al ENACOM el bloqueo inmediato de un sitio web argentino que utilizaba inteligencia artificial para generar imágenes de desnudez falsas con rostros reales sin consentimiento.

El Ministerio Público Fiscal provincial explicó que la resolución se emitió tras tomarse conocimiento del uso de esta herramienta tecnológica y su difusión a través de WhatsApp.

La jueza advirtió que “el daño concreto se produjo por el funcionamiento de esta aplicación, que permite crear y compartir contenido sexual simulado sin verificar edad ni consentimiento”. 

Legarreta basó su decisión en los riesgos concretos que representa el entorno digital cuando no existen filtros preventivos, especialmente para niñas y adolescentes, advirtiendo que “el entorno digital no garantiza barreras efectivas de edad ni consentimiento, lo que expone especialmente a niños y adolescentes a formas modernas de violencia simbólica, digital y psicológica”.

e este modo, se solicitó de manera urgente la intervención del ENACOM para que concrete el bloqueo del acceso desde Argentina al sitio web de la aplicación y a sus servidores DNS.

Además, se ordenó la notificación a la Unidad Fiscal Especializada en Ciberdelincuencia (UFECI) para que colabore en las investigaciones e impulse medidas que permitan identificar a los responsables. 

“La medida regirá hasta tanto se acredite el cese del riesgo de daño, priorizando el interés superior de las adolescentes afectadas”, anunciaron fuentes judiciales.

Inicio de la causa y pericias

La causa se inició a partir de la denuncia de un progenitor, quien aportó el nombre de la aplicación utilizada para manipular imágenes de adolescentes, generando contenido sexual falso.

La herramienta digital que, según el informe del Área de Seguridad Informática del Poder Judicial, “emplea modelos avanzados de inteligencia artificial para eliminar digitalmente ropa en fotografías y simular imágenes íntimas”.

En el expediente se detalla que el contenido habría sido difundido por WhatsApp.

El informe pericial expresa que se utilizó modelos avanzados de inteligencia artificial para simular la eliminación digital de ropa en fotografías reales, generando imágenes manipuladas que violan la privacidad y dignidad de las personas.

También se advirtió que el sitio carece de controles de edad, almacenamiento seguro y transparencia sobre sus desarrolladores, lo que agrava los riesgos de abuso, acoso y difusión no consentida de contenido íntimo.