ORDENAN BLOQUEAR WEB QUE CREA IMÁGENES DE DESNUDEZ CON IA

La medida establecida por la doctora Marta Rut Legarreta regirá hasta tanto se acredite el cese del riesgo de daño, priorizando el interés superior de las adolescentes afectadas.
La medida de protección se dictó en el marco de una causa por vulneración de derechos de adolescentes. La jueza Marta Rut Legarreta ordenó al ENACOM el bloqueo inmediato de un sitio web que estaba siendo usado en territorio argentino. La aplicación utiliza inteligencia artificial para generar imágenes de desnudez falsas con rostros reales sin consentimiento y que fueron difundidas a través de whatsapp.
La aplicación cuestionada permite manipular fotografías reales, simulando la eliminación de ropa mediante técnicas de Inteligencia Artificial sin verificar la edad ni consentimiento de las personas involucradas.
El fallo se apoya en normativas como la Ley Olimpia (N° 27.736), que reconoce la violencia digital como una forma de violencia de género.
Además del bloqueo del sitio, la jueza solicitó al ENACOM la intervención sobre los servidores DNS utilizados por la aplicación y notificó a la Unidad Fiscal Especializada en Ciberdelincuencia (UFECI) para colaborar en la investigación y localización de los responsables.
Un informe técnico elaborado por el Área de Seguridad Informática del Poder Judicial de Corrientes, a cargo del licenciado José Nicolás Bruzzo, detalló que la herramienta emplea modelos avanzados de inteligencia artificial que permite la eliminación digital de ropa en imágenes reales, generando contenido manipulado que vulnera la privacidad, dignidad e identidad de las personas, agravando los riesgos de abuso, acoso y exposición no consentida.