“Porn deepfakes”: denuncian que alumnos de una escuela crearon y difundieron imágenes sexuales de sus compañeras

Unnuevo caso de porn deepfakes en escuelas reabre la discusión sobre la urgente necesidad de regulaciones en el uso y alcance de la inteligencia artificial. Un grupo de padres denunció que al menos 50 niñas del Colegio Modelo Lomas, ubicado en Lomas de Zamora, fueron víctimas de un grupo de alumnos que utilizó la inteligencia artificial para crear fotos desnudas de ellas, que luego difundieron y comercializaron esas imágenes en sitios web y plataformas de adultos.

Los padres de las niñas, que después de protestar fueron recibidos por autoridades escolares, aseguran que la institución intentó silenciar a las alumnas y ocultar el hecho. Por el momento, la escuela identificó a los cuatro alumnos responsables y decidió que continuaran la cursada de forma virtual.

Sentada estudiantil en la puerta

La puerta de entrada al Colegio Modelo Lomas amaneció bloqueada este miércoles desde temprano por una “sentada” estudiantil, una protesta que encaran estudiantes y padres contra la institución educativa.

Según denunciaron, un grupo de alumnos de secundaria del establecimiento tomaron fotos de sus compañeras de tercer y cuarto año, para modificarlas con inteligencia artificial para que se vieran desnudas, y difundieron y comercializaron esas imágenes en sitios web y plataformas de adultos.

Las víctimas afirman que el contenido circuló indiscriminadamente entre compañeros de su propia institución y de otras casas de estudio.

Asimismo, de acuerdo con la denuncia que hicieron los padres de las niñas, la escuela, lejos de intervenir y aplicar un protocolo contra la violencia de género, disminuyó la seriedad del problema e intentó ocultarles a los adultos el reclamo que le habían hecho las estudiantes un mes antes.

Micaela, madre de una de las víctimas, aseguró en declaraciones televisivas que el colegio no accionó de ninguna manera tras enterarse por las propias damnificadas de lo sucedido.

“Esto les viene impactando hace un mes a las chicas. El colegio les dice que se callen, las callan, ellas llorando por los recreos, les decían que no dijeran nada para que no nos llegue a los papás”, aseveró.

La mujer contó que los padres notaron que en las últimas semanas, sus hijas actuaban distinto: estaban más calladas, ocultaban el celular, querían estar solas. Después de varios días se animaron a hablar y contar la situación que estaban atravesando.

“La escuela no nos comunicó lo que estaba pasando. ¿Cómo puedo ayudar yo a mi hija? Si les pasaba algo en el mientras tanto no íbamos a saber el por qué. Nos dijeron que no nos iban a atender porque no tenían tiempo”, aseguró Micaela, sobre el motivo de la “sentada” de este miércoles. Según trascendió, a partir de la protesta de esta mañana lograron que los recibieran para dialogar sobre lo sucedido.

Y concluyó: “Es perverso. No sabemos a dónde esto llegó, si pueden venir a buscar a mi nena. Tienen nombre, apellido y el colegio”.

Los padres presentaron una demanda colectiva en la UFI 6 de Responsabilidad Penal Juvenil de Lomas. Las familias reclaman que se determine quiénes participaron de la creación y difusión del material, cómo se obtuvieron las fotografías y hasta dónde llegaron las imágenes y videos generados con inteligencia artificial.

Un hecho similar ocurrió en agosto con alumnas del Colegio Nacional de Buenos Aires (CNBA) y de la Escuela Superior de Comercio Carlos Pellegrini (ESCCP). Las jóvenes denunciaron que un grupo de alumnos usaron imágenes de suyas para generar deepfakes con inteligencia artificial para comercializarlas. Si bien en ese caso no se formalizó una denuncia judicial, las autoridades abrieron una investigación por violencia sexual digital y se activaron los protocolos contra la violencia de género. En tanto, los estudiantes señalados, todos menores de edad, fueron suspendidos.

Por el nuevo Régimen Penal Juvenil, dos implicados son punibles

En este nuevo caso paradigmático, dos menores de 15 años que estarían implicados en la denuncia fueron imputados porque el nuevo Régimen Penal Juvenil lo permite. La Justicia no dio detalles por el momento de la carátula de la causa que les pesa en su contra.

“Todo surgió porque entre los implicados uno pidió plata a los demás a cambio de no delatarlos. Eso creció y se enteraron las alumnas”, indicaron.

En Argentina, desde 2023 rige la Ley 27.736, conocida como “Ley Olimpia”. La legislación incluyó a la violencia digital entre las modalidades de violencia contra las mujeres postuladas en la anterior Ley 26.485 de “Protección Integral para Prevenir, Sancionar y Erradicar la Violencia contra las Mujeres”. En rigor, busca garantizar “dignidad, reputación e identidad, incluso en los espacios digitales”. Sin embargo, estas prácticas digitales todavía no están tipificadas como delito.