Ante el auge del porno con IA, esta adolescente intenta proteger a otras víctimas

Cuando Francesca Mani, de 15 años, se enteró de que alguien había utilizado inteligencia artificial para poner su cara en una imagen del cuerpo desnudo de otra persona, quedó conmocionada. Al salir del despacho de la orientadora, que acababa de decirle que ella y otras compañeras eran víctimas de deepfake porn, dice que vio a un grupo de alumnas llorando en el pasillo. Luego vio a un grupo de chicos riéndose de las chicas que lloraban y, según ella, fue entonces cuando pasó de la tristeza a la rabia.

A medida que aumentan las capacidades de la inteligencia artificial, Francesca no es la única víctima del deepfake porn, que se crea superponiendo la cara de una persona sobre el cuerpo de otra para que parezca que están manteniendo relaciones sexuales. El deepfake porn es una forma de pornografía cada vez más popular que, al parecer, se dirige sobre todo a las mujeres. Las víctimas suelen carecer de recursos legales, ya que la ley va por detrás de la cultura y el ritmo de los avances tecnológicos. Pero si Francesca, estudiante de segundo curso de secundaria en Nueva Jersey, tiene algo que ver, eso cambiará pronto. Ella y su madre están trabajando con legisladores de todo el país para presentar proyectos de ley que protejan a las víctimas del deepfake porn.

La madre de Francesca, Dorota Mani, dice que dudó cuando su hija expresó el deseo de convertir su experiencia en un cambio. "Fue difícil porque sabía que tenía que ser consciente de las consecuencias [de hablar]", dice Mani. "Y que habría gente que la apoyaría mucho y gente que estaría en su contra. Me dijo: 'Lo entiendo, mamá, no soy una niña'. En mi cabeza pensaba: 'Tienes 14 años'". Pero Francesca dijo que se negaba a avergonzarse de lo que le había pasado, porque no había hecho nada malo. "[Dijo] 'la gente que lo hizo debería avergonzarse'". Dorota cree que la vergüenza de ser víctima del porno con IA hace que no sean muchas las personas que lo denuncian, lo que puede traducirse en una menor legislación al respecto. Todas las historias que lee sobre otras víctimas utilizan un seudónimo en lugar de su nombre real para protegerlas aún más, pero Francesca insiste en utilizar su nombre. "Nadie podrá utilizarlo contra mí", afirma.

El porno deepfake está traumatizando a las víctimas, pero la mayoría no puede hacer nada al respecto

Casos como el próximo juicio por porno de venganza de Blac Chyna pueden "volver a traumatizar" a las víctimas de violencia sexual, según un experto legal

Las víctimas de la pornografía falsa buscan protección federal a través de la legislación Las víctimas de la pornografía falsa denuncian la falta de protección contra los abusadores.

Tras el incidente, Francesca creó un sitio web con información y recursos para otras víctimas y se puso en contacto con políticos para suplicarles que introdujeran leyes que protegieran a personas como ella. Uno de esos políticos fue el representante Joe Morelle (demócrata de Nueva York), que en mayo presentó en la Cámara de Representantes la Ley de Prevención de la Falsificación de Imágenes Íntimas. Según The Hill, "el proyecto de ley... tipificaría como delito compartir imágenes íntimas alteradas digitalmente, daría a las víctimas una vía de acción para buscar alivio y mantendría su anonimato".

El diputado Kean también ha presentado la Ley de Etiquetado de IA de 2023, que instituiría etiquetas y divulgaciones para los contenidos generados por IA. En una declaración que acompaña a la publicación del proyecto de ley, el representante Kean dijo: "Mi corazón está con los padres de estos estudiantes y las víctimas de Westfield High School que se han visto afectados por este incidente. Mi equipo y yo hemos hablado con las familias implicadas en este incidente para encontrar una solución que impida que algo así vuelva a ocurrir."

Hablar con políticos como Reps. Kean y Morelle ha sido un punto brillante para Francesca. "[Lo mejor] es saber que estoy haciendo un cambio", dijo. "Definitivamente [las leyes federales y estatales] se harán realidad. Sólo quiero proteger a la gente porque yo no estaba protegida cuando me ocurrió esto. Así que ahora tengo que proteger [a otros] cuando les ocurra".