La facilidad de acceso a sistemas de inteligencia artificial que permiten la creación de deepfake pornográficos está generando una nueva forma de violencia digital contra mujeres y niños. La académica Claudia López Moncada, de la Universidad Técnica Federico Santa María y del Centro Nacional de Inteligencia Artificial (CENIA), advierte sobre los riesgos de estas tecnologías, que pueden ser usadas por personas de casi cualquier edad para crear imágenes falsas difíciles de eliminar permanentemente de Internet.
López Moncada señala que la proliferación de estas imágenes representa una amenaza de agresión sexual en el mundo virtual, y subraya la necesidad de mecanismos de control más efectivos, tanto desde la educación familiar y escolar como desde el Estado. “Este es un fenómeno invisibilizado y la única forma de actuar mejor es implementar formas más justas para proteger los derechos de los niños, niñas, adolescentes y mujeres”, afirmó.
El tema cobró relevancia pública a raíz de un incidente en el Colegio Saint George de Santiago, donde un grupo de estudiantes utilizó inteligencia artificial para crear y viralizar imágenes falsas de siete compañeras, lo que llevó a acciones legales. Este caso no es aislado, y se han reportado situaciones similares en Chile y en otros países.
Responsabilidades Compartidas
López Moncada critica no solo a los estudiantes involucrados, sino también a los adultos y al sistema que permiten la existencia y comercialización de estas tecnologías. “Es preocupante que exista una tecnología cuyo único fin sea desnudar cuerpos vestidos. Me preocupa que alguien decidiera crearla y que se comercialice en aplicaciones accesibles desde cualquier teléfono”, comentó.
La académica subraya que esta problemática es producto de una cultura que tolera y reproduce la violencia de género. Además, denuncia la falta de una fiscalización adecuada por parte de las aplicaciones que ofrecen estos productos, ya que muchas veces no verifican la edad de los usuarios y permiten su uso indiscriminado.
Un mundo sexista
López Moncada destaca que, aunque las aplicaciones de deepfake porn pueden usarse para cualquier cuerpo, se emplean predominantemente para desnudar cuerpos femeninos. “Vivimos en un mundo muy sexista y la industria de la tecnología está muy masculinizada, lo que contribuye a la existencia de estos productos”, señaló.
Añadió que las instituciones responsables de las regulaciones y políticas públicas han permitido durante décadas que la violencia de género continúe sin un castigo adecuado para los victimarios ni una reparación significativa para las víctimas. “Es necesario un cambio urgente en este ámbito”, concluyó.
La académica hace un llamado a la acción conjunta de la sociedad, las instituciones y el Estado para proteger a las mujeres y a los menores de edad de este tipo de violencia digital, y para regular más estrictamente las tecnologías que facilitan estas agresiones.
Martes / 22:30 / CNN Chile
Deja tu comentario