- El Congreso de la Ciudad de México aprobó un Punto de Acuerdo dirigido a la SSC y SEMUJERES contra la generación o manipulación de imágenes
El Congreso de la Ciudad de México hizo un llamado a las secretarías de Seguridad Ciudadana (SSC) y de Mujeres (SEMUJERES), para que fortalezcan sus acciones de prevención, atención, orientación e investigación frente a la violencia digital, sobre todo la que afecta a este sector de la población mediante la generación o manipulación sin su consentimiento de contenidos íntimos o sexuales con inteligencia artificial (IA).
En la Sesión Ordinaria de este martes, el diputado Ángel Augusto Tamariz Sánchez presentó un Punto de Acuerdo en ese sentido, que fue aprobado por el Pleno Legislativo, tras un intenso debate.
Desde la tribuna, el legislador de MORENA resaltó la necesidad de que las mujeres conozcan las rutas institucionales de atención, así como de orientación y acompañamiento, frente a las agresiones que sufren por la difusión de imágenes íntimas o sexuales falsas que son generadas con IA.
Explicó que actualmente cualquier persona puede tomar una fotografía ordinaria de una vecina o una compañera de trabajo, o también obtenerla de sus redes sociales, y con una instrucción sencilla usar herramientas para crear representaciones falsas, que les generan afectaciones en su vida.
“El hecho de que estas imágenes sean simuladas no elimina ni disminuye el daño, pues sexualizar artificialmente a una mujer sin su consentimiento es una agresión directa que vulnera su dignidad, intimidad, privacidad, paz, tranquilidad e incluso su seguridad”, subrayó.
El representante popular reconoció que si bien la Ciudad de México dio un paso histórico con la llamada “Ley Olimpia”, al sancionar la violencia digital, la utilización de la inteligencia artificial plantea un nuevo desafío.
En ese contexto, recordó que en octubre de 2023 estudiantes del Instituto Politécnico Nacional (IPN) denunciaron la manipulación de sus fotografías para generar contenidos sexuales, por parte de un compañero. Este caso, agregó, evidenció los retos técnicos de víctimas y autoridades para rastrear el origen de una imagen, preservar los metadatos y comprobar la intervención de la IA, para definir las capacidades probatorias ante el hecho.
Tamariz Sánchez precisó que su propuesta no busca tipificar nuevos delitos ni entorpecer el trabajo de las comisiones del Congreso capitalino que ya analizan 12 iniciativas de reforma penal sobre este tema. Su objetivo, dijo, es que el aparato del Estado apoye desde la prevención y la administración, optimizando y articulando las capacidades técnicas y de atención ya existentes, sin crear nuevas burocracias.
Al respecto, destacó el ciberpatrullaje especializado y la determinación de evidencia por parte de la Unidad de Policía Cibernética de la SSC, en coordinación con la Línea SOS Mujeres, las Unidades LUNA y la Red de Abogadas de las Mujeres de la SEMUJERES.
El morenista sostuvo que la tecnología no es neutral, bajo el argumento de que los algoritmos tienen dueños, responden a intereses corporativos y buscan monetizar la atención y los datos de las personas. Derivado de ello, planteó la necesidad de regular la IA con conocimiento técnico y ético.
Como parte del debate, subieron a tribuna la diputada Brenda Fabiola Ruiz Aguilar, Vicecoordinadora del Grupo Parlamentario de MORENA, y el diputado Ricardo Rubio Torres, integrante de la Bancada del PAN.
La congresista sostuvo que la violencia contra la mujer tiene que ser repudiada en todas sus formas, y que se debe contar con mayores caminos institucionales para defender a este grupo poblacional contra cualquier tipo de violencia.
En su turno, Ricardo Rubio comentó que recientemente propuso una iniciativa en materia de alfabetización digital, cuyo objetivo es ayudar a que niñas, niños y jóvenes utilicen progresivamente la inteligencia artificial con responsabilidad, ética y de forma adecuada.