Con el objetivo de proteger la dignidad, intimidad y privacidad de las personas, especialmente mujeres, niñas, niños y adolescentes de la violencia facilitada por las nuevas tecnologías, es importante la regulación de normas que limiten el uso de la Inteligencia Artificial (IA) para estos fines, por lo que en la Comisión de Administración y Procuración de Justicia se aprobó el dictamen de la Iniciativa que reforma el Código Penal en esta materia.
Entendiéndose como inteligencia artificial los programas, aplicaciones, software o tecnología que modifica imágenes, videos, audios o voces, de manera que el resultado alterado luzca auténtico.
El presidente de la comisión legislativa, Guillermo Vega, informó que con esta reforma se sancionará a quien transmita, oferte, divulgue, difunda, publique, reproduzca o intercambie, a través de medios impresos, correo electrónico, redes sociales o cualquier otro medio tecnológico, imágenes, videos o audios de contenido intimo sexual, erótico o pornográfico de una persona que sean distorsionadas, manipuladas o alteradas, haciendo uso de la IA, para crear hechos falsos con apariencia real sin su consentimiento, por lo que se impondrá una pena de 3 a 6 años de prisión, multa de 900 a 1900 veces el valor diario de la UMA por concepto de reparación del daño.
El legislador dijo que esta reforma retoma precedentes, como la Ley Olimpia y el Código Penal federal sobre violación a la intimidad sexual, destacando que el avance tecnológico, en particular la IA ha facilitado nuevas formas de violencia digital, como la creación de contenido sexual falso (deepfakes), o la manipulación de imágenes y audios íntimos. Aclaró que esta iniciativa no busca regular la IA en general, sino delimitar su uso cuando es medio para cometer delitos sexuales.
Por su parte, la diputada Teresita Calzada, presente en esta sesión de trabajo, respaldó esta iniciativa, ya que dijo “el escenario nacional en este tema es grave, pues entre el 2019 al 2023 se abrieron en todo México 8 mil 854 carpetas de investigación por delitos contra la intimidad sexual digital, de las cuales solo dos sentencias y cinco acuerdos reparatorios fueron emitidos y ninguno contempló el uso de inteligencia artificial. Casos emblemáticos como el de el IPN, donde se encontraron más de 166 mil fotografías y 20 mil videos alterados con IA, con fines sexuales, demuestran que la tecnología está siendo utilizada de forma perversa para la explotación digital sin consentimiento, por lo que estas cifras exigen una respuesta clara y efectiva”.
En otro punto del orden del día se aprobó el dictamen de la Iniciativa que reforma la Ley Orgánica de la Fiscalía General del Estado de Querétaro, con el objetivo de que La Dirección de Investigación, dentro de su estructura cuente con una Unidad Central de Delitos Patrimoniales, teniendo a su cargo la investigación de los delitos patrimoniales por su alto grado de complejidad, atendiendo al número de víctimas o afectación social; la cual tendrá los recursos tecnológicos, materiales y humanos necesarios para el cumplimiento de sus atribuciones, conforme la normatividad aplicable y la disponibilidad presupuestaria.
El diputado Guillermo Vega informó que esta iniciativa fue presentada por el fiscal general del Estado, y señaló que, aunque que esta dirección ya cuenta con facultades de investigación, requiere una estructura orgánica permanente y con recursos adecuados tecnológicos, humanos y materiales para hacerla más efectiva.
Por su parte, el diputado Homero Barrera Mcdonald, integrante de esta comisión informó que con esta reforma se está dotando a la fiscalía con capacidad de poder ajustar su estructura y dar respuesta a un reclamo se realizó, como tener una Unidad Central de Delitos Patrimoniales, que, aunque estará supeditada a la Dirección de Investigación, tendrá a su cargo particularmente y de forma especializada la investigación de los delitos patrimoniales.