La cosa se puso seria en el Estado de México, porque el Congreso mexiquense aprobó una reforma que mete mano dura contra quienes usen inteligencia artificial para crear o compartir deepfakes íntimos sin permiso.
Y no es un simple “no lo hagan”, sino que ahora la bronca puede llegar hasta cinco años de prisión y multas que suben a 500 UMA, o sea más de 56 mil pesos. Todo esto se mete directamente al Código Penal estatal, dejando claro que ya no hay espacio para hacerse el desentendido cuando se manipula la imagen de alguien.
Los deepfakes, según explica la Unesco, son materiales creados o alterados con IA que logran imitar voces, gestos o caras con un nivel de detalle que da miedo de lo real que se ven. Y justo ese hiperrealismo es lo que está generando tantos problemas, porque cualquiera puede terminar envuelto en una escena en la que jamás participó.
¿Por qué los deepfakes son un riesgo real?
Aunque al inicio estas tecnologías surgieron como un jueguito experimental, ya sabemos cómo va esto: lo que empieza como curiosidad termina en manos de cualquiera. Con herramientas de IA disponibles para el público, se volvió demasiado fácil generar contenido íntimo falso que afecta la privacidad, la reputación y hasta la identidad digital de las personas.
El Congreso del Edomex tomó en serio los testimonios de especialistas que advirtieron que distinguir entre un video falso y uno real es cada vez más complicado. La difusión masiva en redes solo multiplica el daño, así que los legisladores decidieron crear un marco legal que permita actuar desde la creación, el almacenamiento y la distribución del material manipulado. La idea es frenar el uso nocivo de estas herramientas que pueden alterar la vida de cualquiera con solo unos clics.
¿Qué castigos aplicarán a quienes los produzcan o difundan?
La nueva reforma establece que cualquier persona que genere, modifique, comparta o incluso conserve imágenes, videos o audios de índole sexual creados artificialmente sin la autorización expresa de la persona afectada será sancionada. Esto incluye edición profunda, reemplazo de rostros, mezcla de voces o cualquier procedimiento que dé como resultado escenas inexistentes presentadas como reales.
Los legisladores resaltan que esta medida se suma a esfuerzos similares en otras partes del mundo donde el debate sobre la ética de la IA está más vivo que nunca. Una vez que los cambios se publiquen en la Gaceta del Gobierno, las autoridades podrán iniciar investigaciones cuando haya denuncias relacionadas con deepfakes íntimos generados sin consentimiento. En pocas palabras: ahora sí habrá consecuencias claras y contundentes.