La diputada local de Morena, María Candelaria Ochoa Ávalos, presentó una iniciativa para tipificar la fabricación, difusión y comercialización ilícita de contenidos sintéticos creados mediante inteligencia artificial, conocidos como deepfakes en el estado de Jalisco.
La iniciativa presentada por la diputada de Morena, para regular contenidos sintéticos, es decir, que fueron creados con inteligencia artificial, no solo busca castigar fraudes o extorsiones mediante deepfakes. También propone penas de prisión para quienes produzcan, difundan o comercialicen imágenes, audios o videos generados con IA que simulen la identidad de una persona sin su consentimiento.
El proyecto plantea adicionar al Código Penal de Jalisco un capítulo denominado “Fabricación y Difusión Ilícita de Contenido Sintético”, dentro del título de “Delitos contra la Indemnidad e Integridad Digital”.
De aprobarse, la producción ilícita de contenido sintético sería sancionada con dos a cuatro años de prisión y multa de 200 a 400 veces la Unidad de Medida y Actualización. La difusión tendría una pena mayor: de tres a seis años de cárcel y multa de 300 a 600 UMA. La comercialización se castigaría con cuatro a ocho años de prisión y multa de 400 a 800 UMA.
La estructura de penas revela uno de los puntos más delicados de la propuesta: compartir un contenido sintético o generado con IA, podría castigarse con más severidad que crearlo.
De acuerdo con el texto de la iniciativa, cometería producción ilícita quien utilice sistemas de inteligencia artificial, algoritmos de aprendizaje profundo o cualquier tecnología de síntesis digital para generar, fabricar o simular de forma hiperrealista la voz, el rostro, la imagen o la identidad biométrica de una persona física, o elementos de identidad de una persona jurídica, sin consentimiento explícito, con conocimiento de la inautenticidad del contenido y con la finalidad de causar un perjuicio personal, moral, económico o político.
La difusión ilícita alcanzaría a quien, con conocimiento de la naturaleza artificial del contenido y de la falta de consentimiento de la persona afectada, lo difunda, publique, comparta, transmita o ponga a disposición de terceros mediante medios de comunicación masiva, plataformas digitales, redes sociales o cualquier sistema de transmisión de datos, siempre que el material sea susceptible de inducir razonablemente a error al público respecto de la autenticidad del hecho.
La iniciativa afirma que no busca convertir al Estado en árbitro de la verdad ni penalizar la difusión de información bajo criterios subjetivos de falsedad. Sin embargo, sustituye ese problema por otro: permitir que autoridades, fiscalías y jueces determinen cuándo una simulación digital causa perjuicio, cuándo puede inducir a error, cuándo una parodia es suficientemente clara y cuándo una reproducción periodística es legítima.
El proyecto sostiene que se aparta del modelo de San Luis Potosí, criticado por emplear conceptos ambiguos como “generar alarma pública” u “ofrecer información falsa”. Pero la propuesta jalisciense conserva una arquitectura similar bajo nuevas categorías: ya no se perseguiría la falsedad en abstracto, sino la simulación no consentida de identidad, el perjuicio moral o político y la atribución de conductas o expresiones mediante contenidos sintéticos.
La diferencia no elimina el riesgo de censura. Solo cambia el tipo de evaluación que hará el Estado.
Consentimiento previo para representar a personas públicas
Uno de los problemas centrales es el requisito de consentimiento explícito. En principio, la protección de la identidad puede parecer razonable frente a fraudes, extorsiones o contenidos íntimos no consentidos. Pero aplicada de manera general a imágenes, audios o videos generados con IA, esa exigencia puede operar como una licencia previa para representar a personas públicas.
La iniciativa no se limita a contenidos sexuales, patrimoniales o de suplantación utilizados para obtener un beneficio económico. También incluye perjuicios morales y políticos.
Esa redacción abre la puerta a perseguir representaciones críticas, satíricas o incómodas de funcionarios, legisladores, empresarios o instituciones. Una imagen sintética de una persona pública utilizada para denunciar, ridiculizar o criticar su conducta política difícilmente contaría con consentimiento explícito. Si además la persona representada afirma que existe perjuicio moral o político, la expresión podría quedar bajo amenaza penal.
La propuesta promete excluir la crítica política, la sátira, la parodia, la caricaturización, los memes, el debate público, los contenidos educativos y las investigaciones académicas. Sin embargo, esas exclusiones están condicionadas.
El texto señala que no habrá delito cuando el contenido tenga una finalidad exclusiva de parodia, sátira, caricaturización, meme o expresión artística, siempre que por el contexto de la publicación no induzca a un error manifiesto al espectador medio respecto a la autenticidad histórica del hecho.
También excluye contenidos que incorporen desde su origen una leyenda visible, audible y permanente que indique que fueron generados artificialmente mediante inteligencia artificial. Y protege el ejercicio legítimo del derecho a la información y el periodismo de investigación, siempre que los comunicadores acompañen la reproducción del material con contextualización sobre su naturaleza sintética, es decir que se transaprente que el contenido fue creado con IA.
Esas excepciones no son absolutas. Dependen de conceptos interpretables: finalidad exclusiva, espectador medio, error manifiesto, ejercicio legítimo del periodismo y debida contextualización.
En la práctica, una persona acusada tendría que convencer a la autoridad de que su publicación era un meme, una sátira, una obra artística o una investigación periodística válida. La protección llegaría después de la amenaza penal, no antes.
El Estado decidiría qué periodismo es legítimo
La fórmula sobre periodismo es especialmente delicada. En México, el ejercicio periodístico no depende de una licencia, título profesional, registro estatal o pertenencia a un medio reconocido. Sin embargo, la iniciativa solo excluye el “ejercicio legítimo” del derecho a la información y el periodismo de investigación.
Eso deja una pregunta abierta: ¿quién determinará qué periodismo es legítimo?
La redacción puede afectar a medios independientes, periodistas freelance, investigadores ciudadanos, activistas, comunicadores y usuarios que documenten un contenido generado con IA para denunciarlo o analizarlo. Si una autoridad considera que la contextualización fue insuficiente, que el contenido indujo a error o que la publicación no formaba parte de una investigación legítima, la excepción podría no aplicarse.
El resultado sería un modelo de autorización judicial retrospectiva. Primero se investiga, se denuncia o se imputa; después la persona deberá probar que su publicación estaba protegida por libertad de expresión.
Ese riesgo aumenta porque la difusión se sanciona con penas superiores a la producción. La iniciativa no solo castiga a quien fabrica un contenido sintético. Castiga con más años de prisión a quien lo comparte.
Plataformas protegidas, usuarios castigados
La iniciativa reconoce los límites de la jurisdicción local frente a plataformas digitales transnacionales. Por ello elimina la responsabilidad penal solidaria automática para redes sociales y servicios de alojamiento, y la sustituye por deberes de colaboración con autoridades ministeriales y judiciales.
Las plataformas quedarían obligadas a preservar evidencia digital, resguardar metadatos y códigos hash, y cumplir órdenes judiciales de remoción, bloqueo o inserción de alertas de autenticidad.
Pero el proyecto también establece una pena de uno a tres años de prisión y multa de 100 a 200 UMA para administradores de canales, grupos o comunidades digitales de acceso masivo en aplicaciones de mensajería que, tras ser notificados formalmente por autoridad judicial sobre el carácter delictivo y simulado de un archivo, se nieguen a eliminarlo dentro del espacio bajo su control.
La propuesta exceptúa a plataformas de mensajería con cifrado de extremo a extremo en su infraestructura técnica, pero mantiene el riesgo sobre administradores de comunidades digitales. De nuevo, el peso penal se desplaza hacia personas concretas: usuarios, moderadores, administradores y comunicadores.
Las grandes plataformas colaborarían con la policía y conservarían su modelo de negocio. La ciudadanía cargaría con la amenaza de cárcel.
Una ley contra la circulación
El diseño del proyecto revela que el problema no es solamente la producción de contenidos falsos, sino su circulación pública. La difusión tiene una pena mayor que la fabricación. Las plataformas deben colaborar para preservar evidencia y retirar material. Los administradores de comunidades pueden ser castigados si no eliminan archivos.
La iniciativa se presenta como una protección frente a fraudes, extorsiones y sabotajes reputacionales. Pero muchas de esas conductas ya cuentan con vías jurídicas: fraude, extorsión, amenazas, daño moral, violencia digital o suplantación de identidad en contextos específicos.
La novedad de la IA modifica la escala, velocidad y apariencia de las simulaciones, pero no inventa por sí misma el engaño, la extorsión ni el daño reputacional. Desde los primeros años de la fotografía han existido montajes y manipulaciones de imágenes. Después llegaron la edición digital, Photoshop, los videos alterados, las cuentas falsas y los audios editados.
Crear un delito autónomo basado en la tecnología utilizada desplaza el centro de la conducta al medio. El Estado ya no sancionaría solamente el fraude, la extorsión o la amenaza, sino la fabricación y circulación de una representación sintética no consentida.
Esa diferencia importa. Un contenido crítico, satírico o incómodo puede no constituir fraude ni extorsión, pero aun así quedar bajo investigación si una autoridad considera que imita de forma realista a una persona, no cuenta con consentimiento y causa un perjuicio moral o político.
San Luis Potosí como advertencia
La propia iniciativa toma como antecedente la reforma aprobada en San Luis Potosí, aunque afirma separarse de sus deficiencias técnicas. El texto reconoce que el modelo potosino detonó un debate por utilizar conceptos como “generar alarma pública” u “ofrecer información falsa”, debido al riesgo para la libertad de expresión y el ejercicio periodístico.
Ese reconocimiento es importante porque San Luis Potosí ya mostró cómo una legislación presentada para combatir deepfakes puede terminar utilizada contra comunicadores y voces críticas.
La propuesta jalisciense intenta evitar esa crítica mediante conceptos que llama “técnico-objetivos”: contenido generado artificialmente, simulación digital de identidad y atribución falsa de expresiones o conductas. Pero esos conceptos no eliminan la discrecionalidad. La trasladan a otro terreno.
El Estado tendría que decidir si un contenido es hiperrealista, si induce a error, si hubo finalidad de causar perjuicio, si la víctima otorgó consentimiento, si la publicación era una sátira reconocible, si el periodismo fue legítimo y si la contextualización fue suficiente.
Ninguna de esas decisiones es puramente técnica.
Castigo en lugar de política pública
Los daños provocados mediante contenidos sintéticos deben atenderse, especialmente en casos de fraude, extorsión, violencia sexual digital, amenazas y suplantaciones utilizadas para obtener beneficios. Pero una política pública efectiva no se reduce a crear nuevos delitos.
Se requieren capacidades periciales, protocolos de preservación de evidencia, canales rápidos de denuncia y retiro de contenido, reparación para víctimas, alfabetización digital, mecanismos de rectificación y límites claros para evitar que las normas se utilicen contra crítica política, investigación o periodismo.
La iniciativa prevé que la Fiscalía de Jalisco y el Instituto Jalisciense de Ciencias Forenses implementen, en 180 días, programas obligatorios de especialización en informática forense y aseguramiento criptográfico de metadatos aplicados a inteligencia artificial generativa.
Ese componente puede ser útil. Pero queda subordinado a una arquitectura penal amplia que convierte la representación sintética de identidad y su circulación en nuevas conductas castigadas con cárcel.
Cuando la respuesta principal del Estado es ampliar el Código Penal, la política pública queda reducida al castigo.
El riesgo de una ley disciplinaria
La propuesta de Jalisco no puede leerse solamente como una norma contra deepfakes. Es también una iniciativa sobre quién puede representar a una persona pública, bajo qué condiciones, con qué etiquetas, en qué contexto y con qué riesgo penal.
El documento afirma que protege la crítica, la parodia, los memes y el periodismo. Pero lo hace mediante excepciones condicionadas que podrían ser interpretadas por fiscalías y jueces después de iniciada una investigación.
El riesgo no está únicamente en una eventual sentencia condenatoria. Está en la denuncia, la imputación, los costos de defensa, la amenaza de prisión, la remoción de contenidos y el efecto inhibidor sobre quienes usan herramientas de IA para crear sátira, crítica política, visualizaciones, investigaciones o materiales periodísticos.
La experiencia mexicana muestra que las leyes penales ambiguas no siempre se aplican para proteger a las personas más vulnerables. Con frecuencia sirven a quienes tienen más capacidad para denunciar, presionar y activar instituciones.
En ese sentido, la iniciativa puede operar como una herramienta de disciplina: una vía para que personajes públicos, autoridades, empresas o instituciones persigan contenidos sintéticos que consideren ofensivos, perjudiciales o políticamente dañinos.
Jalisco necesita discutir los riesgos reales de los deepfakes. Pero hacerlo no exige crear un régimen penal que castigue con más severidad compartir una imagen sintética que producirla, ni entregar al Estado la facultad de decidir qué meme, qué sátira y qué periodismo son legítimos.
La pregunta no es si la inteligencia artificial puede causar daños. La pregunta es si esos daños deben enfrentarse con justicia, capacidades institucionales y garantías, o si la IA será utilizada como pretexto para ampliar el poder de castigar.
