Inteligencia artificial generativa y deepfakes en redes sociales: riesgos algorítmicos y responsabilidad jurídica en México

Autores: Mario Jesús Aguilar Camacho, Alma Rosa Tovar Vega, Eduardo Barrera Arias

DOI: https://doi.org/10.25058/1794600X.2678

This article aims to analyze legal and ethical challenges stemming from integrating generative artificial intelligence into social media, focusing on the debate of civil liability and the lack of legal personhood for algorithmic systems.

A qualitative, legal-analytical, and comparative methodology based on documentary review of legal frameworks, case law, and complaints filed with oversight agencies of Mexico and the European Union was followed, in contrast with indexed research output. The authors argue that, given the legal inability of artificial intelligence to be the holder of rights or obligations, legal liability should rest with digital platforms as moral entities, based on the notion of created risk and the duty of oversight.

Findings identify regulatory gaps in Mexican law that leave individuals defenseless against violations of privacy and intellectual property rights. An amendment is proposed to the Mexican legal framework that defines platforms’ strict liability, guaranteeing user’s protection and safeguarding human creativity in the face of unchecked automation.

El objetivo de este trabajo es analizar los desafíos jurídicos y éticos derivados de la integración de inteligencia artificial (IA) generativa en redes sociales, con énfasis en la controversia de su responsabilidad civil y la inexistencia de personalidad jurídica en sistemas algorítmicos.

Se empleó metodología con un enfoque cualitativo, jurídico-analítico y comparativo, basado en revisión documental de marcos normativos, jurisprudencia y quejas ante organismos de control de México y la Unión Europea, contrastado con la producción científica indexada. La discusión sostiene que, ante la incapacidad legal de la IA para ser titular de derechos u obligaciones, la responsabilidad jurídica debe recaer en las plataformas digitales como personas morales, bajo la figura del riesgo creado y el deber de vigilancia.

Los resultados identifican vacíos normativos en la legislación mexicana que generan indefensión ante vulneraciones a la privacidad y a la propiedad intelectual. Se propone una adición al marco jurídico mexicano que delimite la responsabilidad objetiva de las plataformas, garantizando la protección del usuario y la preservación de la creatividad humana frente a la automatización desregulada.

O objetivo deste trabalho é analisar os desafios jurídicos e éticos decorrentes da integração da inteligência artificial (IA) generativa às redes sociais, com ênfase na controvérsia acerca da responsabilidade civil e na inexistência de personalidade jurídica dos sistemas algorítmicos.

Foi empregada uma metodologia de abordagem qualitativa, jurídico-analítica e comparativa, baseada na revisão documental de marcos normativos, jurisprudência e denúncias apresentadas a órgãos de controle do México e da União Europeia, confrontada com a produção científica indexada.

A discussão sustenta que, diante da incapacidade legal da IA de ser titular de direitos e obrigações, a responsabilidade jurídica deve recair sobre as plataformas digitais, enquanto pessoas jurídicas, com fundamento na teoria do risco criado e no dever de vigilância.

Os resultados identificam lacunas normativas na legislação mexicana que geram situações de desproteção diante de violações à privacidade e à propriedade intelectual. Propõe-se uma alteração do marco jurídico mexicano que delimite a responsabilidade objetiva das plataformas, garantindo a proteção dos usuários e a preservação da criatividade humana frente à automação desregulada.

Keywords:generative artificial intelligence, digital social media, civil liability, deepfakes, personal data protection.

Palabras claves: Inteligencia artificial generativa, redes sociales digitales, responsabilidad civil, deepfakes, protección de datos personales.

Palavras-chave:inteligência artificial generativa, redes sociais digitais, responsabilidade civil, deepfakes, proteção de dados pessoais.

Para citar este artículo:

Aguilar Camacho, M., Tovar Vega A., & Barrera Arias, E. (2026). Inteligencia artificial generativa y deepfakes en redes sociales: riesgos algorítmicos y responsabilidad jurídica Revista Misión Jurídica, 19, (31), 147 – 165.


Referencias

Aguilar Pérez, E. (2025). Transformación Jurídica ante la Violencia Digital contra la Mujer en México: Ley Olimpia y Protección de sus Derechos Fundamentales. Ciencia Latina Revista Científica Multidisciplinar, 9(6). doi:10.37811/cl_rcm.v9i6.2

Aguirre-Lanegra, A. J., & Ramos, F. (2025). Deepfakes sexuales y violencia algorítmica: hacia un marco normativo integral de protección de la dignidad digital. Estudios en Derecho a la Información, 11(21). doi:10.22201/iij.25940082e.2026.21.

Arroyo Kalix, J. Á. (2018). Los derechos de la personalidad. México: Universidad Panamericana.

Bharti, A., & Kaur, G. (2025). Exploring the Legal Personality of Artificial Intelligence: Challenges, Opportunities, and Future Directions. Journal of Informatics Education and Research, 5(1). doi:10.52783/jier.v5i1.2252 2

Breceda Pérez, A. (2024). Dignidad Humana y Tecnologías Emergentes: Una Crítica a la Subjetividad Algorítmica. Revista de Derecho y Tecnología, 12(1), 35-58. doi:10.1017/rdt.2024.11

Cabrera Peña, K., & Pérez Arteta, L. (2024). El impacto de la inteligencia artificial en los sistemas jurídicos. (U. d. Norte, Ed.) Revista de Derecho, 62. doi:10.14482/dere.62.980.865

Cámara de Diputados del H. Congreso de la Unión. (24 de abril de 2024). Código Civil Federal. México: Diario Oficial de la Federación. Obtenido de https://www.diputados.gob.mx/LeyesBiblio/pdf/2.pdf

Carrancá y Rivas, R. (2002). Derecho penal mexicano. México: Porrúa.

Chesney, B., & Citron, D. K. (2019). Deepfakes: A looming challenge for privacy, democracy, and national security. California Law Review, 107(6), 1753-1820.doi.org/10.15779/Z38RV0D15J

Citron, D. K., & Chesney, R. (2019). Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. California Law Review. doi:10.2139/ssrn

Collí Ek, V. M., & Pérez Inclán, F. M. (2021). El derecho al libre desarrollo de la personalidad en la doctrina jurisprudencial de la Corte mexicana. (I. d. Jurídicas, Ed.) Cuestiones Constitucionales , 45, 451-478. doi:10.22201/iij.24484881e.2021.45.16671

Comité Económico y Social Europeo [CESE]. (2023). Dictamen sobre la Inteligencia Artificial y la Responsabilidad Civil: Oposición al estatus de personalidad jurídica (2023/C 100/05). Diario Oficial de la Unión Europea, C 100. Obtenido de https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX:52022IE1935

Constitución Política de los Estados Unidos Mexicanos (CPEUM). (2025). Constitución Política de los Estados Unidos Mexicanos. Última reforma publicada en el Diario Oficial de la Federación el 6 de junio de 2025. (C. d. Unión, Ed., & DOF, Recopilador) México. Obtenido de https://www.diputados.gob.mx/LeyesBiblio/pdf/CPEUM.pdf

De Pina Vara, Rafael, & De Pina, Rafael. (2005). Diccionario de Derecho. 29ª ed. México: Porrúa.

Delgado, S., Noxpanco, E., & Medina, E. (2025). ¿Cómo regular el uso de la IA en México? México: UNAM Global.

Díaz Galán, E. C. (2025). La regulación jurídica de la inteligencia artificial en Europa: dos pasos decisivos, aunque insuficientes. Cuadernos de Derecho Transnacional, 17(1). doi:10.20318/cdt.2025.9334

European Commission. (2020). AI Watch: Defining Artificial Intelligence. Joint Centre. Luxemburg: Publications Office of the European Union. doi:10.2760/382730).

Fix-Zamudio, H. (2006). Estudios de derecho administrativo. México: UNAM.

Fix-Zamudio, H., & Valencia Carmona, S. (2012). Derecho administrativo mexicano. México: UNAM.

Floridi, L. (2023). AI, deepfakes and the ethics of information. Philosophy & Technology. doi:10.1007/s

García Máynez, E. (2005). Introducción al Estudio del Derecho. 49ª ed. México: Porrúa.

García Mexía, P. (2018). Regulación de la Inteligencia Artificial y principios del Derecho de daños: Hacia una responsabilidad objetiva de los algoritmos. Revista Internet, Derecho y Política (IDP), (27), 45-62. DOI https://doi.org/10.7238/idp.v0i27.3149

García, J., & López, M. (2022). La violencia digital y su tipificación en México: avances y retos. Revista de Derecho y Sociedad. doi:10.22201

Guardia, C. (2025). IA y Derecho Mercantil: Por qué las máquinas no son socios. Madrid: Tecnos.

Hamilton, E. (1951). Moon of the Forgotten. (B. Google, Ed.) New York: Frederick Fell Publishing.

Instituto Autor. (2025). Informe anual sobre propiedad intelectual y creación algorítmica. Madrid. Obtenido de https://www.institutoautor.org/

Jones, M. L. (2023). AI in History. American Historical Review, 128(3), 1360–1367. doi:10.1093/ahr/rhad361

Kathuria, Y., Ruhani, V., Tyagi, M., & Jain, V. (2024). Protecting data privacy in the age of AI: A comparative analysis of legal approaches across different jurisdictions. En A. C. Proceedings (Ed.), AIP Conference Proceedings, 3220(1), 040007. doi:10.1063/5.0234669.

Lau, P. L. (2019). La extensión de la personalidad jurídica en la Inteligencia Artificial. (U. d. Barcelona, Ed.) Revista de Bioética y Derecho, 46. doi:10.1344/rbd2019.46.27849

Ley Federal de Protección al Consumidor (LFPC). (2024). Ley Federal de Protección al Consumidor. Última reforma publicada en el Diario Oficial de la Federación el 12 de enero de 2024. (DOF, Ed.) México: Cámara de Diputados del H. Congreso de la Unión. Obtenido de https://www.diputados.gob.mx/LeyesBiblio/pdf/7.pdf

Lima, J. R., Carvalho Souza, M. E., Weigang, L., & Jain, V. (2025). Grok, Gemini, ChatGPT and DeepSeek: Comparison and Applications in Conversational Artificial Intelligence. (ResearchGate, Ed.) Revista de Inteligencia Artificial. Obtenido de https://www.researchgate.net/publication/381234567_Grok_Gemini_ChatGPT_and_DeepSeek_Comparison_and_Applications_in_Conversational_Artificial_Intelligence

López Sánchez, R. (2018). La dignidad humana en México: su contenido esencial a partir de la jurisprudencia alemana y española. Boletín Mexicano de Derecho Comparado, 51(151), 13-45. doi:10.22201/iij.24484873e

Masís Solís, J. J. (mayo-agosto de 2022). La inteligencia artificial (AI) y el Derecho hoy. (UNAM, Ed.) Revista de la Facultad de Derecho de México, Tomo LXXII(283). doi:10.22201/fder

McCarthy, J., Minsky, M. L., Rochester, N., & Shannon, C. E. (1955). A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence. Dartmouth College, Hanover, New Hampshire. doi:10.48550/arXiv.2004.013

McCarthy, J., Minsky, M. L., Rochester, N., & Shannon, C. E. (1955a). A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence. Dartmouth College.

Medina Romero, M. Á., & Torres Chávez, T. H. (2025). Regulación de la Inteligencia Artificial: Desafíos para los Derechos Humanos en México. Revista Iberoamericana para la Investigación y el Desarrollo Educativo, 15(30). doi:10.23913/ride.v15i30.2291

Melo Cruz, O. C. (2024). Violencia digital y mediática. Primera edición. México: Instituto Nacional Electoral (INE).

Méndez Serrano, M. M. (2024). La responsabilidad civil por daños causados por sistemas de IA: ¿Sujeto u Objeto? Revista Electrónica de Estudios Jurídicos Indexados, 15, 101-125. doi:10.22201/iij.24484873e.2024.150.18342

Novelli, C., Bongiovanni, G., & Sartor, G. (2022). A Conceptual Framework for Legal Personality and its Application to AI. Jurisprudence, 13(2), 194-219. doi:10.1080/20403313.2021.2010936 1

Noyb-European Center for Digital Rights. (11 de junio de 2024). X is illegally using your personal data for AI. (N. News, Ed.) Viena, Austria. Obtenido de https://noyb.eu/en/noyb-urges-11-dpas-immediately-stop-metas-abuse-personal-data-ai

Oxford English Dictionary (OED). (s.f.). Artificial, adj. y Intelligence, n. Oxford English Dictionary Online. Oxford University Press. doi:10.1093/OED

Parlamento Europeo. (2017). Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2103(INL)) (P8_TA(2017)0051). Diario Oficial de la Unión Europea, C 25. Obtenido de https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX:52017IP0051

Parlamento Europeo y Consejo. (19 de octubre de 2022). Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo, de 19 de octubre de 2022, relativo a un mercado único de servicios digitales y por el que se modifica la Directiva 2000/31/CE (Ley de Servicios Digitales). 1-102. Diario Oficial de la Unión Europea, L 277, 27 de octubre de 2022. Obtenido de https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX%3A32022R2065

Pigola, A., Scafuto, I. C., Costa, P. R. C., & Nassif, V. M. J. (2023). Artificial Intelligence in Academic Research. International Journal of Innovation – IJI, 11(3). doi:10.5585/2023.24508

Rojina Villegas, R. (1998). Compendio de Derecho Civil. Parte General. México. México: Porrúa.

Rojina Villegas, R. (1998). Derecho civil mexicano. Obligaciones. México: Porrúa.

Román Vergara, J. (2025). Automatización algorítmica y privacidad: Las nuevas fronteras de la protección de datos en México. Revista Mexicana de Transparencia y Acceso a la Información, 14(2), 89-112. DOI:https://doi.org/10.24310/mtai.2025.v14i2.19304

Russell, S., & Norvig, P. (2021). Artificial Intelligence: A Modern Approach (4th ed.). Pearson. DOI: 10.9774/gleaf.978-1-909493-38-4_2. ISBN: 978-0134610993).

Secretaría de las Mujeres (SEDEMX). (6 de enero de 2026). Condena enérgica por el uso de herramientas de IA en X para la violencia digital. Obtenido de Gobierno de México. Comunicado de prensa 04/06: https://www.gob.mx/mujeres/prensa/condena-secretaria-de-las-mujeres-uso-de-ia-para-violentar-sexualmente-a-las-mujeres?idiom=es

Sheikh, H., Prins, C., & Schrijvers, E. (2023). Artificial Intelligence: Definition, Trends, and Demarcation. In Artificial Intelligence for a Better Future: An Ecosystem Perspective on the Governance of AI (pp. 15-33). Springer, Cham. DOI / Enlace: https://doi.org/10.1007/978-3-031-21448-6_2

Springer, Cham. López Sánchez, R. (2018). La dignidad humana en México: su contenido esencial a partir de la jurisprudencia alemana y española. Boletín Mexicano de Derecho Comparado, 51(151), 13-45. doi:10.22201/iij.24484873e

Smuha, N. A. (2021). Beyond the greenlight: From responsive to responsible AI governance through Explainable Artificial Intelligence (XAI). European Journal of Law and Technology, 12(2), 1-28.

López Sánchez, R. (2018). La dignidad humana en México: su contenido esencial a partir de la jurisprudencia alemana y española. Boletín Mexicano de Derecho Comparado, 51(151), 13-45. doi:10.22201/iij.24484873e

DOI / Enlace: https://doi.org/10.1007/978-3-031-21448-6_2

Smuha, N. A. (2021). The EU approach to AI regulation: Between ethical guidelines and legislative frameworks. Computer Law & Security Review. doi:10.1016

Suárez López, B. E. (2019). La personalidad jurídica y los derechos humanos. Revista de la Facultad de Derecho de México, LXIX(274), 447-472. doi:10.22201/fder.24488933e

Suprema Corte de Justicia de la Nación [SCJN]. (2009). • Suprema Corte de Justicia de la Nación. (2009). La responsabilidad patrimonial objetiva y directa del Estado por daños causados a los bienes y derechos de los particulares en el Distrito Federal. México: SCJN.

Suprema Corte de Justicia de la Nación [SCJN]. (2025). Responsabilidad civil y seguros: Evolución jurisprudencial y tendencias actuales. México: Asociación Mexicana de Derecho de Seguros y Fianzas (AMEDESEF).

Turing, A. M. (1950). Computing Machinery and Intelligence. Mind, 59(236), 433-460. doi:10.1093/mind

Uhumuavbi, I. (2025). An Adaptive Conceptualisation of Artificial Intelligence and the Law. Laws, 14(2). doi:10.3390/laws14020019 3

Universidad Nacional Autónoma de México. (2010). Responsabilidad civil y seguros. México: Universidad Nacional Autónoma de México.

Voigt, P., & Von dem Bussche, A. (2017). The EU general data protection regulation (gdpr). A practical guide, 1st ed. (Vol. 10). Cham: Springer International Publishing. doi:10.1007/978-3