La regulación de jueces basados en IA en los sistemas judiciales: estándares internacionales, principios rectores y vacíos normativos
DOI:
https://doi.org/10.59169/pentaciencias.v8i4.1917Palabras clave:
inteligencia artificial; jueces basados en IA; sistemas judiciales; estándares internacionales; vacíos normativosResumen
La integración de sistemas de inteligencia artificial en la administración de justicia ha transformado progresivamente la función jurisdiccional, pero su desarrollo normativo no ha seguido el mismo ritmo. Esta revisión por alcance tuvo como objetivo cartografiar la producción académica e institucional sobre estándares internacionales, principios rectores y vacíos normativos en la regulación de los denominados "jueces basados en IA". Siguiendo la metodología PRISMA-ScR, se realizaron búsquedas en ScienceDirect y Scopus, identificando 357 registros, de los cuales 15 estudios originales (2020-2025) fueron incluidos tras un proceso de selección en tres fases. Los resultados evidencian un consenso en torno a principios como transparencia, explicabilidad, supervisión humana, equidad y rendición de cuentas, aunque su operativización presenta limitaciones significativas. Se identifican vacíos normativos críticos: ausencia de criterios de responsabilidad por daños, falta de estándares técnicos para auditoría de algoritmos, insuficiencia de normas de protección de datos adaptadas al contexto procesal y carencia de políticas de capacitación judicial. Las experiencias empíricas analizadas —desde plataformas de e-justicia hasta sistemas de evaluación de riesgos— revelan una fragmentación regulatoria entre jurisdicciones. Se concluye que la armonización de estándares, siguiendo el modelo del AI Act europeo, resulta urgente para garantizar una adopción ética y segura de la IA en la justicia.
Descargas
Citas
Abduljabbar, H. M., Abdullah, W. M., Bazool, S. D. S., Muhsin, A. I., Alfalahi, S. T. Y., & Temnikov, V. (2025). AI-Driven Environmental Impact Assessments: Ethical and Legal Considerations. Environment and Social Psychology, 10(12). https://doi.org/10.59429/esp.v10i12.3994
Afdal, W., Situmeang, A., Anggriawan, R., Tan, W., & Rusdiana, S. (2025). The Adaptability of the Indonesian Judiciary in the Era of Law and Technology Disruption. Lex Scientia Law Review, 9(2), 1546-1586. https://doi.org/10.15294/lslr.v9i2.28896
Aza, E. D., & Luis, E. (2024). Artificial Intelligence in Institutional Legal Processes: Contributions, Challenges, And Implications for the Transformation of the Justice System (SSRN Scholarly Paper No. 5632910). Social Science Research Network. https://doi.org/10.2139/ssrn.5632910
Balcerzak, M. (2024). Chapter 1: Implications of the United Nations human rights standards for the development of artificial intelligence. https://www.elgaronline.com/edcollchap-oa/book/9781035337934/book-part-9781035337934-8.xml
Berkowitz, A. E., & Sweeney, M. E. (2025). Look Who’s Talking: Voice Cloning as Tension Point Between Identity and Data. Philosophy & Technology, 38(4), 131. https://doi.org/10.1007/s13347-025-00965-7
Carnat, I. (2024). Addressing the risks of generative AI for the judiciary: The accountability framework(s) under the EU AI Act. Computer Law & Security Review, 55, 106067. https://doi.org/10.1016/j.clsr.2024.106067
Ciaglic, T. (2025). The Use of Intelligence in European Justice. Revista Institutului National al Justitiei, 2025, 38. https://access.heinonline.com/HOL/Page?handle=hein.journals/rvisnjut2025&id=165&div=&collection=
Daud, M., & Ghani Azmi, I. M. A. (2023). INTERMEDIARY’S LIABILITY: TOWARDS A SUSTAINABLE ARTIFICIAL INTELLIGENCE-BASED CONTENT MODERATION IN MALAYSIA. IIUM Law Journal, 31(2), 155-178. https://doi.org/10.31436/iiumlj.v31i2.823
European Union Law (2024). http://data.europa.eu/eli/reg/2024/1689/oj
Gómez, A. F. O. (2024). ¿Un dataiudex en Colombia? Análisis de los argumentos formulados por ChatGPT e incorporados en una sentencia de tutela. Revista Iberoamericana de Argumentación, (28), 42-72. https://doi.org/10.15366/ria2024.28.003
Hedler, L. (2024). Risk and danger in the introduction of algorithms to courts: A comparative framework between EU and Brazil. Onati Socio-Legal Series, 14(5), 1315-1336. https://doi.org/10.35295/osls.iisl.1859
Javed, K., & Li, J. (2025). Bias in adjudication: Investigating the impact of artificial intelligence, media, financial and legal institutions in pursuit of social justice. PLoS ONE, 20(1 January). https://doi.org/10.1371/journal.pone.0315270
Kang, D., & Hong, S. E. (2025). Legal education reform and medical litigation: Improved access but delayed justice in plastic surgery malpractice cases in South Korea. PLOS ONE, 20(5 May). https://doi.org/10.1371/journal.pone.0323059
Laptev, V. A., & Feyzrakhmanova, D. R. (2024). Application of Artificial Intelligence in Justice: Current Trends and Future Prospects. Human-Centric Intelligent Systems, 4(3), 394-405. https://doi.org/10.1007/s44230-024-00074-2
Lukewich, J., Mathews, M., Myles, S., Dufour, É., Asghari, S., Rioux-Dubois, A., Martin-Misener, R., Halcomb, E. J., Chiu, P., Poitras, M.-E., Leslie, K., McGraw, M., Ryan, D., Curnew, D., Meredith, L., Morin, A., Swab, M., Braithwaite, S., Macdonald, D., … Bruneau, J. (2025). Scope of practice of primary care nurses: A protocol for an umbrella review of international literature. BMJ Open, 15(7), e103319. https://doi.org/10.1136/bmjopen-2025-103319
Marjanovic, O., Cecez-Kecmanovic, D., & Vidgen, R. (2022). Theorising Algorithmic Justice. European Journal of Information Systems, 31(3), 269-287. https://doi.org/10.1080/0960085X.2021.1934130
Mattos, S. M., Cestari, V. R. F., & Moreira, T. M. M. (2023). Scoping protocol review: PRISMA-ScR guide refinement. Revista de Enfermagem da UFPI, 12(1). https://doi.org/10.26694/reufpi.v12i1.3062
Meneceur, Y. (2018). Digital technology, a lever for the efficiency and quality of justice in Europe. Digital issues, 3. https://annales.org/edit/enjeux-numeriques/DG/2018/DG-2018-09/Enj18c-3-Meneceur.pdf
Moratinos, G. L., & Castillo Parrilla, J. A. (2020). Algorithmic valoration before human rights and the European Convention on Human Rights and the General Data Protection Regulation: The SyRI case. Revista Chilena de Derecho y Tecnologia, 9(1), 207-225. https://doi.org/10.5354/0719-2584.2020.56843
Murko, E., Babšek, M., & Aristovnik, A. (2024). Artificial intelligence and public governance models in socioeconomic welfare: Some insights from Slovenia. Administratie Si Management Public, 2024(43), 41-60. https://doi.org/10.24818/amp/2024.43-03
Passaglia, P. (2026). The Use of AI by Courts: Regulation, Guidelines, and … the Road to Hell—Law and Tech. https://lawandtech.ie/the-use-of-ai-by-courts-regulation-guidelines-and-the-road-to-hell/
Pérez-Pacheco, Y., & Castellano, P. S. (2025). La inteligencia artificial en los sistemas judiciales de América Latina: Una revisión sobre desafíos y oportunidades. A&C - Revista de Direito Administrativo & Constitucional, 25(100), 95-129. https://doi.org/10.21056/aec.v25i100.2027
Ponce Solé, J. (2024). El Reglamento de Inteligencia Artificial de la Unión Europea de 2024, el derecho a una buena administración digital y su control judicial en España. Marcial Pons. https://books.google.com/books?hl=es&lr=&id=UbZVEQAAQBAJ&oi=fnd&pg=PA5&dq=+El+Reglamento+de+Inteligencia+Artificial+de+la+Uni%C3%B3n+Europea+de+2024,+el+derecho+a+una+buena+administraci%C3%B3n+digital+y+su+control+judicial+en+Espa%C3%B1a&ots=FMzyJ8UGzr&sig=qAey9iKwcFhkN3UzpqhAkiCfXBE
Reiling, D., & Contini, F. (2022). E-Justice Platforms: Challenges for Judicial Governance. International Journal for Court Administration, 13(1). https://doi.org/10.36745/ijca.399
Romano, A. (2023). Fundamental rights and emotional artificial intelligence in Iborderctrl: challenges of automation in the migration field. Revista Catalana de Dret Public, 2023(66), 237-252. https://doi.org/10.58992/rcdp.i66.2023.3928
Sallavaci, O. (2025). Algorithms on Trial: Does evaluative probabilistic reporting of forensic evidence infringe the presumption of innocence? Forensic Science International: Synergy, 11. https://doi.org/10.1016/j.fsisyn.2025.100591
Sukindar, Kusnianto, H., Sarikun, Pasaribu, B. K., & Sahmat, M. S. B. (2024). Legal Innovation in Religious Courts: The Potential Utilization of Artificial Intelligence (AI) in Resolving Contemporary Cases. MILRev: Metro Islamic Law Review, 3(2), 388-410. https://doi.org/10.32332/milrev.v3i2.8199
Sun, J. C. (2023). Gaps, guesswork, and ghosts lurking in technology integration: Laws and policies applicable to student privacy. British Journal of Educational Technology, 54(6), 1604-1618. https://doi.org/10.1111/bjet.13379
UNESCO. (2021). UNESCO’s Recommendation on the Ethics of Artificial Intelligence: Key facts—UNESCO Biblioteca Digital. https://unesdoc.unesco.org/ark:/48223/pf0000385082
UNESCO. (2024). Documento de consulta pública: Directrices de la UNESCO para el uso de sistemas de inteligencia artificial en juzgados y tribunales—UNESCO Biblioteca Digital. https://unesdoc.unesco.org/ark:/48223/pf0000390781_spa
UNESCO. (2025). Guidelines for the use of AI systems in courts and tribunals—UNESCO Biblioteca Digital. https://unesdoc.unesco.org/ark:/48223/pf0000396582
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2026 Revista Científica Arbitrada Multidisciplinaria PENTACIENCIAS
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.
