Verdad y Derecho
Revista Arbitrada de Ciencias Jurídicas y Sociales
Vol. 3(Especial4), 185-192, 2024
https://doi.org/10.62574/cmftgr38
185
La inteligencia artificial (IA) como amenaza del sistema jurídico
Artificial intelligence (AI) as a threat to the legal system
Edgar René Orozco-Zavala
edgaroz96@uniandes.edu.ec
Universidad Regional Autónoma de los Andes, Riobamba, Chimborazo, Ecuador
https://orcid.org/0009-0005-7809-0354
Andonny Lui Amores-Castillo
a.andonnylac03@uniandes.edu.ec
Universidad Regional Autónoma de los Andes, Riobamba, Chimborazo, Ecuador
https://orcid.org/0009-0000-4418-9552
Wilson Jahir Donoso-Beltrán
wilsondb59@uniandes.edu.ec
Universidad Regional Autónoma de los Andes, Riobamba, Chimborazo, Ecuador
https://orcid.org/0009-0006-1041-8189
Guido Javier Silva-Andrade
ur.guidosa38@uniandes.edu.ec
Universidad Regional Autónoma de los Andes, Riobamba, Chimborazo, Ecuador
https://orcid.org/0000-0001-5603-6529
RESUMEN
Se indica como objetivo analizar la inteligencia artificial (IA) como amenaza del sistema jurídico. El
trabajo se realizó mediante una revisión documental de carácter cualitativo, basada en 15 artículos
científicos publicados entre 2020 y 2024. El aporte de la inteligencia artificial (IA) no está exento
de riesgos y desafíos éticos, legales y sociales. La IA, al ser una herramienta creada y entrenada por
humanos, puede perpetuar sesgos, comprometer principios fundamentales como la imparcialidad, la
transparencia y las garantías procesales, y amplificar desigualdades existentes, especialmente en
contextos vulnerables como América Latina. Por ello, su uso debe ser cuidadosamente regulado y
guiado por principios éticos claros que prioricen la equidad, la justicia y la responsabilidad social.
Descriptores: inteligencia artificial; administración de justicia; tribunal. (Fuente: Tesauro UNESCO).
ABSTRACT
The objective is to analyze artificial intelligence (AI) as a threat to the legal system. The work was
carried out through a qualitative documentary review, based on 15 scientific articles published
between 2020 and 2024. The contribution of artificial intelligence (AI) is not exempt from ethical,
legal and social risks and challenges. AI, being a tool created and trained by humans, can perpetuate
biases, compromise fundamental principles such as fairness, transparency and due process, and
amplify existing inequalities, especially in vulnerable contexts such as Latin America. Therefore, its
use must be carefully regulated and guided by clear ethical principles that prioritize equity, justice
and social responsibility.
Descriptors: artificial intelligence; administration of justice; courts. (Source: UNESCO Thesaurus).
Recibido: 23/11/2024. Revisado: 29/11/2024. Aprobado: 17/07/2024. Publicado: 20/12/2024.
Sección artículos de investigación
Verdad y Derecho
Revista Arbitrada de Ciencias Jurídicas y Sociales
Vol. 3(Especial4), 185-192, 2024
La inteligencia artificial (IA) como amenaza del sistema jurídico
Artificial intelligence (AI) as a threat to the legal system
Edgar René Orozco-Zavala
Andonny Lui Amores-Castillo
Wilson Jahir Donoso-Beltrán
Guido Javier Silva-Andrade
186
INTRODUCCIÓN
La inteligencia artificial (IA) ha comenzado a transformar diversos sectores, incluido
el sistema jurídico, donde su capacidad para procesar grandes volúmenes de datos
y automatizar procesos plantea tanto oportunidades como desafíos. En el ámbito
judicial, la IA promete mejorar la eficiencia y reducir los tiempos de resolución de
casos, pero también genera preocupaciones sobre su impacto en principios
fundamentales como la imparcialidad, la transparencia y las garantías procesales.
Según Cárdenas & Molano (2021), la IA puede ser una herramienta valiosa para
apoyar la toma de decisiones judiciales, pero su implementación debe ser
cuidadosamente regulada para evitar que se comprometan los derechos de las
partes involucradas.
En el contexto de la valoración de pruebas, Castellano (2021) destaca que la IA
puede facilitar el análisis de grandes cantidades de información, pero advierte que
su uso debe respetar las garantías constitucionales, como el derecho a la
contradicción. De manera similar, Gómez, Lodoño & Bazzani (2023) señalan que la
admisión de pruebas generadas por IA enfrenta retos relacionados con la
transparencia y la posibilidad de cuestionar su validez en un juicio. Por otro lado,
en el ámbito penal, Pineda-Nobles (2021) enfatiza que el uso de IA y Big Data debe
garantizar los derechos procesales, evitando que los algoritmos refuercen prejuicios
o decisiones arbitrarias.
Así mismo, la implementación de la IA en el derecho plantea dilemas éticos
significativos. González-Arencibia & Martínez-Cardero (2020) reflexionan sobre
cómo la tecnología puede amplificar desigualdades existentes si no se desarrolla
con un enfoque ético claro. En este sentido, Jurado, Montalvo & Reyes (2024)
subrayan la importancia de la responsabilidad social en el uso de la IA, destacando
que su aplicación debe estar guiada por principios de equidad y justicia. En regiones
como América Latina, Segura (2023) advierte que las desigualdades sociales y
jurídicas pueden amplificarse si la IA no se adapta a las realidades locales, lo que
subraya la necesidad de un enfoque contextualizado.
Verdad y Derecho
Revista Arbitrada de Ciencias Jurídicas y Sociales
Vol. 3(Especial4), 185-192, 2024
La inteligencia artificial (IA) como amenaza del sistema jurídico
Artificial intelligence (AI) as a threat to the legal system
Edgar René Orozco-Zavala
Andonny Lui Amores-Castillo
Wilson Jahir Donoso-Beltrán
Guido Javier Silva-Andrade
187
Desde lo anterior; se indica como objetivo analizar la inteligencia artificial (IA) como
amenaza del sistema jurídico.
MÉTODO
El trabajo se realizó mediante una revisión documental de carácter cualitativo,
basada en 15 artículos científicos publicados entre 2020 y 2024, seleccionados de
bases de datos académicas como Scopus, Redalyc, SciELO y Google Scholar. Los
criterios de selección incluyeron la relevancia temática (impacto de la inteligencia
artificial en el ámbito jurídico), la actualidad de las publicaciones y la diversidad de
enfoques (éticos, legales, procesales y contextuales).
RESULTADOS
Se explora cómo la IA puede contribuir a la eficiencia del sistema judicial, pero
también cómo puede amenazar principios fundamentales como la imparcialidad, la
transparencia y las garantías procesales. Se presentan aportes documentales en la
tabla 1:
Tabla 1. La inteligencia artificial (IA) como amenaza del sistema jurídico.
Autor(es)
Año
Tema
Perspectiva
Aporte
Cárdenas, E. R.,
& Molano, V. M.
2021
Aplicación de IA en
decisiones judiciales
Análisis de la viabilidad
de la IA en decisiones
judiciales.
La IA puede ser útil, pero
plantea riesgos éticos y de
imparcialidad.
Castellano, P. S.
2021
IA y valoración de la
prueba
Garantías jurídico-
constitucionales en el uso
de IA para valorar
pruebas.
La IA debe respetar
principios constitucionales
para evitar vulneraciones de
derechos.
Comoglio, P.
2022
Selección de pruebas
en procesos civiles
Comparación entre
procesos más
'inteligentes' y procesos
más 'artificiales'.
La IA puede optimizar
procesos, pero debe
evitarse la deshumanización
del sistema judicial.
García-Falconí,
R. J., & Barona-
Pazmiño, K. F.
2024
IA en el proceso penal
Análisis de los retos y
beneficios de la IA en el
ámbito penal.
La IA puede mejorar la
eficiencia, pero plantea
desafíos éticos y legales.
Gómez, M. d.,
Lodoño, P. V., &
Bazzani, V.
2023
IA como medio de
prueba
Retos en la admisión y
contradicción de pruebas
generadas por IA.
Es necesario regular el uso
de IA para garantizar la
transparencia y la
contradicción de pruebas.
González-
Arencibia, M., &
Martínez-
Cardero, D.
2020
Dilemas éticos en IA
Reflexión sobre los
dilemas éticos que
plantea la IA en el ámbito
jurídico.
La ética debe ser el eje
central en el desarrollo y
uso de IA en el derecho.
Verdad y Derecho
Revista Arbitrada de Ciencias Jurídicas y Sociales
Vol. 3(Especial4), 185-192, 2024
La inteligencia artificial (IA) como amenaza del sistema jurídico
Artificial intelligence (AI) as a threat to the legal system
Edgar René Orozco-Zavala
Andonny Lui Amores-Castillo
Wilson Jahir Donoso-Beltrán
Guido Javier Silva-Andrade
188
Jalón-Arias, E.,
et al.
2021
Limitaciones de la IA
en el derecho
Futuro de la educación
jurídica frente a la IA.
La IA no puede reemplazar
el juicio humano, pero
puede complementar la
educación jurídica.
Jurado, N.,
Montalvo, H., &
Reyes, A.
2024
Ética y
responsabilidad
social en procesos
judiciales con IA
Análisis ético de la
responsabilidad social en
el uso de IA en el ámbito
judicial.
La ética debe guiar la
implementación de IA para
evitar injusticias.
Navarro-
Dolmestch, R.
2023
Riesgos de
aplicaciones
generativas de IA
Identificación de riesgos
y desafíos para la
integridad académica y
jurídica.
Las aplicaciones
generativas de IA deben ser
reguladas para evitar
abusos y riesgos éticos.
Ordelin-Font, J.
L.
2021
Uso de IA en
mediación
Debate sobre la
viabilidad de la IA en
procesos de mediación.
La IA puede ser útil, pero no
debe reemplazar la
interacción humana en la
mediación.
Pineda-Nobles,
J. E.
2021
Garantías procesales
en IA y Big Data
Análisis de estándares de
prueba penal en el uso de
IA y Big Data.
Es crucial garantizar los
derechos procesales al usar
IA en el ámbito penal.
Segura, R. E.
2023
IA y administración
de justicia en
Latinoamérica
Desafíos específicos del
contexto latinoamericano
en la implementación de
IA.
La IA debe adaptarse a las
realidades sociales y
jurídicas de la región.
Tynan, P.
2024
IA en ciencias
forenses
Implicaciones del uso de
IA en la ciencia forense.
La IA puede mejorar la
precisión forense, pero
plantea desafíos éticos y
legales.
Ventura-
González, C. I.,
& Robles-
Pagador, M. E.
2024
IA y valoración de
pruebas en el
proceso penal
peruano
Análisis del impacto de la
IA en la valoración de
pruebas en el sistema
penal peruano.
La IA debe ser utilizada con
cautela para no
comprometer los derechos
fundamentales.
Villarreal-
Novillo, C. P.
2023
Justicia en tiempos de
IA
Reflexión sobre el
impacto de la IA en la
administración de
justicia.
La IA puede transformar la
justicia, pero debe
garantizarse la equidad y la
transparencia.
Fuente: Elaboración propia.
A partir de la tabla 1, se evidencia que la IA puede aportar beneficios, pero su
implementación debe ser cuidadosamente regulada para garantizar que no se
vulneren derechos fundamentales ni se comprometan los principios éticos que
sustentan la justicia.
DISCUSIÓN
Uno de los aspectos más discutidos es la posibilidad de que la IA participe en la
toma de decisiones judiciales. Según Cárdenas y Molano (2021), la IA tiene el
potencial de agilizar los procesos judiciales, reduciendo tiempos y costos. Sin
Verdad y Derecho
Revista Arbitrada de Ciencias Jurídicas y Sociales
Vol. 3(Especial4), 185-192, 2024
La inteligencia artificial (IA) como amenaza del sistema jurídico
Artificial intelligence (AI) as a threat to the legal system
Edgar René Orozco-Zavala
Andonny Lui Amores-Castillo
Wilson Jahir Donoso-Beltrán
Guido Javier Silva-Andrade
189
embargo, esta eficiencia puede tener un costo alto si no se garantiza la
imparcialidad de los algoritmos. Los sistemas de IA, al ser entrenados con datos
históricos, pueden reproducir sesgos presentes en esos datos, lo que podría llevar
a decisiones injustas o discriminatorias. Sin embargo, si un algoritmo se entrena
con casos donde ciertos grupos sociales han sido tratados de manera desigual, es
probable que perpetúe esas desigualdades. Esto plantea una pregunta fundamental:
¿puede un sistema automatizado reemplazar el juicio humano, que no solo se basa
en datos, sino también en valores, empatía y contexto? La respuesta, según los
autores, es que la IA debe ser una herramienta de apoyo, no un sustituto del juez.
El uso de la IA en la valoración de pruebas es otro tema central, en este sentido,
Castellano (2021) señala que la IA puede ser útil para analizar grandes volúmenes
de información, como documentos, grabaciones o datos digitales, lo que sería
prácticamente imposible para un ser humano en el mismo tiempo. Sin embargo,
este avance plantea retos importantes. Siendo necesario preguntarse, ¿cómo
garantizar que las pruebas generadas o analizadas por un sistema de IA sean
transparentes y comprensibles para todas las partes? Gómez, Lodoño & Bazzani
(2023) destacan que, en muchos casos, los algoritmos funcionan como "cajas
negras", es decir, sus procesos internos son opacos y difíciles de explicar.
Esto puede dificultar el derecho a la contradicción, por cuanto las partes no podrían
cuestionar adecuadamente cómo se llegó a una conclusión. En el ámbito penal,
Pineda-Nobles (2021) enfatiza que el uso de IA debe respetar principios como la
presunción de inocencia y el derecho a un juicio justo, evitando que los algoritmos
se conviertan en una herramienta que refuerce prejuicios o decisiones arbitrarias.
La ética es un tema transversal en el uso de la IA en el derecho. Así mismo,
González-Arencibia & Martínez-Cardero (2020) reflexionan sobre los dilemas éticos
que surgen al integrar la IA en el sistema jurídico, destacando que la tecnología no
es neutral. Los algoritmos son diseñados por personas, y, por lo tanto, reflejan las
decisiones, valores y prioridades de sus creadores. Esto significa que, si no se toman
precauciones, la IA podría amplificar desigualdades existentes o generar nuevas
formas de injusticia.
Verdad y Derecho
Revista Arbitrada de Ciencias Jurídicas y Sociales
Vol. 3(Especial4), 185-192, 2024
La inteligencia artificial (IA) como amenaza del sistema jurídico
Artificial intelligence (AI) as a threat to the legal system
Edgar René Orozco-Zavala
Andonny Lui Amores-Castillo
Wilson Jahir Donoso-Beltrán
Guido Javier Silva-Andrade
190
Por su parte, Jurado, Montalvo & Reyes (2024) indican que la implementación de la
IA debe estar guiada por principios éticos claros, como la equidad, la transparencia
y la responsabilidad social, es fundamental que los desarrolladores, operadores y
usuarios de la IA en el ámbito jurídico asuman un compromiso ético para garantizar
que la tecnología se utilice de manera justa y responsable.
En regiones como América Latina, la implementación de la IA enfrenta desafíos
particulares. Por su parte, Segura (2023) señala que las desigualdades sociales y
jurídicas de la región pueden amplificarse si la IA no se adapta a las realidades
locales, en sistemas judiciales donde ya existen problemas de acceso a la justicia, la
introducción de tecnologías avanzadas podría beneficiar solo a quienes tienen los
recursos para utilizarlas, dejando atrás a los sectores más vulnerables, Villarreal-
Novillo (2023) destaca que, aunque la IA puede ser una herramienta
transformadora, su uso debe ir acompañado de políticas públicas que garanticen la
equidad y la transparencia. Esto incluye la capacitación de los operadores del
sistema judicial y la creación de marcos normativos que regulen el uso de la IA de
manera adecuada.
En el ámbito de la mediación, Ordelin-Font (2021) plantea un debate interesante:
¿puede la IA reemplazar la interacción humana en procesos de resolución de
conflictos? Aunque la IA puede facilitar acuerdos al analizar datos y proponer
soluciones objetivas, la mediación no se trata solo de encontrar una solución
técnica, sino de construir confianza entre las partes. La falta de empatía y
comprensión emocional de la IA podría limitar su efectividad en este tipo de
procesos, donde la comunicación y la relación humana son fundamentales.
En el ámbito de la ciencia forense, Tynan (2024) destaca que la IA puede mejorar
la precisión en la recolección y análisis de pruebas, como huellas digitales o
patrones de ADN. Sin embargo, también plantea desafíos éticos y legales. Por
consiguiente, si un algoritmo identifica a un sospechoso basándose en patrones
estadísticos, ¿cómo se puede garantizar que este proceso sea justo y transparente?
Así mismo, la opacidad de algunos sistemas de IA podría dificultar la evaluación de
Verdad y Derecho
Revista Arbitrada de Ciencias Jurídicas y Sociales
Vol. 3(Especial4), 185-192, 2024
La inteligencia artificial (IA) como amenaza del sistema jurídico
Artificial intelligence (AI) as a threat to the legal system
Edgar René Orozco-Zavala
Andonny Lui Amores-Castillo
Wilson Jahir Donoso-Beltrán
Guido Javier Silva-Andrade
191
la fiabilidad de las pruebas presentadas en un juicio, lo que podría comprometer
los derechos de los acusados.
CONCLUSION
El aporte de la inteligencia artificial (IA) no está exento de riesgos y desafíos éticos,
legales y sociales. La IA, al ser una herramienta creada y entrenada por humanos,
puede perpetuar sesgos, comprometer principios fundamentales como la
imparcialidad, la transparencia y las garantías procesales, y amplificar desigualdades
existentes, especialmente en contextos vulnerables como América Latina. Por ello,
su uso debe ser cuidadosamente regulado y guiado por principios éticos claros que
prioricen la equidad, la justicia y la responsabilidad social. Más que un sustituto del
juicio humano, la IA debe ser vista como un complemento que respalde la toma de
decisiones, garantizando siempre el respeto a los derechos fundamentales y la
confianza en el sistema judicial.
FINANCIAMIENTO
No monetario
CONFLICTO DE INTERÉS
No existe conflicto de interés con personas o instituciones ligadas a la
investigación.
AGRADECIMIENTOS
A la dirección nacional de investigación de UNIANDES.
REFERENCIAS
Cárdenas, E. R., & Molano, V. M. (2021). Un estudio sobre la posibilidad de aplicar la inteligencia
artificial en las decisiones judiciales.
Revista Direito GV
,
17
(1), e2101.
https://doi.org/10.1590/2317-6172202101
Castellano, P. S. (2021). Inteligencia Artificial y valoración de la prueba: las garantías Jurídico-
Constitucionales del órgano de control.
THEMIS Revista De Derecho
, (79), 283-297.
https://doi.org/10.18800/themis.202101.015
Comoglio, P. (2022). Inteligencia artificial y selección de pruebas en el proceso civil: ¿hacia un
proceso más inteligente o hacia un proceso más artificial?
Revista Ítalo-española De Derecho
Procesal
, (2), 55–85. https://doi.org/10.37417/rivitsproc/840
García-Falconí, Ramiro José, & Barona-Pazmiño, Katherine Fernanda. (2024). Inteligencia artificial y
proceso penal.
Revista San Gregorio
,
1
(58), 87-
100. https://doi.org/10.36097/rsan.v1i58.2808
Gómez, M. d., Lodoño, P. V. & Bazzani, V. (2023).
La inteligencia artificial como medio de prueba:
retos para su trámite y contradicción
. Recuperado de: http://hdl.handle.net/10554/65686
Verdad y Derecho
Revista Arbitrada de Ciencias Jurídicas y Sociales
Vol. 3(Especial4), 185-192, 2024
La inteligencia artificial (IA) como amenaza del sistema jurídico
Artificial intelligence (AI) as a threat to the legal system
Edgar René Orozco-Zavala
Andonny Lui Amores-Castillo
Wilson Jahir Donoso-Beltrán
Guido Javier Silva-Andrade
192
González-Arencibia, Mario, & Martínez-Cardero, Dagmaris. (2020). Dilemas éticos en el escenario de
la inteligencia artificial.
Economía y Sociedad
,
25
(57), 93-
109. https://dx.doi.org/10.15359/eys.25-57.5
Jalón-Arias, Edmundo, Ponce-Ruiz, Dionisio, Arandia, Juan Carlos, & Arrias-Añez, Julio César. (2021).
Las limitaciones de la aplicación de la inteligencia artificial al derecho y el futuro de la
educación jurídica.
Conrado
,
17
(83), 439-450.
Jurado, N., Montalvo, H., & Reyes, A. (2024). Ética y responsabilidad social en los procesos judiciales
y su aplicación en la inteligencia artificial.
ComHumanitas: Revista Científica De
Comunicación
,
15
(1), 68-91. https://doi.org/10.31207/rch.v15i1.434
Navarro-Dolmestch, Roberto. (2023). Descripción de los riesgos y desafíos para la integridad
académica de aplicaciones generativas de inteligencia artificial.
Derecho PUCP
, (91), 231-
270. Epub 29 de noviembre de 2023.https://doi.org/10.18800/derechopucp.202302.007
Ordelin-Font, Jorge Luis. (2021). El uso de la inteligencia artificial en la mediación: ¿quimera o
realidad?
Revista IUS
,
15
(48), 357-382. https://doi.org/10.35487/rius.v15i48.2021.707
Pineda-Nobles, Jeison Estiven. (2021). Garantías procesales en la aplicación de la inteligencia
artificial y el Big Data en el estándar de la prueba penal.
Revista CES Derecho
,
12
(1), 108-
125. Epub November 25, 2021.https://doi.org/10.21615/cesder.12.1.6
Segura, Romina Estefanía. (2023). Inteligencia artificial y administración de justicia: desafíos
derivados del contexto latinoamericano.
Revista de Bioética y Derecho
, (58), 45-72. Epub
25 de septiembre de 2023.https://dx.doi.org/10.1344/rbd2023.58.40601
Tynan P. (2024). The integration and implications of artificial intelligence in forensic science.
Forensic
science, medicine, and pathology
,
20
(3), 1103–1105. https://doi.org/10.1007/s12024-
023-00772-6
Ventura-González, Christian Iván, & Robles-Pagador, María Eugenia. (2024). Inteligencia artificial y
la valoración de la prueba en el proceso penal peruano.
Cienciamatria. Revista
Interdisciplinaria de Humanidades, Educación, Ciencia y Tecnología
,
10
(19), 303-314. Epub
30 de noviembre de 2024.https://doi.org/10.35381/cm.v10i19.1393
Villarreal-Novillo, C. P. (2023). La Justicia en Tiempos de Inteligencia Artificial.
Ciencia Latina Revista
Científica Multidisciplinar
,
7
(5), 9494-9519. https://doi.org/10.37811/cl_rcm.v7i5.8517
Derechos de autor: 2024 Por los autores. Este artículo es de acceso abierto y distribuido según los términos y
condiciones de la licencia Creative Commons Atribución-NoComercial-CompartirIgual 4.0 Internacional (CC
BY-NC-SA 4.0)
https://creativecommons.org/licenses/by-nc-sa/4.0/
