INTRODUCCIÓN
En la actualidad, la inteligencia artificial (IA) ha sido incorporada en el sistema judicial, sin embargo, en Chile, su uso se encuentra desregulado. En este contexto, el presente ensayo analiza la necesidad de incorporar un marco regulatorio específico para el uso de la IA en los juicios, abordando los riesgos de su implementación. En primer lugar, otorga una definición de IA, evaluando el creciente uso de esta herramienta digital, junto con los potenciales peligros derivados de su instauración. A continuación, se examina y define el objetivo principal del boletín 16821-9, identificando la falta de normas que regulen el uso de la IA en juicios dentro del proyecto. En este sentido, se argumenta a favor de implementar disposiciones al proyecto de ley con respecto a regular este ámbito, haciendo énfasis en garantizar el criterio judicial humano y su interpretación de la ley. Por último, propone la incorporación de cursos sobre ética y uso responsable de la IA, impartidos tanto para la ciudadanía en general, como para formación académica de los profesionales del Derecho. De esta forma preparándolos para abordar los desafíos en la integración de las nuevas tecnologías respecto a la administración de la justicia.
- INTELIGENCIA ARTIFICIAL Y SU USO EN LOS JUICIOS
En el último tiempo, se ha incrementado exponencialmente el uso de inteligencia artificial (IA) dentro de los procesos judiciales. En este sentido, Chile es un país que ha dado importantes pasos hacia la digitalización de estos procedimientos.[1] En este contexto la IA ha jugado un papel fundamental, esta tecnología es entendida como un sistema computacional que genera resultados tales como predicciones, contenidos, recomendaciones o decisiones, destacando por su rapidez de análisis en información[2]. Por este motivo, esta herramienta ha sido integrada en los juicios, generalmente por los jueces, ya que su rol deliberativo y resolutivo no exige una respuesta inmediata. Un ejemplo que demuestra lo anterior ocurrió en Brasil, donde un juez federal utilizó IA para redactar una sentencia, en respuesta, la herramienta le proporcionó una jurisprudencia falsa[3]. Tal hecho, invita a reflexionar acerca de cómo las nuevas tecnologías están afectando en el ámbito jurídico, así como los potenciales riesgos asociados a su uso. Aunque la eficiencia que otorga la IA es muy útil, debe tenerse en cuenta que este programa no está libre de errores. Cuando estos fallos ocurren en un procedimiento judicial, pueden derivar en una decisión injusta, lo que perjudique a una persona por el resto de su vida. Por esta razón, debe evitarse el uso indiscriminado de la IA en los juicios, con el objetivo de minimizar las equivocaciones derivadas de la misma.
Si bien la IA es un sistema que ofrece una comodidad y rapidez de respuestas sin precedentes, existe una latente posibilidad de que cometa errores. En este contexto, cabe destacar que esta tecnología debe formular respuestas siempre que sean solicitadas, lo que en ocasiones le induce a generar respuestas incoherentes, un fenómeno denominado como alucinaciones.[4] Este tipo de fallas explica el motivo por el cual delegar totalmente ciertas tareas a la IA supone un alto riesgo si se trata de desarrollar una función jurídica. De esta forma, la IA aún enfrenta barreras debido a sesgos y datos inexactos, lo cual da cuenta de los errores que pueden cometerse al utilizarla[5]. Debido a lo anterior, no resulta óptimo dictar una resolución judicial basada en información proporcionada por este sistema automatizado. Bajo esta premisa, un estudio de Stanford Law School, reveló que algunas de las respuestas por parte de IA jurídica presentan sesgos de carácter racial y de género al momento de llevar a cabo predicciones judiciales.[6] No obstante, debe reconocerse que esta tecnología puede optimizar los tiempos y facilitar ciertos procesos, pero su uso debe ser regulado. Por este motivo, es imprescindible crear un marco regulatorio efectivo, que establezca límites precisos acerca de su uso dentro de los juicios.
- BOLETÍN 16821-9 Y SUS POTENCIALES MEJORAS
En Chile, actualmente se encuentra en primer trámite constitucional el boletín 16821-9, un proyecto de ley que busca regular el uso de la IA. Dicho proyecto define como aplicaciones de alto riesgo aquellas que puedan provocar un perjuicio para la salud, la seguridad y los derechos fundamentales protegidos por la Constitución[7]. No obstante, carece de disposiciones específicas para los procesos judiciales, dejando un vacío normativo preocupante y un posible peligro a los principios fundamentales del Derecho. En este contexto, la Constitución establece que la facultad de conocer las causas civiles y criminales, resolverlas y hacer ejecutar lo juzgado, pertenece exclusivamente a los tribunales establecidos por la ley[8]. Si bien es evidente que la IA no puede hacer ejecutar lo juzgado, tiene la posibilidad de influenciar, e incluso fundamentar las resoluciones mediante su uso por parte de los jueces, un factor que pone en riesgo el debido proceso. He aquí el principal problema: la función judicial de carácter resolutivo no puede ser delegada a terceros no autorizados por la ley, como podría ser un sistema de IA.
En este contexto, la aprobación a la idea de legislar sobre la inteligencia artificial es transversal; sin embargo, desde la empresa Minverso, remarcaron la importancia de regular sin poner freno al desarrollo de estas tecnologías avanzadas. “Debería equilibrar dos variables”, partió señalando Rodrigo González, fundador y CEO de la startup.[9]
Por ello, el boletín 16821-9 debe agregar disposiciones adicionales al proyecto, que regulen el uso de la IA en los procesos judiciales, sin detener el crecimiento tecnológico, pero priorizando la interpretación humana de las leyes.
El derecho es una ciencia que no se basa solo en lectura y memorización de las normas, sino que la interpretación de estas juega un rol fundamental. En este sentido, la IA se limita a reorganizar información existente, lo cual es insuficiente en casos donde se requiere una nueva interpretación o un enfoque creativo para resolver un problema legal complejo.[10] Es por esta razón, que la información otorgada por la IA en estos contextos no debe fundamentar las decisiones que se adopten. En conocimiento de tal situación, la Unión Europea presentó un reglamento basado en promover la adopción de una inteligencia artificial centrada en el ser humano, garantizando que se implemente de manera segura y confiable[11]. Este reglamento evidencia la necesidad de prevalecer el criterio interpretativo desarrollado por un humano, con el fin de que la IA no afecte negativamente por sobre la vida de las personas. Aunque es cierto que esta tecnología se actualiza constantemente y mejora sus capacidades, a día de hoy aún no posee un criterio, y aunque en un futuro lo logre, su uso no debe ser indiscriminado. Siguiendo esta línea y con el fin de garantizar la seguridad de las personas, la Constitución menciona que corresponderá al legislador establecer siempre las garantías de un procedimiento y una investigación racionales y justos[12]. Dichos principios requieren imparcialidad, y de ser abordados completamente por la IA —una herramienta con sesgos—, el resultado podría ser riesgoso. Por este motivo, los profesionales jurídicos, pero especialmente quienes participan de los juicios, deben actuar ética y responsablemente ante el uso de esta tecnología.
III. ÉTICA Y USO RESPONSABLE DE LA IA
Ante una tecnología con un gran potencial como lo es la IA, quienes dispongan de sus funciones en contextos judiciales, deben hacerlo éticamente. Sin duda, estos sitemas plantean nuevos tipos de utilizaciones, siendo uno de ellos el impacto en la adopción de decisiones[13]. Un factor que, de no ser abordado éticamente puede causar graves daños, sobre todo en un proceso como lo es un juicio. De igual forma, la responsabilidad en su uso es clave, ya que, para una adecuada regulación, nuestro sistema jurídico exige respetar la coherencia normativa definida por la Constitución.[14]. Considerando lo anterior, es evidente que la responsabilidad de ejercer un buen uso sobre la IA recae únicamente en los humanos. Esto se debe a que los sistemas automatizados no se controlan bajo voluntad propia, sino que sus resultados son producto de la información que reciben. Tal situación, supone una gran ventaja para ejercer un adecuado control, pero puede tornarse perjudicial si no se administra correctamente. Ya que quienes disponen de esta herramienta de manera irresponsable y deciden sobre la vida de los demás, pueden causar grandes daños. Por este motivo, resultaría beneficioso impartir educación acerca de un empleo responsable de este sistema, con el objetivo de minimizar su uso indebido.
Con miras a lograr un uso ético de la IA en el derecho, implementar cursos que fomenten su correcto uso resultaría positivo. No es necesario limitarse solo a quienes estudien y ejerzan esta disciplina, sino también impartir al público en general conocimientos adecuados en materia de IA[15]. Difundir tales conocimientos, implicaría una reducción significativa de aquellos usos que resulten poco éticos. Respecto del derecho en específico, se podría realizar una revisión a los programas dentro de las universidades, e incluir al menos alguna temática relativa a IA en cada área de estudio[16]. Sin embargo, es necesario que dichos cursos sean actualizados constantemente y se ajusten a los avances de la tecnología, evitando que los conocimientos adquiridos pierdan vigencia. En este sentido, una correcta preparación respecto de IA en el derecho no solo beneficiaría a la disciplina, sino que aumentaría la posibilidad de elevar los niveles de confianza desde la ciudadanía hacia quienes resuelven causas judiciales. Adicionalmente, es importante informar a la población acerca de los riesgos que supone la IA en los juicios, con el objetivo de que exijan un proceso justo. De la misma manera, se torna fundamental fomentar la investigación en este nuevo desafío de la justicia, un campo que aún tiene mucho por descubrir.
CONCLUSIÓN
Las nuevas tecnologías han traído consigo sistemas automatizados con un gran potencial, y como se ha expuesto, la IA es uno de los ejemplos más relevantes. Este sistema se ha instaurado en la vida cotidiana de las personas, quienes la utilizan cada vez más para realizar diversas tareas. En este contexto, es lógico que dicha tecnología haya ingresado al ámbito judicial, incorporándose en procesos como los juicios y suponiendo tanto una mejora, como un peligro para dichos procedimientos. Al tratarse de un sistema emergente, la gran mayoría de los países aún no implementan normas para regular su uso. No obstante, la IA ya es una realidad, y no solo se deben analizar sus beneficios, sino que deben identificarse sus riesgos, solo de esta forma se podrá utilizar éticamente, además de desarrollar un marco regulatorio efectivo que mitigue sus repercusiones negativas. Solo de esta manera, se logrará garantizar bajo normas específicas que su uso sea justo y transparente, especialmente en los procesos judiciales. (Santiago, 5 de julio de 2025)
BIBLIOGRAFÍA
Documentos
AMUNÁTEGUI (2021) “Inteligencia artificial y poder judicial. Chile y sus desafíos pendientes”. Disponible en internet: https://cetys.lat/wp-content/uploads/2021/09/chileV3.pdf [Fecha de consulta: 4 de Julio de 2025].
DURAN, J. (2023). “Proyecto de ley de inteligencia artificial. (Boletín 16821-9): Cuando se nos olvida el derecho procesal”. Diario Constitucional. Disponible en Internet: https://www.diarioconstitucional.cl/articulos/proyecto-de-ley-de-inteligencia-artificial-boletin-16821-19-cuando-se-nos-olvida-el-derecho-procesal/ [Fecha de consulta: 4 de Julio 2025].
ENRIQUE SAN JUAN (2024) “Alucinaciones de la inteligencia artificial (IA): Qué son y cómo detectarlas” Disponible en internet: https://www.claseejecutiva.uc.cl/blog/articulos/alucinaciones-inteligencia-artificial-ia/ [Fecha de consulta: 4 de Julio de 2025].
MINISTERIO DE CIENCIA, TECNOLOGÍA, CONOCIMIENTO E INNOVACIÓN DE CHILE. (2025). Decreto N° 12: Aprueba actualización de la Política Nacional de Inteligencia Artificial. Disponible en: https://serviciosleychile.bcn.cl/Consulta/Exportar?radioExportar=Normas&exportar_formato=pdf&nombrearchivo=Decreto12_28ENE2025&exportar_con_notas_bcn=False&exportar_con_notas_originales=False&exportar_con_notas_al_pie=False&hddResultadoExportar=1210664.2025-01-28.0.0# [Consulta: 4 de Julio de 2025].
MINISTERIO DE CIENCIA, TECNOLOGÍA, CONOCIMIENTO E INNOVACIÓN DE CHILE: “Con enfoque basado en riesgos: Gobierno presenta proyecto de ley para regular usos de la inteligencia artificial”, 7 de mayo de 2024. Disponible en: https://www.minciencia.gob.cl/noticias/con-enfoque-basado-en-riesgos-gobierno-presenta-proyecto-de-ley-para-regular-usos-de-la-inteligencia-artificial/ [Fecha Consulta: 4 de Julio de 2025].
MACCHIAVELLI, NIEVES: “Inteligencia Artificial y su Impacto en el Derecho: Un Análisis Crítico desde la Perspectiva Jurídica”, Diario Constitucional, Sábado 5 de octubre de 2024. Disponible en: https://www.diarioconstitucional.cl/2024/10/05/inteligencia-artificial-y-su-impacto-en-el-derecho-un-analisis-critico-desde-la-perspectiva-juridica-por-nieves-macchiavelli/ [Fecha de Consulta: 4 de Julio de 2025].
SCHREIBER: “Bias in Large Language Models—and Who Should Be Held Accountable”. Disponible en internet: https://law.stanford.edu/press/bias-in-large-language-models-and-who-should-be-held-accountable/ [Fecha de Consulta: 4 de Julio de 2025].
UNESCO (2021): “Recomendación sobre la Ética de la Inteligencia Artificial”. Disponible en Internet: https://unesdoc.unesco.org/ark:/48223/pf0000380455_spa [Fecha de consulta: 4 de Julio de 2025].
VEGA, Camilo (2024): “Establecer “riesgos” sin afectar el desarrollo tecnológico: el desafío de legislar en Chile sobre Inteligencia Artificial”, Diario U Chile. Disponible en: https://radio.uchile.cl/2024/05/11/establecer-riesgos-sin-afectar-el-desarrollo-tecnologico-el-desafio-de-legislar-en-chile-sobre-inteligencia-artificial/ [Fecha de Consulta: 04 de Julio de 2025].
DIARIO CONSTITUCIONAL: “Juez brasileño es investigado por redactar un fallo deficiente con ayuda de ChatGPT”, 20 de noviembre de 2023. Disponible en: https://www.diarioconstitucional.cl/2023/11/20/juez-brasileno-es-investigado-por-redactar-un-fallo-deficiente-con-ayuda-de-chatgpt/#:~:text=Las%20autoridades%20brasile%C3%B1as%20han%20iniciado%20una%20investigaci%C3B%20disciplinaria,sido%20cuestionado%20por%20sus%20numerosos%20errores%20de%20fondO [Fecha de consulta: 04 de Julio de 2025].
UNIVERSIDAD CATÓLICA DEL MAULE (2024): “Impacto y uso de la inteligencia artificial en el ámbito jurídico”. Disponible en Internet: https://portal.ucm.cl/noticias/impacto-uso-la-inteligencia-artificial-ambito-juridico [Fecha de consulta: 04 de Julio de 2025].
Fuentes formales del Derecho
Constitución Política de la República de Chile.
UNIÓN EUROPEA: Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo relativo a la inteligencia artificial (Ley de Inteligencia Artificial), Articulo 1, (12 de junio de 2024)
[1] Amunátegui (2021)
[2] Ministerio de ciencias, decreto Nº12 (2025)
[3] Diario constitucional (2023)
[4] Enrique San Juan (2024)
[5] Universidad Católica del Maule (2024)
[6] Schreiber (2025) Los sesgos en la inteligencia artificial son generados a partir de la información con la que fue entrenada, la cual los humanos le integran. De esta forma si la IA recibe un dato que contenga una discriminación de cualquier tipo, su sistema tenderá a repetirlo. Tal factor puede afectar gravemente al principio de igualdad ante la ley.
[7] Ministerio de Ciencias (2024)
[8] Constitución, Art. 76 (D.O. 2005)
[9] Vega (2024)
[10] Macchiavelli (2024)
[11] Reglamento UE 2024/1689, art. 1 (2024)
[12] Constitución, Art. 19 (D.O. 1997)
[13] Unesco (2021), P.1
[14] Duran (2023)
[15] Unesco (2021) P.23
[16] Universidad Católica del Maule (2024)
