Inteligencia artificial en la justicia: ¿más eficiencia o nuevas amenazas para las garantías?

1. La inteligencia artificial ya está entrando en tribunales y estudios jurídicos. ¿Puede realmente mejorar la justicia o existe el riesgo de incorporar eficiencia a costa de garantías fundamentales? ¿Dónde está hoy el principal beneficio y dónde el mayor peligro?

Toda innovación tecnológica inevitablemente genera riesgos y beneficios. En cada momento de ruptura, las personas expresan ciertos miedos y surgen nuevos desafíos prácticos. Yo mismo viví otro momento de transición tecnológica relevante en los 90, con la llegada de los computadores personales. La expansión de microordenadores, editores de texto y acceso a internet ha cambiado profundamente las formas de trabajar y las habilidades requeridas por los profesionales. Por ejemplo, intuyo que la duración media de las decisiones ha aumentado gracias a la facilidad de copiar y pegar, así como al uso de decisiones estandarizadas. Los precedentes judiciales se hicieron más accesibles gracias a sistemas informatizados para investigar jurisprudencia.

Estos cambios en las formas de trabajar y en las habilidades requeridas por juristas y estudiantes también se producen en el escenario actual, con la introducción de la IA, que es una herramienta excepcional, pero que requiere que los profesionales sepan cómo utilizarla. Por ejemplo, es necesario tratar el sesgo de adulación, en el que el modelo elogia sin crítica la producción del usuario para hacer su experiencia más agradable y promover su retención en la herramienta. Además, la IA generativa tiende a no cuestionar la veracidad de los datos reportados en el prompt, ya que no verifica la realidad factual como lo haría un humano dotado de sentido crítico. El juez humano evaluaría la coherencia fáctica y práctica, mientras que la máquina tiende a entregar el resultado solicitado sin cuestionar las suposiciones proporcionadas. Observo este problema incluso en el ámbito académico, donde los candidatos para selecciones de posgrado presentan proyectos frágiles porque han recibido validaciones conformes de la herramienta, en lugar de requerir un análisis riguroso.

Transponiendo esta dinámica al Poder Judicial, la situación se vuelve preocupante, ya que los tribunales deben ser muy rigurosos ante testimonios, documentos y acusaciones. La herramienta es excelente para comprobar coherencias, organizar datos y realizar cálculos complejos, pero una pregunta simplista como "haz una votación" suele dar resultados pobres. Por lo tanto, el mayor riesgo actual radica en el uso irresponsable, rozando la mala praxis técnica, de quienes aplican IA a tareas legales complejas sin el dominio adecuado, llegando incluso a tomar decisiones con motivos ficticios. Por otro lado, el beneficio central reside en la mejora de eficiencia para el cribado, clasificación y procesamiento de demandas repetitivas de masa, siempre que existan metodologías de prueba continuas para validar la solidez de los prompts y evitar una sustitución acrítica del juicio humano.

Recientemente, al solicitar la revisión de citas en un artículo académico de mi autoría, descubrí que la herramienta inventaba una referencia bibliográfica completa para un libro que había sido citado a lo largo del texto, con solo el autor y la fecha. Como la IA opera estadísticamente a partir de fragmentos de lenguaje, reconstruye el contenido de una manera muy creíble, aunque puede ser falsa. En el campo del Derecho, este mismo comportamiento puede llevar a la invención de precedentes que comprometen la validez de la argumentación, y la responsabilidad funcional recae exclusivamente en el profesional que suscribe el artículo, por lo que no es apropiado transferir la culpa a becarios, modelos de IA o sus desarrolladores.

Para entender los impactos de la IA, debemos prestar atención a la relación de los usuarios con la herramienta y evitar la tentación del "determinismo tecnológico", que supone que los impactos sociales de una tecnología inevitablemente resultan de las características de la herramienta. Podríamos centrar nuestros esfuerzos en desarrollar estrategias para usar IA que impliquen pruebas que evalúen concretamente el potencial de las herramientas y aborden sus limitaciones. La facilidad de acceso doméstico a modelos generativos gratuitos ha llevado a los operadores a adoptarlos individualmente y sin la debida precaución. Un profesional que opta por este uso informal y acrítico asume riesgos excesivos, porque una decisión basada en premisas falsas y argumentos fabricados puede causar pérdidas graves y grandes reparaciones civiles, sin que los implicados tengan claro los límites de las herramientas y las repercusiones institucionales de sus actos.

2. En una justicia cada vez más digitalizada, ¿basta con poder presentar una demanda para hablar de acceso a la justicia? ¿La inteligencia artificial amplía ese derecho o puede crear nuevas barreras para quienes no tienen acceso, conocimientos tecnológicos o capacidad para cuestionar decisiones automatizadas?

De hecho, ambos movimientos ocurren simultáneamente. Por un lado, en demandas administrativas, apelaciones de tráfico o dentro del ámbito de los Tribunales Especiales, la tecnología puede dar autonomía a los ciudadanos para formular sus propias reclamaciones con mejor estructuración que la que harían individualmente. En un contexto de profunda desigualdad, como el de Brasil, los riesgos asociados a este acceso mediado por IA pueden ser preferibles a la inviabilidad de un asesoramiento especializado. Además, se vuelve factible promover solicitudes cuyo coste no justifique la contratación de un abogado.

Por otro lado, surge aquí un dilema análogo al que ocurre en el despido de un abogado en los Tribunales Laborales: hacer factible la petición sin asistencia técnica no siempre conduce a una protección efectiva, lo que a menudo resulta en la pérdida de causas legítimas y la consolidación de asimetrías económicas. Además, la desigualdad entre las partes se profundiza, debido a la disparidad de armas entre quienes contratan modelos sofisticados de pago, mucho más precisos y con menor tasa de error, y quienes usan versiones gratuitas y limitadas. Por tanto, no podemos homogeneizar las herramientas bajo la etiqueta genérica de "inteligencia artificial", porque su distribución de calidad es notablemente desigual.

Brasil ha desarrollado una inversión continua e histórica en tecnologías de la información aplicadas al Poder Judicial, operando con procesos completamente digitales durante mucho tiempo. El enorme volumen de litigios siempre ha impuesto al país la necesidad de innovar tecnológicamente para mantener el flujo procesal, y esta infraestructura digital consolidada sirvió de base para la incorporación de la IA.

Esta distinción deriva directamente del modelo constitucional, ya que Brasil es una federación y Chile adopta la forma de un estado unitario. Esta matriz cambia radicalmente la gobernanza: vivimos con 27 tribunales estatales autónomos, sumados a las ramas de Justicia Federal, Laboral y Militar, cada uno con sus propios sistemas de procesamiento. Por lo tanto, aunque el país está completamente informatizado de principio a fin y el Consejo Nacional de Justicia centraliza la gobernanza y el flujo de datos a nivel nacional, aunque predomine el sistema oficial CNJ, aún existen algunas plataformas propias y su uso por cada unidad tiene particularidades, lo que requiere un esfuerzo constante para estandarizar y construir modelos capaces de articular toda esta multiplicidad.

3. En Brasil, dos abogadas fueron sancionadas tras utilizar una técnica de prompt injection para alterar el comportamiento de un sistema de inteligencia artificial empleado en un procedimiento judicial. ¿Estamos ante una conducta excepcional o frente a una nueva forma de manipulación tecnológica que obligará a redefinir los deberes éticos de los abogados?

Sin duda, este es un comportamiento poco ético y manipulador, aunque no constituye un riesgo estructural insoluble para los tribunales. Desde un punto de vista técnico, es perfectamente factible erigir barreras de seguridad informática que separen el contenido de las peticiones externas de los mandatos institucionales y prompts ejecutados por los magistrados. Este tipo de vulnerabilidad proviene precisamente del manejo amateur, cuando el propio servidor copia partes de terceros directamente a interfaces públicas no protegidas y sin las precauciones necesarias. No estamos ante una vulnerabilidad que obligue a abandonar el uso de estas herramientas, sino ante un problema que puede ser enfrentado mediante una arquitectura técnica adecuada y protocolos institucionales de seguridad.

A medida que los tribunales perfeccionan sus protocolos, los abogados también calibrarán sus estrategias de redacción, impulsando un proceso de maduración técnica recíproca. La utilización de nuevas herramientas genera una adaptación entre quienes las emplean y las instituciones que deben proteger sus sistemas. Además, la gran mayoría de los asuntos judiciales implica rutinas estandarizadas y la liquidación de cálculos, como en asuntos de seguridad social, donde la automatización proporciona agilidad sin perjudicar sustancialmente la calidad de la provisión jurisdiccional. No deberíamos pensar que cualquier vulnerabilidad asociada a la automatización tiene el mismo impacto sobre la actividad jurisdiccional. Hay usos en los que los riesgos pueden ser controlados con relativa facilidad y otros en los que debemos adoptar mayores precauciones.

Este debate ético es una prioridad y es permanente, no solo porque el mal uso de la tecnología perjudica a la propia profesión jurídica. Al fin y al cabo, ningún profesional quiere patrocinar causas en un entorno susceptible a manipulaciones algorítmicas o frases basadas en alucinaciones fácticas y jurisprudenciales. En sistemas legales que no cuentan con entidades corporativas obligatorias, como el chileno, es esencial estructurar instancias administrativas rápidas de responsabilidad ética para permitir la adopción de estrategias que mitiguen el daño potencial de comportamientos que distorsionan o manipulan las prácticas profesionales basadas en IA.

La cuestión, por tanto, no consiste solamente en determinar qué conductas son éticamente reprochables, sino también en crear mecanismos capaces de detectarlas, prevenirlas y sancionarlas. La incorporación de estas tecnologías exige que los deberes profesionales existentes sean acompañados por una infraestructura institucional capaz de hacerlos efectivos. Así, la maduración tecnológica debe producirse simultáneamente en los tribunales, en la abogacía y en los mecanismos de control.

4. En Chile, un abogado ingresó 38.477 escritos mediante herramientas automatizadas, sobrecargando la plataforma judicial y dejando miles de presentaciones sin procesar. ¿Demuestra este episodio que los tribunales no están preparados para enfrentar la automatización masiva? ¿Debe limitarse tecnológicamente este tipo de uso o hacerlo podría afectar el acceso a la justicia?

Este episodio es similar al fenómeno de litigios abusivos que experimentamos en Brasil, caracterizado por estrategias procesales que sobrecargan indebidamente la infraestructura de los tribunales. También causa sobrecarga el enorme raspado promovido por las legaltechs. En ambos casos, el problema no está necesariamente en la existencia de una herramienta tecnológica, sino en la posibilidad de utilizarla de una manera que desborde las capacidades previstas por la infraestructura judicial.

Sin embargo, tales ocurrencias no demuestran la incapacidad estructural de los tribunales, requiriendo únicamente respuestas de seguridad específicas, como bloqueos de scripts, limitación de solicitudes o la construcción de APIs que permitan un uso más controlado de la infraestructura. El verdadero desafío es calibrar estos mecanismos técnicos de defensa para contener el fraude y las sobrecargas, sin que esto sirva como un subterfugio para crear obstáculos injustificados a la publicidad de actos procesales y a la transparencia de la información pública. La respuesta institucional debe ser suficientemente eficaz para proteger el funcionamiento del sistema, pero también suficientemente limitada para no transformar las medidas de seguridad en restricciones generales al acceso a la información.

Las características de una tecnología no determinan fatalmente sus consecuencias, ya que sus impactos resultan de su vinculación con las decisiones políticas de gobernanza y regulación que toma una sociedad. Los avances tecnológicos abren nuevas posibilidades laborales, y corresponde a la política decidir democráticamente qué acomodar, limitar o prohibir. Así como el debate contemporáneo sobre plataformas y redes sociales no gira en torno a su existencia técnica, sino a los impactos sociales de sus modelos de negocio, el desafío que enfrenta la IA en el poder judicial radica en definir las salvaguardas institucionales necesarias para proteger los derechos y garantizar la transparencia. En este sentido, la cuestión no consiste en impedir la innovación, sino en construir mecanismos de gobernanza capaces de acompañar los cambios tecnológicos y responder a los nuevos riesgos a medida que aparecen.

Esto exige distinguir entre usos legítimos y abusivos, porque una misma tecnología puede servir para facilitar el trabajo de los profesionales y, al mismo tiempo, ser utilizada para generar una carga desproporcionada sobre la estructura judicial. Por eso, antes de pensar en prohibiciones amplias, me parece más adecuado identificar qué comportamiento se quiere evitar y diseñar una respuesta proporcional a ese riesgo. La regulación debe acompañar el desarrollo tecnológico sin perder de vista que la transparencia y el acceso a la justicia también son bienes que deben ser protegidos.

5. Los sistemas de inteligencia artificial pueden procesar enormes cantidades de información judicial y datos personales. ¿Quién debe controlar qué información utilizan, para qué se utiliza y cuánto tiempo permanece almacenadas? ¿El actual sistema de protección de datos y hábeas data es suficiente frente a estas tecnologías?

Es necesario aclarar, inicialmente, que el habeas data brasileño es un instituto históricamente anticuado, concebido en el proceso de redemocratización para permitir el acceso a archivos secretos estatales de represión política, y que no fue diseñado para los desafíos del ecosistema digital masivo contemporáneo. Por ello, aunque siga cumpliendo una función importante, sus mecanismos deben ser comprendidos dentro de un contexto tecnológico muy diferente de aquel en que fueron concebidos.

En cuanto a los actos procesales, sostengo que los fundamentos de los tribunales, los datos y la toma de decisiones deben permanecer ampliamente abiertos y públicos. Los magistrados son agentes estatales en el ejercicio de la función pública, por lo que la sociedad y la academia necesitan estos metadatos para supervisar la acción judicial, detectar disparidades raciales o de género en la aplicación penal y permitir políticas basadas en pruebas empíricas. Por tanto, salvaguardados los datos estrictamente sensibles y muy personales, como los CPF (equivalente a los RUT en Chile) y los registros íntimos, deben rechazarse las restricciones genéricas sobre la publicidad, como el modelo francés de protección de la "intimidad" del juez, que debilita el control social y la rendición de cuentas. La transparencia, en este sentido, no es solamente una cuestión de acceso a la información, sino también una condición para evaluar empíricamente cómo funciona la justicia.

Aunque existen iniciativas institucionales específicas, la instalación de infraestructuras locales propietarias a gran escala sigue siendo una excepción restringida. En la práctica cotidiana, jueces y evaluadores, presionados por objetivos voluminosos, acaban recurriendo a firmas personales de modelos avanzados en sus ordenadores privados, ya que las herramientas estandarizadas proporcionadas por los tribunales no siempre cumplen con la complejidad de la demanda. Este vacío corporativo introduce vulnerabilidades graves, dado no solo el riesgo concreto de inserción inadvertida de información procedimental confidencial en servidores externos privados sin gobernanza institucional, sino principalmente el riesgo de un uso acrítico y no transparente de las herramientas disponibles. Por eso, el problema no se resuelve solamente mediante prohibiciones, sino también mediante infraestructuras institucionales adecuadas, reglas claras y capacitación de quienes utilizan estas herramientas.

6. Se habla de una etapa de “post-regulación”: primero se introduce la tecnología y después se intenta regular sus consecuencias. ¿Puede el Poder Judicial permitirse experimentar bajo esa lógica o las reglas deberían existir antes de incorporar inteligencia artificial en decisiones que afectan derechos fundamentales?

En la práctica, no veo una alternativa viable más allá de la incorporación gradual y la observación de la experiencia concreta. Intentar imponer moratorias o prohibiciones previas abstractas dentro del Poder Judicial es ineficaz, ya que no impide su uso: solo empuja la práctica a la clandestinidad y la informalidad en los teléfonos móviles y ordenadores personales de los operadores en un régimen de teletrabajo. Por eso, aunque exista un riesgo evidente en determinadas formas de utilización, la prohibición formal no necesariamente elimina el problema, sino que puede hacerlo menos visible y, por tanto, más difícil de controlar institucionalmente.

A diferencia de la era de los mainframes centralizados de los años 70, el modelo actual reside en dispositivos portátiles pulverizados, lo que hace inviable el control físico estricto del equipo. Por lo tanto, en lugar de mantener meramente prohibiciones formales que solo trasladan la responsabilidad subjetiva al individuo, la vía institucional adecuada es desarrollar proyectos piloto controlados, establecer parámetros regulatorios claros y proporcionar infraestructuras públicas seguras y de alto rendimiento a los operadores. Esto permitiría que las instituciones conozcan de manera concreta los beneficios y riesgos de las herramientas antes de ampliar su utilización, creando también condiciones para corregir los problemas que aparezcan durante el proceso.

Aunque la previsión formal puede ser similar, la realidad empírica brasileña tras la pandemia ha consolidado el uso rutinario de equipos privados en el trabajo remoto. El sistema legal suele operar con ficciones en las que la institución lo prohíbe formalmente para eximirse de la responsabilidad funcional ante cualquier transgresión, mientras que los funcionarios continúan buscando los recursos computacionales más avanzados para cumplir sus rutinas. Si el gobierno no proporciona herramientas oficiales de última generación, el tráfico informal de datos por correo electrónico y medios externos se convierte en un hecho inevitable, cuya dimensión debe ser mapeada mediante una investigación empírica seria.

Por eso, me parece más adecuado reconocer esta realidad y desarrollar mecanismos institucionales capaces de gobernarla. La cuestión no es simplemente permitir o prohibir, sino comprender cómo se está utilizando la tecnología, qué riesgos concretos genera y qué condiciones pueden establecerse para que su utilización sea segura. Una gobernanza efectiva debe poder adaptarse a la experiencia y corregirse a medida que aprendemos, en lugar de depender exclusivamente de prohibiciones que pueden no corresponder con las prácticas reales de los operadores.

7. Si la inteligencia artificial termina participando de manera relevante en la administración de justicia, ¿Qué límites deberían ser infranqueables? ¿Debe existir siempre intervención humana, explicación de las decisiones y posibilidad real de impugnar el funcionamiento del algoritmo?

Sin duda, estos son límites absolutamente insalvables. La intervención y supervisión humana son obligatorias porque todo nuestro sistema jurídico está estructurado bajo la premisa de imputación de responsabilidad subjetiva: la máquina carece de personalidad jurídica y no es responsable civil, penal ni administrativa por actos jurisdiccionales. Así, si un magistrado suscribe una decisión redactada por IA, la responsabilidad legal por cualquier nulidad, precedente falsificado o motivo delirante es total e indelegable suya. El uso de una herramienta tecnológica no modifica quién ejerce la jurisdicción ni puede convertir a la máquina en un sujeto responsable por las consecuencias jurídicas de una decisión. La tecnología puede auxiliar al juez en determinadas tareas, pero no puede sustituir la atribución jurídica de responsabilidad que corresponde a quien ejerce la función jurisdiccional.

Además, en la etapa tecnológica actual, los modelos generativos presentan evidentes limitaciones cualitativas, siendo incapaces de articular múltiples capas evaluativas complejas, como la consideración de la función social de los contratos de arrendamiento o las demandas de justicia distributiva en el sistema económico. Delegar el acto de toma de decisiones a la máquina sin parámetros estrictos constituye imprudencia institucional, especialmente dada la falta de pruebas empíricas que demuestren la fiabilidad de los algoritmos. El mayor peligro inmediato radica precisamente en los ingenuos, poco educados y carentes de reflexión crítica que se hacen de estas herramientas. No se trata solamente de que la herramienta pueda cometer errores, sino de que el usuario puede no estar preparado para reconocerlos, cuestionarlos y evaluar sus consecuencias jurídicas.

Esto es un hallazgo empírico y no meramente filosófico: hoy en día los resultados técnicos no ofrecen la seguridad necesaria para respaldar ninguna transferencia de competencia en la toma de decisiones. No debe descartarse dogmáticamente que, en el futuro, los algoritmos puedan alcanzar una precisión comparable o incluso superior a la humana, pero cualquier inflexión de este tipo dependerá de pruebas científicas sólidas y pruebas de validación que aún no disponemos. Antes de cualquier transferencia de competencia sería necesario demostrar que los sistemas pueden operar con niveles de confiabilidad compatibles con las exigencias propias de la función jurisdiccional. Mientras esa evidencia no exista, la intervención humana no debe entenderse como una formalidad, sino como una garantía esencial.

Por eso, el punto no es rechazar de manera absoluta la evolución tecnológica, sino reconocer los límites que existen en el momento actual. Si algún día los resultados técnicos permitieran considerar una participación decisoria mucho más profunda de los algoritmos, esa posibilidad tendría que estar respaldada por evidencia científica robusta y por mecanismos de validación capaces de demostrar que no se están sacrificando las garantías fundamentales que estructuran el ejercicio de la jurisdicción.