I.- ¿Qué es la Inteligencia Artificial?

La Inteligencia Artificial (IA) está en todas partes: en nuestras casas, en nuestros celulares, en nuestros lugares de trabajo, en nuestros computadores y en el espacio público. Pero: ¿En qué consiste, en específico, la IA? En términos muy sencillos, importa que una máquina puede pensar o actuar tal como un ser humano. Y: ¿Cómo funciona la IA? Simplemente, conforme a la siguiente secuencia:

datos > algoritmos > acción

En esa secuencia, destacan los algoritmos (de hecho, habitualmente se alude a la IA haciendo referencia a ellos), los cuales no son más que instrucciones (y que habitualmente se estructuran como flujogramas) que son insertados en la máquina o aprendidos por ésta. Entonces, incorporando datos a la máquina, ellos son procesados conforme a los algoritmos, y aquélla realiza una acción configurada por éstos.

Un ejemplo de todos los días: Prendemos el televisor, abrimos una aplicación de películas y series, y ésta nos señala: “Película X: 92 % recomendada para ti”. Entonces pensamos, cuando ha acertado con nuestros gustos (lo cual ocurre prácticamente siempre): “la máquina nos conoce más que nosotros mismos”. E incluso es más, cuando abrimos la aplicación con el propósito de ver una determinada película o serie (ya que sobre ella hemos escuchado muy buenos comentarios): ¡Sorpresa! Justo es la que nos recomienda la aplicación. Entonces pensamos: “la máquina, además, puede predecir nuestros comportamientos”.

Pues bien, no es ni psicología ni parapsicología: ¡Ahí ha operado la IA! A la máquina le hemos incorporado –sin saberlo- datos (nuestros comportamientos pasados –que conforman el denominado “historial”-) > en base a esos datos han operado los algoritmos (creados por un humano o bien también aprendidos por la propia máquina, a la luz del comportamiento de miles sino millones de otros usuarios) > la máquina ha realizado la acción configurada por éstos (ha realizado determinada recomendación de una película o una serie).

II.- El “juez-robot”

El “tecnoptimismo”.- Algunos, que denominamos “tecnoptimistas”, han planteado replicar aquello en relación a la Justicia, vale decir, de un conjunto de sentencias de una corte, tribunal, sala, juez, etcétera, extraer ciertos “patrones” y en base a ellos elaborar algoritmos, e incorporarlos a una máquina, la que así podría impartir justicia (se trataría de lo que podríamos denominar justicia-algorítmica). Ello funcionaría de la siguiente manera: incorporamos datos a la máquina (el expediente de una causa) > dichos datos serían procesados por la máquina de acuerdo a algoritmos (elaborados a partir de “patrones” extraídos de sentencias previas) > la máquina realizaría la acción configurada por éstos (la sentencia).

Así, los “tecnoptimistas” han planteado derechamente el fin de la Justicia tal como hasta el día de hoy la conocemos, pues han anunciado el reemplazo del juez-humano por el juez-robot. Al efecto destacan ciertas ventajas que tendría este último: juzgaría con mayor rapidez y maximizaría la igualdad ante la ley. Respecto de lo primero, recuerdan que el tiempo es oro y que en tribunales, justicia; y respecto de lo segundo, los distintos estudios que afirman que las decisiones de los jueces-humanos varían según éstos tienen hambre o no; en tanto que, destacan, el algoritmo no tiene hambre.

Esta visión “tecnoptimista” marca el punto de partida de la discusión sobre el empleo de la IA en la Justicia, y explica, a su vez, la general reticencia del mundo judicial en relación a ella.

El anti-“tecnoptimismo”.- Lentamente, ha surgido una corriente contraria, que podemos denominar anti–“tecnoptimista”, y que en lo medular es escéptica a la tesis conforme a la cual el empleo de la IA en la Justicia significará el reemplazo del juez-humano por el juez-robot. Esta corriente se ha fundado en dos ideas claves: la relevancia de la justicia y los problemas de la IA.

En cuanto a la relevancia de la justicia: se ha señalado que ella no es algoritmizable, vale decir, no se puede reducir a un conjunto de instrucciones. En este sentido, se ha planteado que impartir justicia es un “arte”, que exige aplicar, por una parte, leyes, interpretables e insertas dentro de sistemas normativos, y por otra, principios, sentido común, criterio, contexto, etcétera (todo lo cual es ajeno a la máquina y propio del ser humano). Del mismo modo, se ha destacado la inconveniencia de “petrificar” o “fosilizar” la jurisprudencia, pues ésta debe ser sometida a una permanente reflexión crítica, a fin de determinar su mantención o bien su reemplazo.

En cuanto a los problemas de la IA: se ha advertido lentamente que ésta presenta “zonas oscuras”, entre los cuales destaca el hecho que los algoritmos no son tan objetivos como, en un principio, se creía. ¡Tienen sesgos! Así se ha descubierto algoritmos racistas, clasistas, machistas, etcétera. Y si ello es inadmisible siempre!!! Lo es aun más en el contexto de la Justicia!!! Esto se produce por dos razones: (i).- ellos son creados por seres humanos, y éstos tienen sesgos, mismos que se los “transmiten” consciente o inconscientemente; o bien (ii).- los propios algoritmos, habilitados para aprender a partir de la conducta humana, de ésta los aprenden. Y en este último caso se ha generado un problema aún peor: su existencia y el lugar en el que “alojan” en la máquina son desconocidos incluso para su propio creador, razón por la cual se les ha venido en denominar coloquialmente “cajas negras”.

Es así como en la experiencia comparada es posible hallar casos en los que decisiones en relación a la Justicia son adoptadas por una máquina (o bien a ellas inercialmente adhiere un juez, sin revisarlas), conforme a algoritmos sesgados (que así aplican un “Derecho” en abierta contradicción con el Derecho propiamente tal, en tanto éste ha prohibido y sancionado conductas que evidencien tales sesgos), mismos que muchas veces están “alojados” en la “caja negra” de la máquina (que por ello son desconocidos incluso para el creador de ésta), y a los que los afectados no pueden tener acceso, y de esta forma tampoco a los fundamentos de la decisión (porque ellos son desconocidos para el creador de la máquina o bien porque ésta es de propiedad de una empresa privada –se trata de un prestador externo- y sus algoritmos están protegidos por la propiedad intelectual).

Pues bien, en atención a tales críticas, y a otras, se ha consolidado la idea de que cualquier forma de aplicación de la IA en la Justicia debe hacerse con prudencia (prevención y precaución). Incluso en algunos países se ha planteado derechamente el establecimiento de una moratoria hasta que no se cuente con sólidas y precisas bases éticas al respecto. Con todo, ya se han configurado dos exigencias mínimas: (i).- Cualquier empleo de la IA en la Justicia debe contar con la revisión de un humano. Se habla así de la reserva de humanidad e incluso algunos autores ya han llamado la atención sobre la necesidad de reconocer el derecho fundamental al decisor humano; y (ii).- Los algoritmos deben estar sujetos a sistemas de control. Así se ha planteado, por una parte, que cualquiera puede solicitar acceso a ellos y, de esa forma, conocer la razón por la cual la máquina ha arribado a una determinada decisión; y por otra, que ellos deben ser sometidos a una certificación periódica por órganos externos e independientes, a fin de verificar que no presenten sesgos.

III.- El “asistente-robot” del juez

En atención a lo anterior, se ha ido asentando la idea de que el empleo de la IA en la Justicia no importará, como los “tecnoptimistas” afirman, el reemplazo del juez-humano por el juez-robot, mas sí, una muy importante colaboración y asistencia a aquél, y que englobamos en el concepto asistente-robot del juez.

Esa colaboración de la IA en la Justicia se puede dar de múltiples maneras, por ejemplo, a través de sistemas de selección de casos (muy necesarios en tribunales en los cuales ingresan diariamente una ingente cantidad de una determinada clase de acción, recurso, etcétera, y con el fin de que seleccione o priorice en razón de la urgencia u otros criterios); sistemas de revisión de requisitos formales (a fin de que revise el cumplimiento de requisitos procesales objetivos como, por ejemplo, si se han acompañado a un escrito determinados documentos exigidos perentoriamente por la ley); sistemas de tasaciones (a fin de que fije con objetividad el monto de pensiones, multas, fianzas, indemnizaciones, etcétera); etcétera.

Ahora bien, en relación a la sentencia, la asistencia de la IA al juez se puede plasmar en:

(i).- Sistemas buscadores de jurisprudencia. El clásico, en el que el propio juez busca la jurisprudencia (él establece el criterio y él selecciona la pertinencia de las coincidencias reportadas por el sistema con el caso del que conoce). Y otros complejos: el sistema a partir del expediente del caso, reconoce “patrones” conforme a los cuales realiza la búsqueda de la jurisprudencia pertinente e incluso es más: otorga, sistematizadamente, argumentos posibles, a partir de esa jurisprudencia, tanto a favor como en contra. Mas este último sistema suscita varias dudas: ¿Debe agregarse ese informe al expediente? ¿Debe conferirse traslado a las partes de ese informe a fin de que éstas, si así estiman, puedan requerir su rectificación o complementación? ¿Qué pasa si el informe conforme al cual el juez ha dictado sentencia es incompleto (por ejemplo, omite una sentencia cuyo conocimiento por aquél hace presumir que habría adoptado una decisión diversa)? ¿Habría en este caso falta de fundamentación –indirecta- de la sentencia?

(ii).- Sistemas que redactan borradores de sentencias. Se trata de sistemas que, a partir del expediente, reconocen “patrones” conforme a los cuales proponen al juez la decisión, y sus fundamentos, en forma de borrador de sentencia. Se destaca por sus promotores que en este caso es el juez quien finalmente decide, no la máquina. Con todo, acá nuevamente se suscitan varias dudas: ¿No habrá una inclinación natural por parte del juez en orden a adherir al borrador de la máquina por “deferencia tecnológica” (así bien podríamos hablar de una suerte de “robotización” del juez o derechamente del “juez-robotizado”)?. Y si el juez no sigue el borrador de la máquina: ¿Debe motivar el porqué no se ha conformado a ese borrador? Y, además, si una parte se siente agraviada por ello: ¿Debiera consagrarse un recurso en contra de la sentencia por no seguir el juez ese borrador? Preguntas todas ellas en las que subyace la siguiente: ¿Quién es más juez? ¿El juez o el algoritmo?

IV.- Conclusión

En suma, el empleo de la IA en la Justicia no importará, como los “tecnoptimistas” afirman, el reemplazo del juez-humano por el juez-robot, mas sí, una muy importante colaboración y asistencia a aquél, y que englobamos en el concepto asistente-robot del juez. Esta conclusión es sencilla, pero muy importante a fin de evitar el error que con graves consecuencias se incurrió en el pasado, en relación al rol del juez, a instancias de otros “tecnoptimistas”.

En efecto, en el Siglo XVIII, Europa conoció una nueva tecnología que guarda cierta analogía con la IA (bien puede ser entendida como antecedente de ésta): los autómatas, muñecos que en base a un mecanismo interior ejecutaban con la mayor naturalidad ciertos movimientos determinados por un engranaje central. Obnubilados con ellos, los “tecnoptimistas” de la época quisieron replicarlos en el “mundo de las instituciones”, y así entendieron que el juez debía actuar como un autómata más, de suerte tal que su rol no debía ser otro que aplicar la ley. Montesquieu, en este sentido, afirmó que el juez sólo era “la boca que pronuncia la palabra de la ley”, expresión ésta que “penó” por siglos en las Ciencias Jurídicas y que se erigió como un –indebido- freno a la actividad judicial, así estrictamente circunscrita dentro de los linderos de la ley positiva, en detrimento del Derecho y de la justicia. (Santiago, 26 noviembre 2021)

[Transcripción de la exposición homónima presentada ante el Pleno de la Excma. Corte Suprema el pasado 08/11/2021]