Las autoridades brasileñas han iniciado una investigación disciplinaria contra un juez federal por el presunto uso inapropiado de la herramienta de inteligencia artificial (IA) ChatGPT, que empleó para redactar un fallo que ha sido cuestionado por sus numerosos errores de fondo. Los especialistas estiman que el programa sufrió una “alucinación”; problema recurrente en ChatGPT que en ocasiones le induce a inventar respuestas.
El Consejo Nacional de Justicia (CNJ), organismo disciplinario y supervigilante cuyo objetivo es mejorar el funcionamiento del sistema judicial, ha solicitado explicaciones al juez luego de que la decisión en cuestión incluyera secciones incorrectas basadas en expedientes procesales falsos atribuidos al Supremo Tribunal de Justicia de Brasil (STJ).
Noticia Relacionada
En su defensa, el magistrado argumentó que las discrepancias resultaron del uso inadecuado de una herramienta virtual de búsqueda de jurisprudencia y que la decisión fue preparada por un «asesor de confianza». En sus propias palabras, señaló que “las inconformidades resultaron del uso, por parte de la consultora, de alguna herramienta virtual de búsqueda de jurisprudencia que resultó inadecuada»
Así, el juez ha calificado la situación como un simple error, atribuyéndolo a la sobrecarga de trabajo que enfrentan los jueces. Además, afirmó que el autor del error era un asesor experimentado de su despacho, por lo que no consideró necesario revisar cada una de los precedentes citados incorrectamente.
El CNJ concedió al juez un plazo de 15 días para proporcionar aclaraciones adicionales. Según el propio organismo, este caso podría ser el primero de su tipo en Brasil, donde el uso de herramientas de inteligencia artificial en los tribunales está en aumento, a pesar de ser una práctica aún no regulada.