La IA en el Sistema Judicial amenaza la independencia y el debido proceso advierte la ONU

Un reciente informe de la Relatora Especial sobre la independencia de magistrados y abogados, dependiente del Consejo de Derechos Humanos de las Naciones Unidas, analiza el impacto de los sistemas de inteligencia artificial (IA) en la función judicial y en el ejercicio independiente de la abogacía.

El documento destaca que la introducción de la IA en la administración de justicia —a través de herramientas de análisis predictivo, gestión de expedientes o apoyo a decisiones— ofrece oportunidades de eficiencia, pero también plantea riesgos graves si no se establecen salvaguardas adecuadas.

Según el texto, el uso creciente de sistemas automatizados en los tribunales podría comprometer la autonomía decisional de jueces y magistrados, sobre todo cuando los algoritmos emiten sugerencias o predicciones que influyen en la valoración de pruebas o en la determinación de sentencias. “La tendencia humana a seguir las recomendaciones de los algoritmos y a confiar en la calidad aparentemente científica de la IA puede, de forma casi imperceptible, erosionar la discrecionalidad judicial y conducir al sesgo de automatización”, advierte el informe.