Legalidad y revisión humana: estándar constitucional ante decisiones automatizadas, por Rodrigo Alvarez Seguel

El principio de legalidad enfrenta hoy un nuevo desafío: la creciente automatización de decisiones públicas a través de sistemas de inteligencia artificial. La promesa de eficiencia no puede traducirse en una delegación opaca del poder, sino en una revisión crítica de sus límites constitucionales. Lo que está en juego no es solo cómo funciona el Estado, sino quién responde cuando una máquina se equivoca..

La creciente incorporación de sistemas de inteligencia artificial (IA) en procesos públicos y privados impone nuevos desafíos al principio de legalidad consagrado en el artículo 7° de la Constitución. Este principio, núcleo del Estado de Derecho, no solo exige que los órganos del Estado actúen dentro del ámbito de sus competencias y conforme a la ley, sino que también implica estándares de trazabilidad, motivación y control que deben respetarse incluso y con mayor razón, cuando intervienen sistemas automatizados.

La recientemente promulgada Ley N° 21.719, publicada en el Diario Oficial el 8 de mayo de 2024 y con entrada en vigencia diferida de veinticuatro meses, establece por primera vez en el ordenamiento chileno un marco normativo integral para la protección de datos personales. Entre sus principales avances se encuentra la regulación de los tratamientos automatizados de datos y la consagración de derechos específicos ante decisiones individuales basadas exclusivamente en dichos tratamientos.