1. Todo operador jurídico sabe, desde los primeros años de estudio, que el Derecho Público, Constitucional y Administrativo que rige la actuación de la Administración del Estado, se debe a y se limita por el Principio de Legalidad y por la Jerarquía de las Fuentes del Derecho Administrativo. La exigencia basal de que sólo una norma legal determine las competencias, funciones y potestades de los órganos de la Administración (OAE) no es una barrera obtusa e injusta: es la mayor medida de tutela para los administrados y un freno para el posible desborde en la gestión de las Administraciones de turno. La vigencia de los artículos 7°, 63° y 65° de la Constitución Política es irrenunciable, y los únicos servicios públicos que poseen competencias normativas generales y obligatorias son aquellos a los que expresa y previamente también la ley se las concede.
2. El objetivo buscado, académica, institucional y regulatoriamente, pero al margen del Derecho Público (eludiendo el paso por el Congreso Nacional[i]), ha sido que los administrados puedan conocer y tener acceso a los algoritmos que determinan las funcionalidades de los programas de IA, de los SDA o Sistemas de Decisión Automatizada, incluso que no se operen en relación a ellos o que no les afecten[ii]. Sería un Derecho Humano –dicen los promotores- para evitar abusos o arbitrariedades –agregan-. Un Oficio Circular N°711 del 2023, emanado de dos Ministerios actuando en conjunto, se auto califica en la promoción como el marco jurídico idóneo y necesario y se ha dictado para que rija en toda la Administración del Estado.
En en el contexto de las cuatro etapas que hemos propuesto para analizar la evolución y los contenidos jurídico-normativos del Govtech[iii], las que no precluyen, el Oficio Circular N°711 ahora analizado cabría dentro de la segunda (proyectos apartados del bloque de legalidad, no obligatorios y aun así presentados como válidos en el contexto del Derecho Público), y nunca sería parte de la tercera etapa a pesar de ser posterior a la Ley N°21.180, porque ni en ésta -que modifica- ni en la Ley N°19.880 -que resulta modificada- se da pie o se contiene algún fundamento jurídico para abordar temas de TAA.
3. La norma alude eufemísticamente a que serían sólo recomendaciones[iv], pero establece auditorías (potestades fiscalizadoras), cargas de gestión, exigencias de publicidad en sitios web y llega a auto asignarse potestades normativas futuras, como si tuviera el peso normativo de una ley. La redactaron desde la óptica de regularse de manera general pero sin tenerse las competencias jurídicas para hacerlo. De aceptarse que sean sólo recomendaciones carecerían entonces de toda obligatoriedad y peso jurídico de Derecho Público y (por su mérito) podrían desconocerse.
Respecto de lo aparentemente recomendado además, por vulnerarse la confidencialidad de lo que el D.S. N°83 vigente califica como Información Crítica y Activos de los servicios públicos, por tratarse de códigos fuente y SDA que suelen pertenecerle a empresas proveedoras que se operan bajo exigencia de confidencialidad, porque ninguna decisión o acto administrativo de un funcionario puede ser automático y descansar sólo en instrucciones programadas y porque cualquier administrado que se crea perjudicado puede recurrir (pasivamente, vía RRPP, Habeas Data de la Ley N°19.628 o recursos administrativos generales) de lo resuelto y conocer cabalmente lo que algorítmicamente a él se refiera y como se resolvió, es conveniente rechazarse lo simplemente sugerido o recomendado.
4. El Oficio Circular N°711 califica como auto regulación administrativa dictada sin que se señalen en los “Vistos” fundamento legal alguno, sin que el Derecho confiera a los Ministerios firmantes potestades normativas en sus Leyes Orgánicas, y establece lineamientos o recomendaciones para el uso de herramientas de inteligencia artificial en todo el sector público, con vocación de ley y transversalmente para toda la Administración del Estado, no restringidas a los funcionarios de los Ministerios que los dictan[v].
En Derecho Público, la ley confiere o no confiere la competencia de poder dictarse normas. Las Leyes Orgánicas del MCTI o Ministerio de Ciencia, Tecnología, Conocimiento e Innovación y de MINSEGPRES no lo hacen[vi]. Podría aceptarse entonces que sólo internamente, cada uno respecto de su Ministerio, dictara directrices o instrucciones mediante circulares acotadas para facilitar el cumplimiento de una futura y anterior ley de transparencia algorítmica. De hecho, se definen como tales –desde los antiguos textos de Enrique Silva Cima- a las que tienen por objeto indicar de qué forma se debe aplicar un procedimiento en particular, para un determinado sector o servicio sobre concretas materias de procedimiento, dictadas por los funcionarios públicos superiores pero con plena sujeción a las leyes que determinan sus competencias[vii].
5. Entonces, jurídicamente y en el Oficio Circular, en conjunto dos Ministerios (i) declaran que será fiscalizado o auditado en su cumplimiento (lo que supera cualquier potestad de coordinar y asesorar no vinculante); (ii) aluden a nuevas funciones y responsabilidades públicas no creadas por ley (artículo 7 CPE); (iii) establecen cargas de transparencia activa que no están en el listado legal y taxativo del artículo 7 de la ley N°20.285; y, (iv) se auto asignan futuras competencias normativas.
El efecto concreto de normarse así es que se evita la Toma de Razón de la CGR y el conocimiento del Tribunal Constitucional. Pero se regula en este caso sin ley para hacerlas aplicables y obligatorias a toda la Administración del Estado[viii]. En concreto, sin constituir un marco jurídico de Derecho Público idóneo y presentadas como meras recomendaciones, facultan ampliamente a un OAE concreto con nuevas funciones públicas, sea (i) para oficiar directamente a los OAE y solicitar cualquier dato o información relacionada con “los lineamientos” del “instrumento”, sea (ii) para dictar normas que los OAE deberán cumplir, por ejemplo en temas de transparencia activa de los algoritmos, los que deben ser objeto de ley[ix].
6. El Oficio Circular se construye en base a 3 acápites, exponiendo sus antecedentes en el I, formulando recomendaciones o lineamientos concretos en el II y estableciéndose medidas futuras en el III. Está anticipando la preparación de una nueva normativa más operativa. Hablar en la primera parte de la IA predicando su avance vertiginoso y su potencial transformador es casi una zona común, como también lo es relevar que para su gestión el Estado puede asumir un rol (proactivo se agrega), y que debería ser empoderado en ello. También es un estándar instalado que cualquier manejo de datos en base a IA debe ser ético, consciente, responsable, con un enfoque centrado en las personas y respetándose derechos fundamentales de los administrados. En definitiva, los antecedentes visualizan la importancia de “un marco común” para los OAE, fomentándose el uso de IA en los OAE, pero, en paralelo, resguardando el uso de las personas frente al uso de estas herramientas.
En cuanto a lo que a IA se refiere, en su acápite II el texto entrega lineamientos a los directores de servicios públicos, en cuatro categorías: Inteligencia Artificial centrada en las personas, Transparencia y Explicabilidad, Privacidad (debía hablarse de confidencialidad de DP) y Uso de Datos y Otras Medidas. Se declaró (i) que “estos lineamientos constituirán un primer paso para arribar a un marco común, pues entregarían pautas y recomendaciones generales para promover el uso responsable, ético, seguro y transparente de herramientas basadas en sistemas de inteligencia artificial en el sector público”; y (ii) que “su seguimiento permitiría tener información preliminar y detallada acerca de los desafíos regulatorios y de coordinación en juego y, de ser necesario, determinar qué instrumentos son más eficientes y efectivos para abordarlos”. Y, eufemísticamente (porque más que estandarizando de hecho se está obligando), se recomendó que los OAE en el ejercicio de sus funciones desarrollen, implementen o usen herramientas basadas en sistemas de IA acogiendo lo establecido y sugerido.
7. Resulta conflictivo –jurídicamente- el que un simple Oficio Circular determine nuevas obligaciones de transparencia activa, diversas de o al margen de aquellas que la Ley N°20.285 en su artículo 7° contempla taxativamente, de manera excepcional y restrictiva. En concreto, se alude a (i) informar a través de mecanismos idóneos y de fácil acceso a la ciudadanía acerca de las herramientas de inteligencia artificial que se encuentren utilizando dentro de sus procesos, ya sea en la provisión de servicios públicos o en el apoyo a la toma de decisiones del órgano de la Administración del Estado; a (ii) comunicar a través de canales idóneos, de fácil acceso y en lenguaje claro, si utilizan o se sirven de herramientas de inteligencia artificial en su relación con la ciudadanía; y, a (iii) poner a disposición de la ciudadanía, a través de canales idóneos de fácil acceso y en lenguaje claro, información respecto de la utilización de herramientas de inteligencia artificial para ejercer sus competencias, especialmente tratándose de procesos de toma de decisiones que pudieren afectar derechos fundamentales de las personas.
No puede sino objetarse lo establecido en el Acápite III sobre comunicaciones y seguimiento de las recomendaciones, cuando expresamente establece que el MCTCI y la DGD podrán elaborar lineamientos y determinar medidas (obviamente obligatorias) para el diseño e implementación de soluciones basadas en IA en el sector público y facilitar su cumplimiento[x].
8. En cuanto a sus componentes de contenido, el Oficio ha sido objeto de sólidos reparos. Catherine Muñoz ha consignado, a la letra[xi]:
– que se necesita una orientación más específica y conceptos concretos y correctos y una profundidad mínima de análisis, porque estas materias no pueden ser simplificadas ni menos generalizadas, sobre todo teniendo presente la brecha de información que existe;
-que cada sistema de IA, en cada sector específico puede implicar diferentes daños potenciales, diferente gestión de riesgos, diferentes partes interesadas, diversos grados de agencia, contextos y responsabilidades, y si no se es riguroso y se generaliza (como hace el Oficio Circular) se genera un efecto totalmente contrario a lo que se pretende lograr;
– que se lee como una declaración de principios no operativizados, pudiendo ser contraproducente y generar esfuerzos y recursos improductivos si por ejemplo no se describe cómo se evita discriminar en cada caso;
– que tratar de regular una tecnología sin considerar consecuencias específicas es muy riesgoso en sistemas públicos, donde las personas no tienen opción sobre su sometimiento y los efectos son masivos, por lo que se debe abordar de forma específica y granular, con especial cuidado en las responsabilidades, niveles de agencia, etc.;
– que no hay claridad sobre responsabilidades y sobre la naturaleza del Estado como proveedor de servicios de IA, que tiene particularidades bien definidas, empezando porque el Estado no diseña sistemas de IA y lo hace con asociaciones públicos privadas donde la parte publica no tiene las competencias muchas veces a nivel operativo; y,
– que el concepto de «explicabilidad» está siendo abusado y mal aplicado, dando una sensación de confianza que puede ser falsa y engañosa, porque hasta el día de hoy no hay un solo método relacionado con explicabilidad fiable (teniendo presente la diferente entre explicabilidad e interpretabilidad). (Santiago, 3 de abril de 2023)
[i] Sobre el primer intento de hacerlo, la dictación de una Instrucción administrativa del Consejo de Transparencia para modificar el artículo 7° de la Ley N°20.285 sobre transparencia activa, puede verse la URL https://www.diarioconstitucional.cl/articulos/confidencialidad-secreto-y-reserva-del-derecho-fundamental-a-la-proteccion-de-datos-personales-2/. Bajo el anuncio de que será una normativa pionera y al margen de cualquier necesaria modificación legal y su debate en el Congreso, el Consejo de Transparencia busca que los algoritmos de los SDA o sistemas de decisión automatizados sean transparentados activamente. Propone definir –sólo en un Instructivo- transparencia algorítmica como una nueva cualidad de los SDA, consistente en permitir ver o comprender su funcionamiento y abrir la posibilidad de conocer y supervisar los datos que entran, como se procesan y cuál sería el resultado del procesamiento, minimizando la posibilidad de que estos puedan producir resultados injustos, arbitrarios o que afecten a Derechos Fundamentales. El Consejo propone reglamentar una nueva carga de Derecho Público no contemplada en la ley, para disponer que se deberán mantener a disposición del público y de forma permanente y actualizada todos los SDA que se utilicen.
[ii] Nuestra propuesta anterior, descartando la TAA también por ilegal y acudiendo a la institucionalidad de la PDP y del derecho de acceso, puede verse en https://www.diarioconstitucional.cl/articulos/confidencialidad-secreto-y-reserva-del-derecho-fundamental-a-la-proteccion-de-datos-personales-2/.
[iii] Puede verse la URL https://www.diarioconstitucional.cl/articulos/marco-juridico-de-la-modernizacion-digital-del-estado-etapas-de-desarrollo-y-nuevas-propuestas/.
[iv] No lo valida el que eufemísticamente se declare que son sólo “recomendaciones”, si no se declara que por ende serán de cumplimiento voluntario entregado al criterio de cada OAE.
[v] Cualquier OAE podría, por ejemplo, para explicar internamente el alcance general de la aplicación de una ley o un reglamento previamente dictados, usar normas administrativas menores como Oficios o Instructivos. Pero en Chile sólo dos servicios públicos técnicos, de gestión y especializados como la Aduana y el SII, están legalmente habilitados para dictar Oficios Circulares generales que afectarán a los administrados.
[vi] Cada Ministerio, tiene competencia técnica en su ámbito sectorial, sin perjuicio de lo que su respectiva ley orgánica señale en términos del alcance y sentido preciso de su competencia.
[vii] Por eso existen los llamados instructivos presidenciales, que ponen de manifiesto énfasis o directrices de cómo deben obrar todos los OAE frente a un tema determinado, pero con estricta sujeción a una norma legal previa. Empero, usar este tipo de normas bajo la declaración incorrecta de sólo hacerse recomendaciones para crearse competencias de Derecho Público, implica que se vulnere el artículo 7° de la Constitución (y los artículos 63 y 65) y la jerarquía de las Fuentes de Derecho Administrativo.
[viii] El camino jurídico correcto puede tomarse como modelo de un Boletín N° 15869-19 en actual tramitación, que busca regular los sistemas de inteligencia artificial, la robótica y las tecnologías conexas, en sus distintos ámbitos de aplicación (referencia). El hecho de que la Política Nacional de Inteligencia Artificial adolecía del problema de estar fuera del marco jurídico, significó que la Moción constatara la carencia y buscara (i) regular adecuadamente, a través de las instituciones del Estado, las relaciones que se generen entre particulares, entre personas naturales y jurídicas; (ii) definir los conceptos de que se trata; y (iii) entregar atribuciones de control, autorización y fiscalización a organismos estatales sobre quienes desarrollan y distribuyen estas tecnologías y sus derivados. En esencia, se considera que la propuesta iría en la línea de una regulación estatal para toda la actividad.
[ix] Es vulneratorio del Principio de Legalidad y del Derecho Público la nueva función pública y normativa auto otorgada por este documento meramente administrativo consistente en la potestad de elaborar lineamientos para el diseño e implementación de soluciones basadas en IA que tendrán vigencia en todo el Sector Público. El número 11 en el Acápite III, con vocación de redacción de ley establece perentoriamente que ambos ministerios “podrán elaborar” los lineamientos (mediante algún otro Oficio Circular futuro).
[x] Esta opción es tan ilegal como admitir que el Consejo de Transparencia pueda modificar el artículo 7° de la Ley N°20.285 y mediante una simple instrucción ampliar las causales de transparencia activa para incluir a la transparencia algorítmica.
[xi] Los comentarios están disponibles en https://www.linkedin.com/feed/update/urn:li:activity:7141210093915684864/.