El derecho a una explicación exige decisiones reconstruibles

Una institución puede conservar el resultado de un sistema automatizado y perder los antecedentes necesarios para explicar cómo llegó a él. Si cambian los datos, las reglas o la versión del modelo, ejecutar nuevamente el programa podría producir una respuesta distinta. La capacidad de revisar una decisión exige algo más que disponer de la tecnología que la generó: requiere preservar un expediente que permita reconstruirla.

La entrada en vigencia general de la Ley 21.719, prevista para el 1 de diciembre de 2026, vuelve urgente esta preparación. Su artículo 8 bis regula decisiones basadas en tratamiento automatizado de datos personales y contempla, en los supuestos que establece, salvaguardas como información, explicación, intervención humana y revisión. Al 23 de octubre esa vigencia general todavía no ha comenzado. Tampoco corresponde inferir que cualquier uso de un algoritmo queda prohibido o que una revisión humana puramente formal satisface las exigencias aplicables.

Desde la gestión, el problema es concreto. Para revisar una decisión interesa conocer qué datos se utilizaron, de dónde provenían, qué reglas o modelo estaban vigentes y qué antecedentes fueron considerados por quien resolvió. Guardar únicamente un puntaje final elimina parte de esa información. Guardarlo todo indefinidamente tampoco sería una respuesta adecuada: la trazabilidad necesita conciliarse con finalidad, seguridad y plazos de conservación pertinentes.

Wachter, Mittelstadt y Russell (2018) proponen explicaciones contrafactuales para describir cambios que modificarían un resultado automatizado. Su análisis, situado en el contexto europeo, ayuda a distinguir una explicación utilizable de una exposición técnica incomprensible. No determina por sí solo el alcance de la legislación chilena. Además, un contrafactual puede identificar una diferencia estadística sin demostrar que modificar esa variable sea factible, legítimo o causalmente suficiente en la vida real.

Esa precaución importa cuando se comunica una decisión. Decir que un resultado cambiaría con una edad distinta no entrega una acción posible al afectado. Sugerir que bastaría aumentar un ingreso puede ocultar variables relacionadas o restricciones que el modelo no representa. La explicación debe vincularse con antecedentes revisables y con las razones jurídicamente pertinentes de la decisión, no limitarse a reproducir la lógica interna de un predictor.

La revisión también debe examinar la confiabilidad del sistema en la población donde opera. Van Calster y sus coautores (2019) muestran la importancia de la calibración: una probabilidad asignada necesita corresponder razonablemente a frecuencias observadas. Una herramienta puede ordenar casos de manera útil y, al mismo tiempo, exagerar sus niveles de riesgo. Esa diferencia estadística no resuelve la cuestión jurídica, pero sí puede afectar la suficiencia técnica de una motivación apoyada en el sistema.

Propongo preparar un registro mínimo por decisión relevante: versión del procedimiento, procedencia y fecha de los datos, salida del sistema, controles aplicados y fundamento de la resolución. El alcance debe ajustarse al tipo de tratamiento y al marco aplicable. No se trata de publicar información personal o secretos técnicos, sino de garantizar que la organización pueda responder a una revisión por canales seguros y con responsabilidades identificadas.

La prueba más útil antes de implementar puede ser seleccionar casos de ensayo y pedir a un equipo distinto que reconstruya su recorrido. Si necesita depender de la memoria del proveedor o de una persona que ya no trabaja allí, existe una fragilidad de gestión. Corregirla requiere procedimientos, acceso controlado y documentación utilizable, además de cláusulas contractuales sobre colaboración y conservación.

La explicación adquiere valor cuando permite comprender, detectar un error y obtener una revisión efectiva. Preparar esa capacidad antes de diciembre es más sólido que redactar respuestas después de un reclamo. Una decisión automatizada debe dejar una huella suficiente para ser examinada, sin que esa huella se convierta en una nueva fuente de exposición de datos personales.

Juan Alberto Díaz Mondaca

Ingeniero comercial y docente

Referencias bibliográficas

Biblioteca del Congreso Nacional. (2024). Ley 21.719: protección y tratamiento de datos personales. Texto legal y disposiciones transitorias. Vigencia general desde el 1 de diciembre de 2026. Consultar fuente

Wachter, S., Mittelstadt, B., y Russell, C. (2018). Counterfactual explanations without opening the black box: automated decisions and the GDPR. Harvard Journal of Law & Technology, 31(2), 841–887. Consultar fuente

Van Calster, B., McLernon, D. J., van Smeden, M., Wynants, L., y Steyerberg, E. W. (2019). Calibration: the Achilles heel of predictive analytics. BMC Medicine, 17, 230. Consultar fuente