Supervisión humana de la IA
Firmar no es revisar: el desafío del control humano sobre la inteligencia artificial en el trabajo jurídico
La inteligencia artificial está asumiendo cada vez más tareas dentro de los estudios jurídicos. Puede buscar legislación y jurisprudencia, resumir documentos, preparar contratos o escritos y organizar antecedentes. Frente al riesgo de errores, suele afirmarse que basta con dejar la decisión…
La inteligencia artificial está asumiendo cada vez más tareas dentro de los estudios jurídicos. Puede buscar legislación y jurisprudencia, resumir documentos, preparar contratos o escritos y organizar antecedentes. Frente al riesgo de errores, suele afirmarse que basta con dejar la decisión final en manos de un abogado.
Sin embargo, que exista una “revisión humana” no significa necesariamente que haya un verdadero control profesional.
No es lo mismo que un abogado revise las fuentes utilizadas por la inteligencia artificial, compruebe la vigencia de las normas y sentencias, analice los antecedentes y verifique el razonamiento, a que simplemente lea el resultado y lo apruebe. En el primer caso existe supervisión profesional; en el segundo, solo queda registrada una autorización.
Esta diferencia ha sido analizada en el trabajo AI Agents Push Humans Out of the Loop, de Margaret Mitchell, Avijit Ghosh y Samir Passi, que advierte sobre el riesgo de que, a medida que se delegan más tareas a agentes de inteligencia artificial, las personas pierdan atención, conocimiento del proceso y habilidades necesarias para controlar sus resultados.
Aprobar no significa revisar
Un agente de inteligencia artificial puede recibir una consulta jurídica, buscar normas y jurisprudencia, seleccionar argumentos, redactar una respuesta y pedir finalmente autorización al abogado para enviarla.
Que el profesional presione “aprobar” no permite saber si consultó las fuentes originales, comprobó su vigencia, revisó antecedentes omitidos, consideró excepciones o argumentos contrarios ni si comprendió cómo el sistema llegó a su conclusión.
Por ello, una aprobación acredita una autorización, pero no necesariamente una revisión profesional efectiva.
El riesgo aumenta cuando se delegan múltiples tareas. Los agentes pueden buscar y seleccionar información, resumir documentos, modificar archivos e incluso ejecutar acciones. Esto puede reducir el contacto directo del abogado con los antecedentes sobre los cuales finalmente deberá decidir.
También puede generar una confianza excesiva en las respuestas de la IA, fatiga frente a reiteradas solicitudes de aprobación, pérdida de conocimiento sobre el proceso seguido por la herramienta y deterioro de las habilidades necesarias para detectar errores.
Surge así una paradoja: el abogado mantiene la responsabilidad sobre la decisión final, pero puede ir perdiendo las herramientas necesarias para controlarla adecuadamente.
Muchas aprobaciones no demuestran que la IA sea confiable
Una elevada tasa de aprobación tampoco demuestra necesariamente la calidad de un sistema. Puede significar que la herramienta funciona correctamente, pero también que aprobar resulta demasiado fácil, que revisar demanda demasiado tiempo o que los usuarios se han acostumbrado a confiar en sus resultados.
En Derecho, una respuesta aparentemente convincente puede citar una norma derogada, inventar una sentencia, ignorar un cambio procesal, equivocarse sobre la competencia de un tribunal u omitir un hecho decisivo.
inteligencia artificial, IA jurídica, abogados, supervisión humana, estudios jurídicos, agentes de IA, human in the loop, responsabilidad profesional, automatización jurídica, Reglamento de Inteligencia Artificial
Por eso, la pregunta relevante no es cuántas respuestas fueron aprobadas, sino si los abogados fueron capaces de detectar y corregir los errores antes de que produjeran consecuencias.
La supervisión debe ser efectiva
El Reglamento de Inteligencia Artificial de la Unión Europea ofrece una referencia útil al exigir, respecto de determinados sistemas de alto riesgo, una supervisión humana efectiva. Esto supone comprender las capacidades y limitaciones de la herramienta, interpretar sus resultados, evitar confiar automáticamente en ellos y conservar la posibilidad de intervenir o detener el sistema.
Aunque este estándar no se aplica necesariamente a todas las herramientas jurídicas, permite distinguir entre una aprobación formal y una supervisión real.
Para que esta última exista, el abogado debería conocer qué tareas fueron delegadas, de dónde proviene la información, cuáles son las fuentes que sustentan la respuesta, qué antecedentes faltan y qué incertidumbres existen.
La intensidad del control debe depender del riesgo. Corregir la redacción de un documento no exige el mismo nivel de revisión que investigar jurisprudencia, asesorar a un cliente, preparar un escrito judicial, redactar un contrato o adoptar una decisión procesal.
En las tareas de mayor impacto, el profesional debería poder acceder a las fuentes originales, distinguir los antecedentes de las conclusiones generadas por la IA, detectar información faltante o contradictoria y controlar especialmente las actuaciones que produzcan efectos externos o sean difíciles de revertir.
No basta con tener un human in the loop
El mismo criterio debería aplicarse al contratar tecnología para un estudio jurídico. No basta con que un proveedor afirme que existe una persona human in the loop.
El estudio debería conocer qué información podrá revisar el abogado, si tendrá acceso a las fuentes y al proceso seguido por el sistema, cómo se advertirán sus limitaciones, qué actuaciones requerirán autorización y si será posible detenerlas o revertirlas.
La diferencia esencial está entre una herramienta que simplemente solicita permiso para actuar y otra que entrega al profesional los antecedentes y facultades necesarios para ejercer un verdadero control.
Firmar no es revisar
La intervención humana no garantiza por sí sola un uso responsable de la inteligencia artificial. Lo importante es que el abogado conserve independencia para decidir, disponga de información suficiente y pueda cuestionar, corregir, rechazar o detener lo propuesto por el sistema.
Aprobar una respuesta generada por inteligencia artificial debería ser el último paso de una revisión real, no su sustituto.
La pregunta relevante no es si había un abogado encargado de aprobar el resultado, sino si ese profesional pudo comprender qué hizo la inteligencia artificial, comprobar sus fundamentos, cuestionar sus conclusiones y detener una actuación antes de asumirla como propia.
Un clic puede demostrar que alguien aprobó. No demuestra, por sí solo, que alguien revisó.
Temas
Te puede interesar
