“Sabotaje algorítmico”: escritos ocultos para influir en la IA abren nuevo riesgo para los tribunales

La incorporación de inteligencia artificial en los tribunales abre un nuevo riesgo para el debido proceso: que los escritos judiciales dejen de estar dirigidos únicamente al juez y comiencen también a intentar influir en los sistemas automatizados que pueden leer, resumir u ordenar un expediente antes de que llegue al magistrado. Se deben entender estas conductas no solo como una forma de prompt injection, sino como un posible “sabotaje algorítmico” del proceso judicial.

El caso principal ocurrió en Connecticut, donde un litigante incorporó instrucciones ocultas en sus escritos, con texto blanco sobre fondo blanco, destinadas a una eventual inteligencia artificial que, según suponía, podía procesar el expediente. La maniobra no fue detectada por una IA, sino por un funcionario judicial, y el tribunal terminó revocándole el acceso al sistema de presentación electrónica. La paradoja fue que ese juzgado ni siquiera utilizaba inteligencia artificial para procesar documentos.

Otro episodio ocurrió en Brasil, donde dos abogadas utilizaron una técnica similar, pero esta vez el sistema de IA sí formaba parte del funcionamiento judicial. La herramienta detectó el texto anómalo, lo hizo visible y permitió que el juez sancionara la conducta y remitiera los antecedentes al colegio profesional.

A estos antecedentes se suman otros casos internacionales vinculados al uso problemático de inteligencia artificial en la justicia. En Argentina se han detectado escritos con jurisprudencia inexistente generada por chatbots; en Colombia la Corte Constitucional ha fijado criterios de transparencia, verificación, responsabilidad y control humano; en Chile el Tribunal Constitucional sancionó a una abogada por incorporar citas doctrinales atribuidas a obras inexistentes; y en México se ha investigado el eventual uso de IA en la elaboración de resoluciones judiciales.

El problema que revelan estos casos no se limita a los errores que puede cometer una herramienta tecnológica. La preocupación más profunda aparece cuando la IA se transforma en un intermediario entre las partes y el juez, porque una instrucción oculta podría alterar el resumen, la clasificación o la información que finalmente recibe el magistrado. En ese escenario, ya no basta con sostener que la decisión final sigue siendo humana: también resulta necesario asegurar que el material sobre el cual esa decisión se forma no haya sido manipulado durante su procesamiento automatizado.

El desafío, por tanto, será establecer reglas de transparencia, supervisión humana y seguridad que permitan incorporar la inteligencia artificial a los tribunales sin convertir el expediente judicial en un nuevo espacio susceptible de manipulación tecnológica.