Gonzalo Álvarez Seura: "La IA no fue el problema, el problema fue soltarle el volante"

Por Yanira Herrera, Universidad Central de Chile

La irrupción de la inteligencia artificial en el ámbito jurídico ha dejado de ser una discusión sobre sus posibilidades futuras para convertirse en un desafío concreto para los tribunales, los abogados y el legislador. El uso de herramientas automatizadas en la elaboración de escritos judiciales, los riesgos de incorporar información inexistente en procesos legales y los vacíos normativos frente a nuevas formas de criminalidad tecnológica plantean interrogantes urgentes sobre la responsabilidad humana en el uso de estas tecnologías.

En apenas cinco meses, Chile pasó de discutir la inteligencia artificial en abstracto a enfrentar sus consecuencias concretas: una abogada suspendida por citar dos libros que nunca se escribieron, un sistema judicial sobrecargado por 38.477 escritos automatizados y un Congreso que reescribe su proyecto de ley sobre inteligencia artificial, mientras persisten vacíos de protección penal de niños, niñas y adolescentes frente al material generado mediante estas tecnologías.

Para profundizar en estos desafíos, Diario Constitucional conversó con Gonzalo Álvarez Seura, abogado, doctor en Derecho, fundador de Tech-Law AI y profesor de la Universidad Central de Chile, especialista en inteligencia artificial y tecnología, transformación digital, protección de datos y blockchain. En esta entrevista aborda los límites del uso de la IA en el ejercicio profesional, las responsabilidades que genera su utilización y la necesidad de avanzar hacia una regulación que permita aprovechar sus beneficios sin comprometer derechos fundamentales.

¿Dónde está el límite, quién responde por los errores de la inteligencia artificial y qué medidas deben adoptarse antes de que las respuestas lleguen a través de las sanciones? Estas son algunas de las preguntas que orientan la conversación.

I. El caso de las citas fantasmas (rol 23.322-2025)

1. ¿Dónde se sitúa el límite ético y profesional para que la inteligencia artificial sea considerada únicamente una herramienta de asistencia, evitando delegar irresponsablemente el juicio humano?

El límite no es difusoro, aunque se lo presente así. Está exactamente donde la máquina deja de proponer y empieza a afirmar en nombre del abogado. Mientras la IA sugiere una estructura, ordena antecedentes, resume doscientas páginas o propone una línea argumental, hay asistencia legítima. Cuando su resultado entra al expediente sin que un humano haya verificado que cada cita existe y que dice lo que se le atribuye, ya no hubo asistencia, hubo delegación. Y el juicio jurídico no se delega.

El fallo de la Tercera Sala del 22 de abril de 2026 —rol 23.322-2025— lo dejó por escrito con precisión quirúrgica, «la buena fe se traduce en el deber que tiene la parte en orden a verificar la efectividad de la información que aporta al tribunal, lo que no hizo». La Corte suspendió a la abogada por un mes e impuso una multa de 5 UTM, invocando el artículo 542 del Código Orgánico de Tribunales en relación con las facultades correctivas del artículo 531. Y aquí está lo importante, que casi nadie subrayó, la Corte no sancionó el uso de inteligencia artificial. Sancionó la omisión de un deber que existía mucho antes de que existiera ChatGPT.

Por eso repito una fórmula hasta el cansancio, la IA es copiloto, nunca árbitro final. Propone; el humano valida. Sin excepción. Y hay un dato que explica por qué la validación no es opcional, según el estudio de Stanford publicado en el Journal of Empirical Legal Studies, GPT-4 alucina en cerca del 58% de las consultas legales. No hablamos de un riesgo remoto, hablamos de la mitad de las respuestas.

El límite ético, entonces, tiene un nombre técnico —Human-in-the-Loop— y un nombre antiguo, responsabilidad profesional. La firma sigue siendo del abogado. La máquina no comparece, no jura, no responde ante el Colegio ni ante la Corte. Responde quien firma.

2. Ligado a lo anterior, ¿considera que la búsqueda desmedida de abarcar más en el menor tiempo posible es la principal motivación detrás de estos descuidos éticos?

Es un factor, no la causa. Y conviene distinguirlos, porque si el diagnóstico se reduce a «codicia», la solución se vuelve un sermón moral y no cambia nada.

Yo veo tres capas. La primera es efectivamente la presión por volumen, un mercado legal que compite por velocidad premia a quien entrega antes, no a quien verifica mejor. La segunda es más incómoda, el analfabetismo técnico. Muchos colegas no entienden qué es un modelo de lenguaje. Creen que están consultando una base de datos cuando en realidad están consultando un predictor estadístico de palabras. Quien cree que le preguntó a una biblioteca no verifica; quien entiende que le preguntó a un generador de texto plausible, verifica siempre.

La tercera capa es la decisiva y casi nadie la nombra, la sicofancia algorítmica. Estos sistemas están optimizados para complacer. Si usted pide jurisprudencia que respalde su tesis, el modelo se la entrega —y si no existe, la fabrica, con rol, fecha, sala y considerando incluidos. El formato es impecable, y esa perfección formal es precisamente lo que desactiva la sospecha. La abogada sancionada no recibió un texto sospechoso, recibió dos obras con título, autor y año, atribuidas a dos autores reales y prestigiosos. Uno de ellos, Jean Pierre Matus, integra la propia Sala que la sancionó.

Y ahí aparece lo que he llamado la paradoja del verificador, todo el tiempo que la IA le ahorra en investigación y redacción, se lo cobra después en revisión. Quien la usa para ir más rápido y salta la revisión no está ganando productividad, está trasladando riesgo a su cliente y a su propio título. La productividad real llega cuando la verificación deja de ser un acto de voluntad y se convierte en un protocolo.

3. ¿Qué propuestas pedagógicas implementaría en la formación jurídica para garantizar que los nuevos abogados usen esta tecnología como un complemento ético y no como una dependencia que simplifique excesivamente su razonamiento?

Empiezo por lo que no funciona, prohibir. La facultad que prohíbe la IA no forma abogados más rigurosos; forma abogados que la usan a escondidas y sin método. Y el detector de IA tampoco es la respuesta, sus falsos positivos castigan al alumno honesto y sus falsos negativos premian al que sabe camuflar.

Trabajo con cuatro ideas concretas que cualquier facultad puede adoptar el próximo semestre. La primera es alfabetización técnica mínima obligatoria, antes de que un estudiante use un modelo, debe entender por qué alucina —que no consulta, predice—. Eso se enseña en dos sesiones y cambia para siempre la relación con la herramienta.

La segunda es invertir la evaluación. En lugar de pedir un informe y castigar el uso de IA, pido el resultado crudo del modelo y evalúo la auditoría del alumno, qué citas eran falsas, cuáles reales pero mal atribuidas, qué doctrina anglosajona se colaba en un problema de derecho civil chileno. La competencia que hay que certificar hoy no es redactar, es detectar. Un ejercicio que uso mucho es el «escrito envenenado», entrego un texto con cinco citas, tres verdaderas y dos fabricadas, y la nota depende de encontrarlas y probarlo con la fuente primaria.

La tercera es el protocolo de verificación como destreza examinable, igual que enseñamos a alegar, contraste en fuente primaria —PJUD, Ley Chile—, la regla de los sesenta segundos, muestreo en escritos extensos, segundo auditor en casos de alto riesgo y trazabilidad documentada de prompts y revisiones. Nadie debería egresar sin poder ejecutar eso bajo presión.

Y la cuarta es ética integrada, no un ramo aislado de cuarto año. La buena fe procesal de la Ley 20.886 y el deber de competencia del Código de Ética Profesional deben enseñarse con el fallo rol 23.322-2025 sobre la mesa. Una suspensión de un mes discutida en primer año vale, pedagógicamente, más que diez clases de deontología abstracta.

Y una advertencia que les hago siempre a mis alumnos, el riesgo no es que la IA los reemplace. Es que los reemplace un colega que sí sabe usarla —y verificarla.

II. El ingreso masivo de escritos y el colapso de la Oficina Judicial Virtual

4. A diferencia del caso de las citas fantasmas, aquí el problema no fue un error de contenido sino un colapso del sistema por volumen. ¿Cree que el derecho procesal actual está preparado para distinguir entre un uso legítimamente intensivo de la tecnología y lo que los jueces calificaron como «abuso procesal»?

Permítame una precisión previa, porque cambia el análisis, no fue un solo día. Fueron 38.477 escritos ingresados entre el sábado 25 y el lunes 27 de julio, unas sesenta horas, distribuidos en todos los juzgados civiles del país, con un promedio de 500 a 900 presentaciones por tribunal. Eso no es un abogado trabajando rápido. Eso es una máquina operando sin supervisión humana.

Y a su pregunta, no, el derecho procesal chileno no está preparado, porque fue diseñado para una escala humana. La Ley 20.886 sobre Tramitación Digital digitalizó el soporte del expediente, no la velocidad del litigante. Consagró el deber de buena fe procesal y entregó facultades correctivas al tribunal, pero nunca imaginó un actor capaz de generar decenas de miles de presentaciones en un fin de semana. Es una norma pensada para el papel escaneado enfrentada a un problema de la era de la automatización.

¿Tenemos herramientas? Sí, y son las de siempre, buena fe procesal, abuso del derecho, facultades disciplinarias del Código Orgánico de Tribunales. El problema es que son estándares de textura abierta que un juez debe aplicar caso a caso, ex post, cuando el daño ya ocurrió. Y el criterio para distinguir no puede ser el número, un ejecutor de cobranza masiva o una empresa de servicios básicos presentan miles de demandas al año y eso es perfectamente lícito.

El criterio correcto es otro y tiene tres preguntas. ¿Cada presentación tiene un interés jurídico propio y actual, o se replica para generar ruido? ¿Hubo revisión humana de cada escrito antes de firmarlo? ¿La conducta era previsiblemente idónea para degradar el servicio judicial para el resto de los usuarios? Esa última es la clave, porque el bien jurídico afectado aquí no es solo la contraparte, es el acceso a la justicia de todos los que no pudieron presentar un escrito ese lunes. Eso es lo que nuestro derecho procesal todavía no nombra con apellido propio.

5. El comité de jueces señaló que no contaban con los recursos técnicos ni humanos para enfrentar esta contingencia. ¿Considera que la responsabilidad recae únicamente en el abogado que activó el sistema automatizado, o también evidencia una falta de regulación e infraestructura por parte del propio Poder Judicial frente a estas herramientas?

Las dos cosas, y no en partes iguales según lo que se mire.

La responsabilidad disciplinaria es individual e indelegable. El abogado activó el sistema, firmó las presentaciones y es quien responde. Que la herramienta haya sido de un tercero —circuló la hipótesis de que «alguien le vendió una solución mágica»— no lo exculpa, quien contrata una automatización responde por lo que esa automatización hace bajo su clave y su patrocinio. Ahí no hay matiz posible.

Pero la responsabilidad institucional es otra conversación, y la frase del propio Comité de Jueces Civiles de Santiago es demoledora, «no contamos con los recursos técnicos ni humanos disponibles para enfrentar esta contingencia». Eso no es una queja, es un diagnóstico de infraestructura crítica. La Oficina Judicial Virtual es hoy la puerta de entrada a la jurisdicción en Chile, y un sistema con esa función no puede depender de que a nadie se le ocurra abusar de él.

Lo que este episodio expone es que el Poder Judicial digitalizó el trámite sin construir la gobernanza del canal. Medidas que en cualquier plataforma pública son estándar desde hace una década estaban ausentes, límites de tasa por usuario y por unidad de tiempo, prueba de presencia humana para ingresos masivos, detección de patrones anómalos con alerta temprana, una vía diferenciada y autenticada para el litigante de alto volumen legítimo. La respuesta que efectivamente se adoptó fue bloquear la dirección IP y pedir un informe al Departamento de Informática de la Corporación Administrativa. Es sensato, pero es una reacción, llegó después de sesenta horas de colapso.

Así que mi respuesta es esta, el abogado responde por su conducta, el Poder Judicial responde por su arquitectura. Y hay algo de fondo que me parece urgente decir, si la puerta de entrada a la justicia se puede tumbar desde un notebook en un fin de semana, el problema dejó de ser de ética profesional y pasó a ser de seguridad de un servicio esencial del Estado. Eso se resuelve con la Ley 21.180 de Transformación Digital del Estado en la mano y con presupuesto, no con circulares.

6. Este episodio impulsó una propuesta para prohibir directamente el uso de IA en el ingreso de escritos judiciales. ¿Le parece una respuesta proporcional, o cree que terminaría penalizando también los usos responsables de la tecnología por el abuso de un solo profesional?

No es proporcional y, peor, no es eficaz. Es una reacción comprensible desde la trinchera —los jueces civiles vivieron el colapso y pidieron lo único que tenían a mano—, pero confunde el instrumento con la conducta.

Véalo como técnica regulatoria. Lo que se quiere evitar es la saturación del canal, no el uso de software. Una prohibición del «uso de IA» es a la vez demasiado amplia y demasiado estrecha. Demasiado amplia, porque alcanzaría lo que hoy es buena praxis, un despacho que automatiza el control de plazos, la revisión de que no falte un documento o la detección de errores antes de presentar mejora la calidad del expediente y le ahorra trabajo al tribunal. Castigar eso es castigar al 99% por el 1%. Y demasiado estrecha, porque el colapso no requirió inteligencia artificial, un script de veinte líneas, tecnología de los años noventa, produce exactamente el mismo resultado. Prohibida la IA, el próximo episodio ocurre igual y la norma no aplica.

Hay además un problema de fiscalización que la vuelve casi simbólica. ¿Cómo acredita un tribunal que un escrito fue redactado o ingresado «con IA»? Los detectores son inservibles como prueba, tienen falsos positivos y falsos negativos documentados. Terminaríamos con una norma que se aplica al que confiesa y no al que oculta. Eso no es regulación, es una lotería.

La respuesta proporcional regula la conducta y el canal, no la herramienta, límites de tasa por credencial, prueba de presencia humana para ingresos masivos, una vía autenticada y previamente declarada para el litigante de alto volumen legítimo, deber de declarar el uso de automatización en el ingreso y una sanción agravada para la saturación deliberada. Eso sí distingue al que trabaja del que abusa.

Y digámoslo con claridad, la tecnología no es la culpable. El Poder Judicial necesita más automatización, no menos —la necesita para resolver más rápido, para gestionar sus tiempos, para dejar de tramitar a mano lo que una máquina ordena en segundos—. Prohibirla en la puerta de entrada sería renunciar a la modernización por miedo a un abuso. Escribí una columna cuyo título resume mi posición, no prohíban los fósforos. La respuesta al mal uso de una herramienta nunca fue prohibir la herramienta; fue gobernarla.

III. Nivel internacional, armonización, niñez y el proyecto de ley chileno

7. Casos como las citas fantasmas ya han generado sanciones a abogados en Estados Unidos, y ahora Chile suma este episodio de abuso procesal masivo. ¿Cree que estos hechos van a empujar a una regulación internacional más armonizada sobre el uso de IA en el ejercicio del derecho, o seguirá siendo un problema que cada país enfrenta con sus propias reglas éticas y disciplinarias?

Va a ocurrir algo intermedio, y es importante entender por qué, la armonización no vendrá de un tratado, vendrá de la convergencia judicial.

Lo que ya está pasando lo muestra bien la base de datos de Damien Charlotin, investigador de HEC París, que registra más de 1.350 resoluciones judiciales vinculadas a alucinaciones de IA en el mundo. Si uno lee esa colección salta un patrón, tribunales que no se citan entre sí, en sistemas jurídicos distintos, están llegando al mismo estándar. Mata v. Avianca abrió en Estados Unidos con 5.000 dólares en 2023; el Sexto Circuito llegó a 30.000 en marzo de 2026 y un abogado en Oregón a 109.700. El Tribunal Superior de Justicia de Cataluña sancionó 48 citas jurisprudenciales falsas. La Corte Suprema colombiana actuó por temeridad procesal. Y Chile, con el rol 23.322-2025, escaló de la multa a la suspensión del ejercicio. Nadie coordinó eso, convergieron porque el deber de veracidad ante el tribunal es un principio común a todas las tradiciones jurídicas.

Ahora, la regulación formal sí va a seguir fragmentada, y por una razón estructural, la deontología del abogado es competencia doméstica. El colegio profesional, la Corte de Apelaciones, el bar association de cada estado —esos son los que sancionan, y ninguno va a ceder esa potestad a un organismo internacional. Lo que sí veremos circular rápido es soft law, guías de la International Bar Association, protocolos de cortes que se copian entre jurisdicciones, directrices gremiales. El AI Act europeo influirá por efecto Bruselas, pero regula sistemas, no el ejercicio profesional.

Mi apuesta, entonces, un estándar sustantivo global de facto —verificar en fuente primaria, declarar el uso, responder por lo que se firma— con sanciones locales heterogéneas. Y para Chile eso deja una tarea concreta, si el estándar ya existe en los hechos, el Colegio de Abogados y las Cortes de Apelaciones deberían escribirlo antes de que lo escriba la casuística punitiva. Es mejor un protocolo preventivo que una jurisprudencia construida a punta de suspensiones.

8. Argentina tipificó el delito de crear imágenes de abuso sexual de niñas, niños y adolescentes con inteligencia artificial. En Chile todavía no se busca una medida para proteger a los NNA y el proyecto que regula integralmente la IA sigue su tramitación en el Senado. ¿Cuál es su opinión respecto a este tema?

Tengo una opinión clara y es incómoda, Chile no tiene un vacío de valores, tiene un vacío de técnica legislativa. Y los vacíos de técnica se llenan con impunidad.

Nuestro Código Penal sanciona la producción de material de abuso sexual infantil en el artículo 366 quinquies y su almacenamiento y difusión en el 374 bis. La definición legal incluye expresamente las representaciones de actividades sexuales «reales o simuladas», lo que suena suficiente. El problema está en el encabezado del tipo, exige material «en cuya elaboración hubieren sido utilizados menores de dieciocho años». Cuando un modelo generativo produce una imagen de abuso sin que ningún niño real haya sido fotografiado ni utilizado, la defensa tiene un argumento literal poderoso, no hubo menor utilizado. Si la imagen reproduce el rostro de un niño identificable —el caso de las nudificaciones de compañeras de curso, que ya está ocurriendo en colegios chilenos— la cosa cambia y hay tipo aplicable. Pero el material puramente sintético queda en una zona gris que ningún penalista debería aceptar como satisfactoria.

A eso se suma un detalle que casi no se menciona, al incorporar el Convenio de Budapest mediante la Ley 21.459, Chile formuló reserva respecto del artículo 9, que es justamente el que obliga a penalizar las imágenes realistas de un menor en conducta sexualmente explícita. Tuvimos la herramienta internacional a mano y decidimos no usarla en toda su extensión.

Por eso el fallo argentino de julio de 2025 me parece relevante mucho más allá de su jurisdicción, su razonamiento es el correcto. El bien jurídico no se agota en el niño retratado. Este material cosifica, normaliza la violencia sexual contra la infancia, alimenta la demanda de un mercado criminal y se usa activamente en grooming para vencer la resistencia de una víctima real. No hace falta un niño fotografiado para que haya daño a la infancia como bien jurídico colectivo.

Y mientras eso ocurre, nuestra agenda legislativa mira hacia otro lado. El proyecto que regula los sistemas de inteligencia artificial —boletín 16821-19— pasó al Senado y el Ejecutivo anunció una indicación sustitutiva para abandonar el modelo europeo basado en riesgos y pasar a una «ley habilitante» de enfoque ex post, centrada en sandboxes regulatorios y estándares técnicos internacionales. Se puede discutir el mérito de ese giro y hay buenos argumentos desde la innovación. Lo que no se puede discutir es que un modelo ex post es especialmente malo para este problema, acá el daño no se repara con un seguro. Y el proyecto sobre deepfakes, aprobado en general por la Cámara el 23 de julio de 2026, apunta a la suplantación de imagen y voz con multas de hasta 10.000 UTM, pero no aborda de manera específica el material sexual ni a la niñez. Estamos legislando la reputación del adulto antes que la integridad del niño.

9. Por otro lado, ¿cómo podríamos, siendo profesionales, proteger este tipo de situaciones que hoy todavía no tienen regulación?

Sin esperar la ley hay bastante más de lo que se cree, y lo agrupo en cuatro frentes.

Primero, litigar con lo que existe y litigar bien. Cuando hay un rostro identificable hay tipo penal, y hay además la Ley 21.719 de protección de datos personales, el rostro y la voz de un niño son datos personales y su tratamiento sin base de licitud abre una vía sancionatoria propia, con una agencia y multas de verdad. Súmele responsabilidad civil por daño moral contra quien genera y contra quien difunde, y medidas de cesación inmediata. No es poco; hoy se subutiliza por desconocimiento, no por falta de norma.

Segundo, empujar la regla correcta, que es quirúrgica. La reforma que Chile necesita cabe en una frase, extender el tipo penal a toda representación realista de un menor en conducta sexual explícita, con independencia de que un menor real haya sido utilizado en su elaboración, e incluir expresamente la generación mediante sistemas automatizados. Eso, más el levantamiento de la reserva al artículo 9 del Convenio de Budapest. No requiere una ley integral de IA; requiere dos incisos.

Tercero, alfabetización y protocolo donde el fenómeno está ocurriendo, que son los colegios. Quienes trabajamos en derecho y tecnología tenemos una ventaja injusta, entendemos cómo se produce este material y por dónde circula. Usarla para formar a jueces, fiscales, profesores, orientadores y padres no es caridad, es parte del oficio. Hoy la reacción típica de un colegio frente a un caso de nudificación es el silencio, porque nadie sabe qué hacer ni a quién llamar. Un protocolo de dos páginas —preservar la evidencia, no difundirla, denunciar, contener a la víctima— ya cambia el resultado.

Y cuarto, exigir responsabilidad a quien provee. El debate sobre la responsabilidad del desarrollador y del proveedor de modelos suele plantearse en abstracto. Este es el caso donde no admite abstracción, un modelo que genera material de abuso infantil sin salvaguardas tiene un defecto de diseño, y los defectos de diseño tienen régimen jurídico. Si el proyecto de ley se va a inclinar por un modelo ex post con seguros obligatorios, al menos que la generación de este material sea una de las hipótesis expresamente excluidas de la tolerancia regulatoria.

Si tuviera que resumir las dos historias de esta entrevista, en el caso de las citas fantasmas la ley existía y falló el profesional. Acá el profesional existe y falla la ley. La segunda falla me parece más grave, porque las víctimas de este material no pueden presentar un recurso de casación.