IA en el ejercicio profesional
California obliga a abogados a verificar citas generadas por IA y revelar su uso ante los tribunales
El Estado de California en EE. UU. aprobó por unanimidad una norma que establece obligaciones específicas para los abogados que utilicen inteligencia artificial generativa en el ejercicio profesional. La iniciativa impide delegar en estas herramientas el ejercicio de la abogacía y exige a los…
El Estado de California en EE. UU. aprobó por unanimidad una norma que establece obligaciones específicas para los abogados que utilicen inteligencia artificial generativa en el ejercicio profesional. La iniciativa impide delegar en estas herramientas el ejercicio de la abogacía y exige a los profesionales verificar los resultados que obtengan antes de utilizarlos.
El proyecto fue aprobado por la Asamblea y el Senado de California y quedó a consideración del gobernador, quien tiene plazo hasta el 30 de septiembre para firmarlo o vetarlo. La propuesta establece expresamente que un abogado no podrá delegar el ejercicio de la abogacía en sistemas de inteligencia artificial generativa.
La normativa no prohíbe el uso de estas tecnologías, pero dispone que solo podrán ser empleadas como herramientas de asistencia. La responsabilidad por el contenido y las decisiones adoptadas continuará recayendo en el profesional.
En ese sentido, los abogados deberán adoptar medidas razonables para comprobar la exactitud de los resultados generados por la IA, incluida la verificación de citas jurisprudenciales y referencias normativas.
Si una herramienta entrega información falsa o genera una denominada “alucinación”, el abogado deberá corregir el contenido antes de utilizarlo. Además, tendrá que informar al tribunal cuando haya empleado inteligencia artificial generativa en los documentos que presente.
El proyecto también fija límites respecto de la información que puede ser ingresada en estos sistemas. Los abogados no podrán incorporar antecedentes confidenciales, datos personales identificativos ni otra información no pública cuando el acceso a la herramienta no esté restringido al propio profesional y a otras personas autorizadas sometidas a obligaciones de confidencialidad.
A ello se suma una modificación al Código de Procedimiento Civil, conforme a la cual ningún escrito presentado ante un tribunal podrá contener una cita que el abogado responsable no haya verificado personalmente, incluso cuando esa referencia haya sido proporcionada por una herramienta de inteligencia artificial.
Las nuevas obligaciones también alcanzan a los árbitros. La normativa establece que no podrán delegar en sistemas de IA generativa ninguna parte de su función decisoria.
Asimismo, los árbitros no podrán fundar sus decisiones en información generada por inteligencia artificial que se encuentre fuera del expediente sin efectuar previamente las revelaciones correspondientes y, cuando resulte posible, permitir que las partes formulen observaciones sobre esos antecedentes.
La norma, por tanto, no busca impedir el uso de inteligencia artificial en la práctica jurídica, sino asegurar que el profesional mantenga el control sobre la herramienta, revise sus resultados y corrija cualquier error antes de incorporarlos a una actuación judicial o arbitral.
La iniciativa surge después de varios casos registrados en Estados Unidos en los que abogados presentaron ante tribunales jurisprudencia inexistente o citas fabricadas por sistemas de inteligencia artificial, situación que impulsó la creación de reglas específicas sobre responsabilidad, verificación y transparencia en su utilización.
Temas
Te puede interesar
Opinión.
Novedades en materia de arbitraje en Argentina, por Franco Masuchi y Marcos Duelo Solá
Nacionalidad y derecho a sufragio
Supremo español suspende cautelarmente el voto de nacionalizados por la “ley de nietos” ante fuerte aumento del censo
Sanción proporcionada
Justicia europea confirma sanciones contra empresario Roman Abramovich por vínculos con Estado ruso
