¿Quién responde cuando una inteligencia artificial actúa por su cuenta?

Algo similar ocurre con los datos personales. Si un agente recopila, almacena, consulta o transmite información que permite identificar a personas, deben existir mayores precauciones respecto de su utilización, seguridad y confidencialidad.

Todo ello obliga a entregar instrucciones más precisas a los agentes capaces de actuar autónomamente. Una orden general como investigar este tema puede resultar demasiado amplia si el sistema puede conectarse con servicios externos. Debería definirse qué fuentes puede consultar, qué herramientas puede utilizar, qué acciones necesitan autorización humana, qué información puede enviar, cuántas consultas puede efectuar, cuándo debe detenerse y, además, mantener un registro de lo que hizo.

Los archivos de instrucciones pueden funcionar como un manual interno que indique al agente qué está permitido, qué está prohibido y cuándo debe pedir autorización. Son útiles, pero no constituyen por sí solos una barrera efectiva, porque la inteligencia artificial puede interpretarlos incorrectamente, enfrentarse a una situación no prevista o seguir instrucciones que entren en conflicto. Por ello, esas reglas deberían complementarse con límites técnicos reales.

Si un sistema no debe ingresar a determinados sitios, por ejemplo, puede ser más seguro bloquear técnicamente ese acceso que limitarse a indicárselo por escrito. Lo mismo ocurre con credenciales, envío de información, cantidad de consultas y ejecución de determinadas acciones. Una regla prudente sería que cualquier análisis de un sistema externo comenzara solo mediante lectura u observación y que toda interacción automatizada posterior requiriera una autorización adicional y específica.

Esto también cambia la forma de entender la supervisión humana. Revisar el resultado al final puede ser suficiente cuando la inteligencia artificial solo prepara un borrador, porque un error puede corregirse. Pero si el sistema puede enviar correos, publicar información, consultar a terceros, efectuar transferencias o divulgar datos, la revisión posterior puede llegar demasiado tarde: la acción ya ocurrió.

Por ello, la supervisión debería existir en tres momentos: primero, una persona define el objetivo; segundo, autoriza previamente las acciones externas importantes; y tercero, revisa el resultado antes de utilizarlo o validarlo. No es necesario que sean tres personas distintas, pero sí que las tres etapas existan y estén claramente diferenciadas.

La responsabilidad por el uso de inteligencia artificial no debería plantearse entre dos extremos: afirmar que el usuario responde siempre por todo lo que hace el sistema o sostener que nadie responde porque fue la inteligencia artificial la que tomó la decisión. La pregunta principal es cómo se delegó la tarea. Debe revisarse qué se pidió al agente, qué permisos recibió, qué actuaciones podían preverse, qué controles existían, si podía ser detenido, qué registros dejó y qué se hizo después de detectar el problema.

En ese análisis, la ausencia de intención de causar daño, el hecho de no haber accedido a información restringida y la inexistencia de un perjuicio comprobable son antecedentes importantes, pero no eliminan automáticamente la necesidad de determinar si el sistema fue utilizado con suficiente cuidado. Del mismo modo, que una inteligencia artificial realice una acción que el usuario nunca ordenó expresamente tampoco significa por sí solo que exista una conducta ilegal o una obligación de indemnizar.

La tesis final es que el problema jurídico no está principalmente en determinar si una inteligencia artificial posee una voluntad propia, sino en establecer si quienes le entregaron capacidad para actuar definieron adecuadamente sus permisos, límites y controles. Mientras mayor sea su autonomía, más importante será precisar qué puede hacer, qué requiere autorización y qué tiene prohibido.

Por ello, la futura responsabilidad jurídica de los agentes de inteligencia artificial probablemente dependerá menos de atribuir voluntad a las máquinas y más de los deberes humanos de diseño, autorización, supervisión y control. Incluso un incidente menor y sin consecuencias puede servir como advertencia: corregir hoy una falla puede impedir que mañana la misma actuación, realizada a mayor escala, provoque un daño mucho más grave.