IA, privacidad y protección de datos
Uso de inteligencia artificial en organizaciones exige controles para resguardar datos e información confidencial
Incorporar inteligencia artificial en una organización pública o privada no consiste solamente en elegir una herramienta tecnológica. También exige definir qué información se utilizará, para qué finalidad, bajo qué reglas y con qué controles, especialmente cuando se trabaja con datos personales…
Incorporar inteligencia artificial en una organización pública o privada no consiste solamente en elegir una herramienta tecnológica. También exige definir qué información se utilizará, para qué finalidad, bajo qué reglas y con qué controles, especialmente cuando se trabaja con datos personales o información confidencial.
Hoy la inteligencia artificial se usa para resumir documentos, transcribir reuniones, ordenar información, buscar antecedentes o ayudar en la redacción de textos. Estas herramientas pueden ahorrar tiempo y hacer más eficientes distintos procesos. Sin embargo, cuando se utilizan con información de clientes, expedientes, contratos, antecedentes laborales o comunicaciones internas, surge una pregunta importante: ¿qué ocurre con los datos que se ingresan al sistema?
Antes de implementar una herramienta de inteligencia artificial, lo primero es determinar qué información necesita para funcionar. Un documento aparentemente simple puede contener datos personales, información sensible, antecedentes protegidos por secreto profesional, estrategias comerciales, datos disciplinarios u otros elementos que permitan identificar a una persona.
Por eso, es necesario saber de dónde proviene la información que se utilizará, qué tipo de datos contiene y qué obligaciones legales, contractuales o éticas existen respecto de ellos.
También es importante diferenciar entre herramientas de uso general y soluciones creadas especialmente para organizaciones. La utilidad de una tecnología no depende solo de la calidad de sus respuestas, sino también de la forma en que maneja la información.
Entre los aspectos que conviene revisar están el lugar donde se almacenarán los datos, durante cuánto tiempo se conservarán, quiénes podrán acceder a ellos y si será posible revisar posteriormente cómo fueron utilizados.
Una acción tan simple como subir un archivo para ahorrar tiempo puede terminar exponiendo más información de la necesaria.
Por ello, la protección de datos debe considerarse desde el inicio de cualquier proyecto de inteligencia artificial y no incorporarse únicamente al final como una exigencia formal.
Esto permite definir desde el comienzo para qué se utilizará la herramienta, qué información necesita realmente, quién podrá acceder a ella y qué se hará en caso de problemas de seguridad o solicitudes de eliminación de datos.
También es necesario evaluar si realmente se requiere utilizar información real o si pueden emplearse datos ficticios, anonimizados o reducidos al mínimo indispensable. Del mismo modo, debe determinarse si la herramienta necesita acceso a toda una base de datos o solamente a una parte específica.
Otro punto relevante es conocer qué proveedor tecnológico participa en el proceso, qué garantías ofrece y dónde serán almacenados tanto los archivos como las instrucciones entregadas al sistema —conocidas como “prompts”— y los registros de uso.
Estas decisiones no deben quedar únicamente en manos de los equipos de tecnología. Las áreas jurídicas, de privacidad, seguridad, cumplimiento normativo y negocio también deben participar desde el comienzo, con funciones y responsabilidades claramente definidas.
Además, las decisiones adoptadas deben quedar registradas y revisarse cuando cambien las características o el alcance del proyecto.
En muchos casos, comenzar con una prueba piloto en un entorno controlado puede ser más útil que implementar inmediatamente una herramienta en toda la organización. Esto permite detectar problemas, corregir errores y ajustar las medidas de protección antes de ampliar su uso.
El control también resulta especialmente importante cuando se utiliza inteligencia artificial generativa para consultar documentos o preparar borradores.
En estos casos, la organización debería poder saber qué documentos fueron utilizados, qué persona realizó una consulta, qué instrucciones entregó al sistema y cómo fue revisada posteriormente la respuesta generada.
Contar con ese registro permite detectar usos indebidos, corregir errores y demostrar que la herramienta funciona dentro de un sistema claro de responsabilidades.
Entre los controles básicos se encuentran limitar el acceso según las funciones de cada usuario, mantener registros de actividad, revisar las respuestas generadas y establecer reglas internas claras sobre qué usos están permitidos y cuáles no.
La inteligencia artificial puede ayudar en tareas repetitivas o realizar análisis preliminares, pero no reemplaza la responsabilidad de las personas que finalmente deben tomar decisiones.
Tampoco significa que cualquier información confidencial pueda ser utilizada libremente. Para hacerlo debe existir previamente una finalidad clara y una justificación para tratar esos datos.
Antes de poner una herramienta en funcionamiento, resulta recomendable definir exactamente para qué se utilizará, qué datos estarán involucrados, cómo circulará la información dentro y fuera de la organización, qué medidas de seguridad y condiciones contractuales se aplicarán, quiénes tendrán acceso y qué mecanismos permitirán saber cómo se utilizó el sistema.
También debería definirse previamente cómo se probará la herramienta antes de extender su utilización.
Existen actualmente soluciones tecnológicas diseñadas específicamente para organizaciones que necesitan utilizar inteligencia artificial sin exponer información sensible o confidencial. Estas herramientas pueden incorporar funciones como anonimización de documentos, procesamiento de archivos dentro de entornos controlados, restricciones de acceso, revisión humana y registros que permitan conocer cómo fue utilizada la información.
Una prueba controlada permite detectar problemas y corregir las medidas de seguridad antes de implementar el sistema a mayor escala.
La coordinación entre las distintas áreas de una organización permite convertir principios generales, como la protección de datos, la confidencialidad, la seguridad y la responsabilidad, en reglas concretas que puedan aplicarse en el trabajo diario.
Adoptar inteligencia artificial de manera responsable no significa renunciar a sus beneficios. Significa elegir herramientas que permitan aprovechar sus capacidades sin perder el control sobre la información utilizada.
Según se explica, esta herramienta permite anonimizar documentos antes de que sean procesados por sistemas de inteligencia artificial, transcribir archivos de audio y video sin que su contenido salga de la infraestructura de la organización y utilizar inteligencia artificial generativa bajo reglas definidas por cada institución.
La plataforma también contempla revisión humana y mecanismos que permiten registrar y seguir las interacciones realizadas, con el propósito de aplicar en la práctica el principio de protección de la privacidad desde el diseño.
En definitiva, la incorporación de inteligencia artificial en organizaciones que manejan información sensible o confidencial debe ir acompañada de controles técnicos, jurídicos y administrativos. El objetivo es aprovechar los beneficios de estas tecnologías sin perder el control sobre los datos que se utilizan.
Temas
Te puede interesar
