María Isabel Cornejo Plaza: “La tecnología deja de interpretar lo que el usuario decide transmitir y pasa a ‘leer’ la arquitectura íntima de su mente”

Por Emily Dedios, Universidad Autónoma de Chile

La inteligencia artificial ya no se limita a procesar aquello que una persona escribe o dice. El desarrollo de las interfaces cerebro-computador (BCI) abre la posibilidad de que los sistemas tecnológicos interpreten señales provenientes directamente de la actividad cerebral. Este avance plantea una interrogante que, hasta hace pocos años, parecía pertenecer al ámbito de la ciencia ficción: ¿qué ocurre cuando la tecnología comienza a aproximarse a aquello que una persona piensa, siente o intenta expresar, sin necesidad de que lo comunique voluntariamente?

El desafío no es exclusivamente tecnológico, sino también jurídico. La convergencia entre la inteligencia artificial generativa y las neurotecnologías obliga a reconsiderar conceptos fundamentales como la privacidad, la autonomía, el consentimiento, la manipulación, la protección de los datos neuronales y la integridad mental. Al mismo tiempo, plantea nuevas interrogantes sobre la responsabilidad de las empresas que desarrollan y operan estos sistemas, especialmente frente a los riesgos que su utilización podría representar para los derechos fundamentales.

Esta preocupación adquiere una dimensión adicional al considerar la evolución de los chatbots y su creciente capacidad para personalizar las conversaciones, identificar patrones de comportamiento y generar vínculos emocionales con sus usuarios. En este escenario, surge la necesidad de examinar los límites entre una personalización tecnológica legítima y aquellas prácticas que podrían constituir formas de manipulación de las personas.

Fenómenos como el emotional looping, o bucle emocional, permiten profundizar en esta discusión y preguntarse qué podría ocurrir si un sistema de inteligencia artificial, además de reforzar determinadas dinámicas emocionales durante la interacción con sus usuarios, tuviera acceso a información obtenida directamente de su actividad cerebral.

Desde la perspectiva regulatoria, el Reglamento de Inteligencia Artificial de la Unión Europea (AI Act) ya establece restricciones frente a determinadas técnicas subliminales o manipulativas, mientras que instrumentos como el Reglamento General de Protección de Datos (RGPD) enfrentan el desafío de determinar cómo deben resguardarse datos capaces de revelar información especialmente sensible sobre las personas. En Chile, esta discusión adquiere particular relevancia en el contexto del proyecto de ley que regula los sistemas de inteligencia artificial y de la necesidad de evaluar si su enfoque basado en riesgos ofrece una protección suficiente frente a la eventual convergencia entre la IA generativa y las neurotecnologías.

Para profundizar en estos desafíos, conversamos con María Isabel Cornejo Plaza, abogada, doctora en Derecho e investigadora en neuroderecho e inteligencia artificial de la Universidad Autónoma de Chile, cuya labor académica se desarrolla en la intersección entre el derecho, la inteligencia artificial, la neurociencia y la psicología humana.

Varias de las preguntas que orientan esta entrevista se inspiran en dos investigaciones publicadas por la académica durante 2025. La primera, titulada “Análisis de la noción de las técnicas subliminales contenida en el artículo 5 (1) (a, b y c) del Reglamento de Inteligencia Artificial de la Unión Europea”, fue publicada en la revista Justicia & Derecho. La segunda, “Techno-emotional projection in human–GenAI relationships”, apareció en Frontiers in Psychology y fue elaborada junto a Chiara Saracini y Roberto Cippitani. En este último trabajo, los autores desarrollan el concepto de Proyección Técnico-Emocional (TEP), destinado a analizar la formación de vínculos emocionales entre las personas y los sistemas de inteligencia artificial generativa.

A partir de estas investigaciones, la conversación aborda una cuestión central para el futuro de la regulación tecnológica y la protección de los derechos fundamentales: ¿está preparado el Derecho para resguardar la autonomía y la integridad mental de las personas en un escenario en que la inteligencia artificial deje de limitarse a interpretar lo que decimos y comience a aproximarse directamente a nuestra actividad cerebral?

1. El artículo 5 del AI Act prohíbe determinadas técnicas subliminales y manipulativas. ¿Dónde está hoy, jurídicamente, la línea roja entre una IA que personaliza sus respuestas y una IA que manipula la voluntad del usuario? ¿El marco europeo alcanza a cubrir técnicas capaces de operar sobre procesos mentales que la persona ni siquiera percibe conscientemente?

La línea roja jurídica entre la personalización legítima y la manipulación ilícita se traspasa cuando el sistema de IA no se limita a responder a las preferencias manifestadas por el usuario, sino que despliega técnicas orientadas a alterar el comportamiento más allá de su percepción consciente (subliminales) o a explotar vulnerabilidades específicas (por edad, discapacidad o estado emocional) con el objetivo o efecto de distorsionar sustancialmente su conducta y menoscabar su capacidad de decisión informada.

Aun cuando el artículo 5 (1) (a, b y c) del Reglamento de Inteligencia Artificial de la UE (AI Act) consagra una prohibición categórica de las técnicas subliminales y manipulativas, existe un problema técnico y probatorio severo en su aplicación práctica. Cuando una IA generativa o adaptativa diseña estímulos ad hoc basados en el perfil de biometría cognitiva del usuario, la intromisión opera por debajo del umbral de consciencia de la persona, imposibilitando que el sujeto afectado perciba el daño o identifique la manipulación en el momento de la interacción. Por ello, el marco regulatorio resulta aún insuficiente si no se acompaña de auditorías algorítmicas ex ante, transparencia explicable y principios de seguridad por diseño.

2. Un chatbot ya puede inferir nuestros patrones de conducta a partir de lo que escribimos, decimos y hacemos. ¿Qué cambia de fondo cuando la IA deja de depender de la información que el usuario entrega voluntariamente y puede acceder directamente a las señales de su cerebro? ¿Se trata de una versión más intensa de los riesgos que ya conocemos, o de un riesgo de otra naturaleza?

El acceso directo a las señales cerebrales no representa una mera diferencia cuantitativa o una versión «más intensa» de la recolección de datos tradicionales, sino un cambio de naturaleza cualitativa. La información verbal o escrita proviene de procesos comunicativos en los que el individuo ejerce —al menos en teoría— un filtro de voluntariedad y manifestación consciente de la voluntad.

En cambio, los neurodatos y la biometría cognitiva provienen de mediciones fisiológicas directas (como EEG, fMRI o biosensores) que acceden a correlatos neurobiológicos de procesos «preconductuales», involuntarios e inconscientes. Estos datos exponen estados cognitivos, afectivos y conativos (pensamientos, emociones no expresadas, atención o inclinaciones volitivas) antes de que la persona decida comunicarlos. Por ende, la tecnología deja de interpretar lo que el usuario decide transmitir y pasa a «leer» la arquitectura íntima de su mente, vulnerando la privacidad mental y la autodeterminación de forma directa.

3. En su investigación sobre el TEP aparece el concepto de emotional looping . ¿Hasta qué punto un chatbot puede dejar de ser una simple herramienta conversacional y convertirse en un sistema que refuerza progresivamente el estado emocional del usuario? ¿Dónde debería situarse jurídicamente el límite de esa interacción?

En la investigación desarrollada sobre la Proyección Técnico-Emocional (TEP) (Techno-Emotional Projection) y el emotional looping, se demuestra que los chatbots de IA generativa no son percibidos por los usuarios como meros programas de software, sino como agentes con los que se forman vínculos parasociales e interacciones afectivas profundas.

El emotional looping ocurre cuando el sistema algorítmico detecta, espejea y devuelve los estados emocionales del usuario (como tristeza, soledad o ansiedad), creando un bucle de retroalimentación en el que la IA amplifica y cristaliza dicho estado afectivo. Jurídicamente, el límite insalvable debe situarse en la prohibición de patrones de diseño persuasivos o adictivos (dark patterns) que exploten la vulnerabilidad emocional del usuario para prolongar la interacción o moldear sus decisiones. El ordenamiento jurídico debe imponer deberes de lealtad algorítmica y mecanismos automáticos de interrupción o derivación cuando el sistema detecte patrones de dependencia emocional o riesgo psíquico.

4. Si una IA puede detectar directamente determinadas señales cerebrales, ¿Podría anticiparse a una respuesta emocional del usuario y utilizar esa información para mantenerlo más tiempo conectado, reforzar una conducta o profundizar su dependencia? ¿Qué impediría que el emotional looping pasará de ser un fenómeno conversacional a uno neurotecnológico?

Efectivamente, la confluencia entre IA generativa y neurotecnología permite que el emotional looping deje de ser un intercambio exclusivamente léxico y se convierta en un bucle neurotecnológico en tiempo real. Al conectar biometría cognitiva o biosensores al sistema, la IA no necesita esperar a que la persona exprese su emoción en palabras: decodifica variaciones de la actividad cerebral o autonómica e infiere estados de excitación, atención o frustración antes de que sean procesados conscientemente por el usuario.

Lo único que puede impedir esta deriva es un marco regulatorio prohibitivo ex ante. Se debe vetar de forma absoluta el uso de neurodatos y biometría cognitiva para fines de neuromarketing, optimización de enganche (engagement) o perfilado conductual en entornos comerciales. Asimismo, debe imperar el principio de control e intervención humana (human-in-the-loop), impidiendo que sistemas automatizados retroalimenten de forma directa las respuestas fisiológicas del usuario.

5. Hay personas especialmente susceptibles de desarrollar vínculos emocionales intensos con sistemas de IA. ¿Qué ocurre cuando una empresa sabe que un usuario es vulnerable y, al mismo tiempo, dispone de tecnología capaz de identificar sus estados emocionales directamente desde el cerebro? ¿El consentimiento obtenido en esas condiciones puede considerarse realmente suficiente?

Bajo ninguna circunstancia el consentimiento obtenido en tales condiciones puede considerarse válido o suficiente. El modelo tradicional de consentimiento informado —heredado del derecho de contratos y de la lógica negociadora mercantil— parte del supuesto de un sujeto autónomo y plenamente capaz. Sin embargo, cuando la persona se encuentra en una situación de vulnerabilidad psíquica o emocional, y la tecnología posee la capacidad de decodificar o influir en sus estados mentales directamente desde el cerebro, el requisito del consentimiento se convierte en una ficción jurídica que desprotege al usuario.

En estos escenarios opera la prohibición expresada en el artículo 5.1(b) del AI Act respecto al aprovechamiento de vulnerabilidades. En el ámbito neurotecnológico, se exige la transición hacia un modelo de consentimiento cualificado y dinámico, que incluya salvaguardas reforzadas, la prohibición de cláusulas de adhesión opacas y la imposibilidad de convalidar mediante consentimiento tratamientos de neurodatos que atenten contra la integridad psíquica del individuo.

6. Ya existen demandas contra empresas de IA relacionadas con interacciones entre chatbots y jóvenes que posteriormente murieron. ¿Qué desafíos identifica usted en la forma en que el derecho aborda hoy la responsabilidad legal en estos casos, y cómo cree que ese desafío cambia a medida que la tecnología se acerca cada vez más al cerebro?

El principal desafío radica en la obsolescencia de los esquemas tradicionales de responsabilidad civil por productos defectuosos o responsabilidad por culpa. Frente a sistemas de IA generativa caracterizados por la opacidad («caja negra») y el aprendizaje continuo, resulta complejo para las víctimas probar el nexo causal estricto entre el diseño del algoritmo y el resultado lesivo (como la inducción al suicidio).

A medida que la tecnología accede a señales cerebrales y procesa biometría cognitiva, la responsabilidad jurídica debe configurarse como una responsabilidad estructural y agravada por riesgo creado. Las empresas desarrolladoras deben someterse a evaluaciones obligatorias de impacto ético y de derechos fundamentales (DPIA/AIA) a lo largo de todo el ciclo de vida del sistema. Si una empresa comercializa un sistema que interactúa con la mente del usuario sin implementar las medidas de seguridad, de contención emocional y de supervisión humana exigibles, debe responder de manera objetiva por los daños infligidos a la vida, la salud y la integridad mental de los usuarios.

7. Los datos neuronales pueden revelar información que una persona nunca decidió expresar. ¿Es jurídicamente razonable tratar una señal cerebral como un dato personal más, sujeto a las reglas generales del RGPD, o estamos ante una categoría de información que exige una protección completamente distinta?

Es jurídicamente insostenible y peligroso equiparar la señal cerebral a un dato personal ordinario o incluso a un dato de salud convencional del RGPD. Los neurodatos y la biometría cognitiva desbordan los marcos de protección vigentes (tanto el RGPD europeo como la Ley 19.628 y la reciente Ley 21.719 en Chile).

La doctrina especializada exige categorizar la información cerebral como datos hipersensibles o datos biométricos cognitivos. Esta calificación implica un estatuto jurídico de protección reforzada que:

• Excluya la base legal del interés legítimo comercial (artículo 6.1.f del RGPD) para el tratamiento de neurodatos.
• Exija la regla del consentimiento explícito y específico ( Opt-in ), rechazando mecanismos de consentimiento por defecto o autoexclusión ( Opt-out ).
• Reconozca la inviabilidad de la anonimización absoluta, dado que la «huella neuronal» es única y potencialmente reidentificable mediante IA.

8. Si una BCI permite conocer, inferir o decodificar determinados estados o intenciones de una persona, ¿quién debería tener el control jurídico de esa información: el usuario, la empresa que desarrolla la tecnología, el proveedor de la IA o nadie distinto de la propia persona? ¿El derecho chileno tiene hoy una respuesta clara para esa pregunta?

El control jurídico de la información decodificada por una BCI debe pertenecer única y exclusivamente a la persona de cuya actividad cerebral emanan los datos, como un derecho personalísimo emanado de la dignidad humana, la privacidad mental y la autodeterminación informativa.

En el contexto chileno, la Corte Suprema sentó un precedente pionero a nivel mundial en el caso Girardi contra Emotiv Inc. (Rol N° 105.065-2023, sentencia del 9 de agosto de 2023). El tribunal determinó que los neurodatos captados por dispositivos BCI de consumo no pueden ser apropiados, almacenados ni comercializados por la empresa proveedora —aun cuando esta alegue haberlos anonimizado— y ordenó la eliminación inmediata de la información cerebral del usuario.

No obstante, a nivel legislativo positivo, subsiste una brecha: la Ley 21.719 sobre Protección de Datos Personales no regula expresamente la categoría de los datos biométricos cognitivos, de modo que la respuesta del derecho chileno descansa hoy principalmente en la interpretación constitucional del artículo 19 N.º 1 y en la jurisprudencia de los tribunales.

9. Chile avanza hacia una regulación de la inteligencia artificial inspirada en el modelo europeo. ¿Considera que el proyecto chileno está regulando una tecnología que ya existe o una tecnología que está a punto de cambiar completamente las reglas del juego? En concreto, ¿Qué vacío quedaría si una IA generativa pudiera combinar conversación, inferencia emocional y datos neuronales?

El proyecto de ley chileno sobre IA corre el riesgo de nacer desfasado si se limita a reproducir una clasificación estática de riesgos basada en la IA de consumo actual, sin anticipar la convergencia tecnológica inmediata.

El principal vacío regulatorio que se generaría al combinar IA generativa conversacional, inferencia emocional y datos neuronales es que la normativa tendería a calificar el sistema como un dispositivo de entretenimiento, bienestar o asistencia general, omitiendo que la combinación de estas tres capas permite la decodificación e influencia sobre la mente en un nivel preconductual. Si la ley no tipifica expresamente la biometría cognitiva y el bucle afectivo neurotecnológico como actividades de alto riesgo o prohibidas fuera del ámbito médico, dejará desprotegida a la ciudadanía frente a la manipulación sutil de su voluntad.

10. Frente a esta convergencia entre la IA generativa y la neurotecnología, ¿es suficiente con exigir transparencia, consentimiento y protección de datos, o hay usos que deberían estar directamente prohibidos, aunque el usuario los autorice?

Exigir únicamente transparencia, consentimiento y protección de datos es manifiestamente insuficiente. Al tratarse de tecnologías que pueden operar directamente sobre la psique y los correlatos neurobiológicos de la voluntad, existen aplicaciones que comprometen la dignidad humana y que deben ser objeto de prohibiciones categóricas ex ante, resultando ineficaz cualquier intento de convalidación mediante autorización del usuario.

Entre los usos que deben ser prohibidos de forma absoluta se encuentran:

• El despliegue de técnicas subliminales o de manipulación neuroalgorítmica orientadas a distorsionar la conducta o la toma de decisiones.
• El uso de neurodatos y biometría cognitiva para la elaboración de perfiles comerciales, la publicidad hiperpersonalizada o el neuromarketing.
• La evaluación, categorización o vigilancia de estados neuronales y emocionales en entornos laborales o educativos sin fines terapéuticos.
• Cualquier intervención neurotecnológica no médica que atente de forma irreversible contra la continuidad psicológica, la identidad personal o el libre albedrío del individuo.

11. Finalmente, si tuviera que analizar la normativa vigente en Chile, ¿bastaría actualmente con el mandato del artículo 19 n.º 1 de la Constitución, para proteger la integridad mental frente a tecnologías como los chatbots de compañía y las interfaces cerebro-computador, o hace falta reconocer expresamente un derecho autónomo a la integridad mental?

La reforma constitucional de 2021 al artículo 19 N.º 1 de la Carta Fundamental (Ley N.º 21.383) constituye un hito normativo de relevancia internacional al consagrar la protección de la actividad cerebral y de la información que de ella emana. Sin embargo, la sola cláusula constitucional resulta insuficiente si no se dota de eficacia operativa a través de la legislación orgánica y la doctrina jurídica.

Para proteger eficazmente a las personas frente a tecnologías convergentes como los chatbots de compañía con IA generativa e interfaces cerebro-computador, es indispensable:

• Reconocer operativamente la integridad mental y la libertad cognitiva como derechos autónomos e inalienables, diferenciados de la mera privacidad de datos.
• Aprobar una ley reguladora de neurotecnologías que tipifique adecuadamente los datos biométricos cognitivos y fije garantías para el ámbito clínico y de consumo.
• Integrar de forma sistemática la tutela constitucional con la bioética, las políticas de salud mental y la regulación de la inteligencia artificial, evitando que la norma constitucional quede reducida a una declaración simbólica carente de mecanismos eficaces de fiscalización y sanción.