Granjas de bots y campañas
El debate legislativo sobre las granjas de bots y la desinformación electoral en Chile
El problema no es legislativo ni conceptual, sino que como implementar leyes como esta sin censura colateral ni cómo exigirla a gigantes technologicos. Una alternativa no es moderar por contenidos sino que velocidades, introduciendo fricción a las RRSS en periodos de campaña.
El avance de las tecnologías digitales y la consolidación de las redes sociales como el principal espacio de deliberación pública han transformado radicalmente las campañas electorales. Sin embargo, este fenómeno ha traído consigo nuevos desafíos para la integridad democrática, destacando el uso de granjas de bots y estrategias de comportamiento inauténtico coordinado para manipular el debate político, distorsionar la conversación social y polarizar al electorado.
En este escenario, el debate legislativo en Chile busca hacer frente a estas prácticas mediante iniciativas que contemplan sanciones penales, administrativas y de control de gasto electoral. No obstante, la regulación del espacio digital abre interrogantes jurídicas complejas y no exentas de controversia: ¿dónde se traza la frontera entre la persecución del engaño masivo y la protección de garantías fundamentales como la libertad de expresión y el anonimato? Por otra parte, surgen serias dudas sobre la aplicabilidad técnica de estas sanciones, la capacidad de fiscalización en plataformas transfronterizas y el riesgo de generar un "efecto amedrentador" sobre el activismo legítimo en internet.
Para abordar este fenómeno, conversamos con Angie Silva Major, abogada, magíster y doctora en Derecho por la Pontificia Universidad Católica de Valparaíso, académica e investigadora de la Universidad Católica de Temuco, Editora Jefe de la Revista Chilena de Derecho y Ciencia Política y directora del Centro de Estudios de Derechos Humanos; y con José Acevedo, licenciado en Derecho y Ciencias Sociales por la Universidad de Chile, magíster en Derecho y Tecnología por Cornell University (ANID), becario Fulbright, candidato a doctor en la Escuela de Asuntos Públicos y Administración de Rutgers University, exasesor en el Congreso Nacional, la Convención Constitucional y la SECOM, y docente de políticas públicas e innovación en la Escuela de Administración de la UDP.

Angie Silva
1. En el debate legislativo se plantea que el objetivo no es censurar opiniones, sino proteger al electorado del «falseamiento deliberado de la realidad social». Desde el punto de vista técnico-jurídico, ¿cómo se define adecuadamente el límite entre una campaña digital legítima y un «comportamiento inauténtico coordinado» sin caer en ambigüedades normativa?
El primer gran problema al que nos enfrentamos al intentar regular estos fenómenos es la dificultad de trazar una frontera clara entre las conductas permitidas y las prohibidas. Para resolverlo, se requiere adoptar previamente una posición acerca de qué es, precisamente, lo que hace que estas conductas resulten socialmente indeseables.
¿Es reprochable presentar una realidad distorsionada? La publicidad hace algo similar y, en ciertos casos, ello se interpreta como una manifestación del denominado “dolo del buen comerciante”. Si lo censurable es el uso de sistemas automatizados, cabe preguntarse si su empleo sería igualmente relevante para el derecho cuando lo difundido es verdadero, no resulta dañino o constituye una mera sátira. Por otra parte, ¿cómo puede cuantificarse adecuadamente el daño causado para asegurar que la respuesta jurídica sea proporcional? Finalmente, y esto resulta aún más complejo, ¿limitar estas redes implica, de alguna manera, restringir la libertad de expresión de quien las contrata, las opera o determina el contenido de sus mensajes? Pues si lo es, la regulación de estas conductas debe ser aún más cuidadosa para no limitar indebidamente derechos fundamentales esenciales del sistema democrático.
Responder a todas estas preguntas exige un desarrollo teórico previo a la formulación de cualquier iniciativa legislativa.
2. El proyecto de ley contempla penas privativas de libertad e importantes multas para quienes operen o financien estas redes. ¿Consideran que la vía penal es proporcional y efectiva para desincentivar estas prácticas, o se corre el riesgo de hiperregular el espacio digital?
La hiperregulación del discurso conlleva un peligro severo de censura colateral, que es más grave cuando la expresión se ejerce en cuanto participante del debate político. Por ello es que la Corte Interamericana de Derechos Humanos ha resuelto permanentemente que el discurso público y la libertad de expresión deben ser protegidos como condiciones esenciales de la democracia, y la vía penal debe ser siempre la última de las alternativas posibles, aplicable solamente en defecto de todas las demás.
3. ¿De qué manera se puede fiscalizar y sancionar el uso de bots automatizados sin vulnerar garantías constitucionales como el derecho a la libre expresión o el anonimato legítimo en internet?
La automatización y el uso de bots pueden ser legítimos, por lo que su sola utilización no debería constituir una infracción. Lo jurídicamente relevante sería su empleo para simular apoyo ciudadano, ocultar la identidad de quienes dirigen una campaña o amplificar engañosamente determinados mensajes. Fiscalizar su uso adecuado requiere distinguir entre coordinación y automatización: un conjunto de cuentas administradas por personas reales puede actuar coordinadamente, mientras que un bot puede operar de manera aislada. Existen herramientas capaces de detectar indicios de automatización, pero estas técnicas entregan resultados probabilísticos y pueden confundir una red automatizada con una campaña legítimamente organizada. Una fiscalización adecuada tendría que combinar distintos indicadores, incorporar una revisión humana y permitir que los afectados controviertan sus resultados. Además, las mismas plataformas cuentan con información técnica que no está disponible públicamente y que puede contribuir a determinar si existe automatización, por lo que la regulación de las plataformas también facilitaría la fiscalización de estos fenómenos.
4. La legislación actual regula el gasto en propaganda en plataformas convencionales, pero el uso de redes inauténticas suele operar en la opacidad o desde el extranjero. ¿Qué vacíos legales existen hoy en la Ley de Control de Gasto Electoral (Servel) frente a la contratación indirecta de estos servicios?
En esta materia, más que una ausencia total de regulación, existe una brecha entre la amplitud de las normas y las posibilidades reales de fiscalización. Actualmente las redes sociales y plataformas digitales deben informar al Servel la identidad y los montos de quienes contratan propaganda electoral. Sin embargo, estas reglas funcionan respecto de contrataciones publicitarias formales y visibles. Las redes inauténticas pueden operar mediante agencias de comunicaciones, empresas de análisis de datos, administradores de cuentas o proveedores de automatización cuyos servicios se presentan contablemente bajo categorías generales, por lo que el pago efectuado por la candidatura puede no reflejar la naturaleza concreta del servicio finalmente prestado. A ello se suma el problema territorial. Cuando el proveedor, el intermediario o quien financia la operación se encuentra en el extranjero, las facultades del Servel para obtener información y hacer efectiva una sanción resultan limitadas.
La legislación todavía no ofrece mecanismos suficientemente específicos para reconstruir la cadena completa de contratación, identificar al beneficiario final y distinguir entre una manifestación política autónoma y un servicio encubierto contratado en favor de una candidatura.
5. Identificar la autoría intelectual detrás de una granja de bots implica peritajes informáticos complejos, el rastreo de direcciones IP y la cooperación internacional con grandes plataformas informáticas. ¿Está el sistema de justicia chileno (Fiscalía y policías) preparado operativamente para investigar este tipo de delitos informáticos con la celeridad que exige una campaña electoral?
Aquí habría que ser especialmente cuidadosos, porque no parece suficiente acreditar que una campaña se benefició de una red de cuentas automatizadas para atribuir responsabilidad penal a una empresa, agencia o partido político. Entre beneficiarse de una conducta, conocer su existencia y haberla encargado deliberadamente existen diferencias relevantes desde el punto de vista jurídico. Si se opta por la vía penal, debería acreditarse al menos una vinculación suficientemente clara entre la decisión de contratar, financiar u organizar la red y la finalidad específica que el legislador considere ilícita. De lo contrario, existe el riesgo de construir una forma de responsabilidad prácticamente objetiva a partir del solo beneficio electoral obtenido. Además, tratándose de personas jurídicas, la imputación plantea un segundo nivel de dificultad: habrá que determinar qué decisiones organizacionales, incumplimientos de deberes de supervisión o actuaciones de personas naturales permiten atribuir el hecho a la organización. Mientras más grave sea la sanción, mayor debe ser la exigencia de precisión tanto en la descripción de la conducta prohibida como en la prueba de su imputación.
6. Ante la dificultad de tipificar y probar estos delitos en sede penal a tiempo antes de una votación, ¿debería ponerse el foco prioritario en sanciones administrativas expeditas (como la descalificación de candidaturas o multas al partido) o en el derecho penal?
Probablemente existe una diferencia importante entre contar con capacidades para investigar delitos informáticos y poder hacerlo dentro de los tiempos extremadamente breves de una campaña electoral. Una investigación penal puede requerir peritajes, órdenes judiciales, identificación de responsables, obtención de información desde plataformas y, en ciertos casos, cooperación internacional. Aunque todos esos mecanismos funcionaran correctamente, sus tiempos difícilmente coincidirían con los del proceso electoral. Una elección puede celebrarse antes de que siquiera se haya determinado quién estaba detrás de una determinada operación digital. Por eso me parece problemático depositar en el derecho penal la principal respuesta frente a este fenómeno. El proceso penal puede ser necesario para determinar responsabilidades posteriores cuando se trate de conductas suficientemente graves, pero difícilmente puede ser el único instrumento destinado a proteger la integridad del debate durante una elección. La respuesta regulatoria debe incorporar también mecanismos preventivos, obligaciones de transparencia y procedimientos suficientemente rápidos para operar mientras la afectación todavía puede ser corregida.

José Acevedo
1. En el debate legislativo se plantea que el objetivo no es censurar opiniones, sino proteger al electorado del "falseamiento deliberado de la realidad social". Desde el punto de vista técnico-jurídico, ¿cómo se define adecuadamente el límite entre una campaña digital legítima y un "comportamiento inauténtico coordinado" sin caer en ambigüedades normativas?
No creo que haya una definición adecuada, o que, si las hay, sean parte de la solución, porque el problema no está a nivel legislativo. Para ilustrar el problema, voy a distinguir entre regulaciones de redes sociales que son agnósticas respecto del contenido y regulaciones que adoptan una postura respecto del contenido. Lo segundo es muchísimo más problemático que lo primero. Si bien, en abstracto, una comunidad democrática puede ponerse de acuerdo en que falsear la realidad social es ilegítimo en contextos de elecciones, qué se considera “falso” en una campaña política es una decisión potencialmente polémica.
Ahora bien, se podría regular el comportamiento inauténtico coordinado independientemente del contenido. En otras palabras, prohibimos los bots que actúan en conjunto sin importarnos si lo que dicen es verdadero o falso. Si bien esto podría afectar opiniones legítimas —llamadas a votar, p. e. — evita el problema de definir qué es falso y qué no en contextos de campañas políticas.
Pero esto también tiene un problema práctico. El incentivo para el regulado es cubrir más de lo que la regulación espera, dado que el costo de un falso negativo es muy alto; por ello, se censurarán involuntariamente los falsos positivos. Por eso, probablemente la implementación de una regulación neutral en términos de contenido también puede afectar opiniones legítimas. Como le decía, el problema no está a nivel legislativo, por lo que mejores o peores definiciones no lo solucionan.
2. El proyecto de ley contempla penas privativas de libertad e importantes multas para quienes operen o financien estas redes. ¿Consideran que la vía penal es proporcional y efectiva para desincentivar estas prácticas, o se corre el riesgo de hiperregular el espacio digital?
Creo que no lo es. Siempre hay que considerar que las regulaciones de moderación de contenidos afectan más expresiones de las que tienen por objeto. Por decirlo así, hay daños colaterales o falsos positivos que se ven afectados por la regulación de contenidos en internet. Por ejemplo, hay campañas de activación político-electoral que consisten básicamente en los mismos estándares que podríamos usar para determinar comportamiento colectivo inauténtico: sincronía, acciones en red (likes, retuits, etc) y similitud de contenido. Por cierto, si no detectar una red puede costar una condena penal (nada menos) y bajar por error una campaña legítima no cuesta mucho, el incentivo para el regulado es la censura. Si ud. fuera el administrador de una RRSS: ¿cómo interpretaría el verbo “administrar” en el proyecto de ley? Después de todo, los bots se aprovechan de mecanismos de distribución de contenidos administrados por las RRSS.
3. ¿De qué manera se puede fiscalizar y sancionar el uso de bots automatizados sin vulnerar garantías constitucionales como el derecho a la libre expresión o el anonimato legítimo en internet?
Por todo lo indicado arriba, creo que no es posible. Por eso la pregunta que hay que hacerse es distinta: ¿estamos dispuestos a tolerar censura colateral? ¿En qué medida? Hay que considerar, además, que la implementación de una legislación como esta no estaría en manos de la legislación especializada en el derecho constitucional chileno, sino en algoritmos predictivos que intentan identificar redes de bots y moderadores humanos que revisarán algunos de los casos que les lleguen. De nuevo, creo que el problema no está a nivel legislativo.
4. La legislación actual regula el gasto en propaganda en plataformas convencionales, pero el uso de redes inauténticas suele operar en la opacidad o desde el extranjero. ¿Qué vacíos legales existen hoy en la Ley de Control de Gasto Electoral (Servel) frente a la contratación indirecta de estos servicios?
Cuando Chile implementó una regulación de financiamiento de campañas en redes sociales en el contexto del primer proceso constituyente, impuso multas a las plataformas que se negaran a proporcionar información al SERVEL. Google debía entregar cierta información, pero prefirió pagar la multa. El monto máximo era de 100 UTM, algo así como 6 millones de la época. Eso representa lo que Google gana en algo así como un segundo. No diría, entonces, que el problema está en plataformas opacas, sino en qué tipo de facultades puede implementar Chile, como explico más abajo. ¿Qué tipo de facultades serían útiles, si nuestro mercado es pequeño? ¿Podríamos cobrar un porcentaje de los ingresos de una empresa como hace la UE?
5. Identificar la autoría intelectual detrás de una granja de bots implica peritajes informáticos complejos, el rastreo de direcciones IP y la cooperación internacional con grandes plataformas informáticas. ¿Está el sistema de justicia chileno (Fiscalía y policías) preparado operativamente para investigar este tipo de delitos informáticos con la celeridad que exige una campaña electoral?
No creo que el problema sea del sistema judicial, sino que probablemente sea del sistema institucional chileno y de países medianos y pequeños. ¿Cómo exigirle a una plataforma que no tiene oficina en Chile que entregue información relevante? ¿Cómo hacerlo si el dueño no tiene problemas con los bots —intuyo, el caso de Musk? Por ejemplo, Brasil no tiene este problema porque tiene un mercado crítico para redes sociales. Si Chile quiere ser capaz de regular asuntos como estos, debería pensar en alianzas más allá de sus fronteras.
6. Ante la dificultad de tipificar y probar estos delitos en sede penal a tiempo antes de una votación, ¿debería ponerse el foco prioritario en sanciones administrativas expeditas (como la descalificación de candidaturas o multas al partido) o en el derecho penal?
Si tuviera que sugerir una intervención específica, sería agregar fricción a la interacción en redes sociales en general. Que todo sea más lento o que, al menos en campaña, las interacciones sean más lentas. En una investigación de 2016, Vosoughi y otros identificaron que el contenido falso viaja más rápido que el verdadero en redes sociales. En campaña eso podría ser particularmente problemático. Note ud. que con una intervención como la que sugiero, las noticias falsas viajarían más lento no por ser noticias falsas, sino porque todo contenido viajaría más lento. Eso tiene la gracia de que nadie tendría que determinar qué cuenta como noticia falsa ni investigar si hay bots o no en las elecciones. Esto haría, por cierto, mucho menos atractivo el uso de bots también. Por cierto, afectaría contenido legítimo, pero no a través de la censura colateral.
Twitter implementó algo como esto en 2020, haciendo más difícil retuitear (requería incluir algún mensaje en el tuit, no solo apretar “retuit”). También WhatsApp, con etiquetas que dicen “este mensaje ha sido enviado muchas veces” para reconocer contenido “viral”. Además, estos mensajes son más difíciles de compartir (la última vez que lo revisé tenía un tope de 5 grupos a la vez).
Te puede interesar

Desinformación y constitución
Entre la libertad de expresión y la manipulación digital: Los límites constitucionales frente a la desinformación

Protección de datos y interés
Interés legítimo y datos personales: ¿Herramienta empresarial o riesgo para la privacidad?

Interés legítimo y privacidad
Interés legítimo y datos personales: ¿Herramienta empresarial o riesgo para la privacidad?

