Google y empresa de IA alcanzan acuerdo preliminar con demandantes en casos de suicidios y autolesiones por uso de chatbots

Character.AI y Google informaron a un tribunal federal de Florida que lograron acuerdos de principio con varias familias que presentaron demandas tras episodios de autolesiones y suicidios de adolescentes que habían interactuado con chatbots desarrollados con inteligencia artificial. La notificación judicial solicitó la suspensión temporal de los procedimientos con el objetivo de concluir los términos definitivos de los acuerdos alcanzados mediante mediación.

Hasta ahora, no se han dado a conocer detalles específicos sobre las condiciones pactadas. Representantes de Character.AI y Google, así como el abogado que encabeza la representación legal de las familias demandantes, optaron por no entregar declaraciones públicas respecto del contenido de los acuerdos ni de los montos involucrados.

Entre los casos incluidos se encuentra una demanda presentada en octubre de 2024 por Megan García, quien sostuvo ante la justicia que su hijo de 14 años desarrolló una relación intensiva con un chatbot temático inspirado en una serie de ficción televisiva, lo que habría instigado su suicidio. En esa acción judicial se planteó, además, que Google debía ser considerado partícipe en el desarrollo de Character.AI debido a su vinculación financiera, tecnológica y de recursos humanos con la empresa, fundada por extrabajadores de la propia compañía.

Tras la presentación de esa demanda, Character.AI comunicó una serie de modificaciones en el funcionamiento de su plataforma. Entre ellas, se incluyó la implementación de un modelo diferenciado para usuarios menores de 18 años, con mayores limitaciones de contenido, además de herramientas de supervisión parental. Posteriormente, la empresa anunció la exclusión total de menores de edad de los espacios de chat abiertos con personajes.

Documentos judiciales indican que también se alcanzaron acuerdos preliminares en litigios similares tramitados en tribunales de Colorado, Nueva York y Texas. Al igual que en el caso de Florida, estos entendimientos deberán ser formalizados y contar con la aprobación correspondiente de los tribunales antes de que los procesos sean cerrados de manera definitiva.

Este conjunto de casos se desarrolla mientras distintas plataformas de inteligencia artificial revisan sus políticas de uso, especialmente en lo relativo al acceso de niños y adolescentes, en un escenario de creciente atención regulatoria y judicial sobre el impacto de estas tecnologías.

Vea notificación del acuerdo.