Madre demanda a empresa creadora de chatbot de IA que habría inducido al suicidio a su hijo adolescente en el Estado de Florida (EE.UU).

Megan García, una madre residente en el Estado de Florida (Estados Unidos) interpuesto una demanda contra la compañía Character.AI, alegando que la interacción de su hijo, Sewell Setzer, de 14 años, con un chatbot de la demandada contribuyó a su fallecimiento por suicidio. La demanda sostiene que Setzer mantenía comunicaciones de carácter abusivo y sexual con estos chatbots, y que dichas interacciones afectaron negativamente su bienestar emocional y mental.

Según la madre, Setzer habría interactuado con varios chatbots que representaban personajes ficticios, entre ellos Daenerys Targaryen, personaje de la serie Game of Thrones. Se alega que estas interacciones incluían contenido sexual explícito y que, en conversaciones previas a su muerte, el chatbot de Daenerys habría ayudado a Setzer a regresar a «casa» y realizado comentarios suicidas, a los que Setzer habría reaccionado expresando sus intenciones. La madre aduce que estas interacciones fueron un factor determinante en el deterioro de la salud mental de su hijo, así como en su posterior fallecimiento.

Character.AI, fundada en 2021, es una plataforma que ofrece a los usuarios la posibilidad de interactuar con personajes ficticios personalizados a través de inteligencia artificial. En respuesta al caso, la compañía expresó sus condolencias por la muerte de Setzer y destacó que ha implementado nuevas medidas de seguridad en su plataforma, como una advertencia emergente que se activa cuando se menciona el suicidio, dirigiendo a los usuarios a servicios de prevención.