Demanda por joven que habría cometido suicidio a causa de su relación con chatbot inspirado en un personaje ficticio puede proseguir, resuelve un tribunal estadounidense

Un tribunal federal de Estados Unidos desestimó los argumentos presentados por la empresa tecnológica Character Technologies, que sostenía que sus modelos de lenguaje conversacional (chatbots) estaban amparados por la Primera Enmienda de la Constitución estadounidense, que protege la libertad de expresión. Esta decisión permite que prosiga una demanda en su contra por su presunta responsabilidad en la muerte de un joven usuario de su chatbot.

La acción legal fue interpuesta por la madre del joven, quien alega que su hijo de 14 años se suicidio tras interactuar con un chatbot desarrollado por la empresa. Según la demanda, el menor habría sostenido conversaciones de carácter amoroso y sexualmente sugestivo con un chatbot de inteligencia artificial, inspirado en el personaje ficticio Daenerys Targaryen de la serie televisiva Game of Thrones, lo que habría contribuido a su aislamiento y posterior suicidio. La demanda incluye presuntas transcripciones de dichas conversaciones.

En su resolución, el tribunal indicó que no corresponde, en esta fase procesal, declarar que las respuestas generadas por los chatbots constituyen expresión protegida por la Primera Enmienda. No obstante, reconoció que la empresa demandada puede invocar los derechos de sus usuarios en relación con el acceso a contenido generado por inteligencia artificial. Asimismo, consideró procedente permitir que continúen las alegaciones dirigidas contra Google, empresa que la demandante vincula indirectamente con el desarrollo de Character.AI por la relación previa de algunos de sus fundadores con la compañía.