Diario Constitucional

Estados Unidos.

Hombre demanda a empresa propietaria de ChatGPT por respuestas falsas que lo vincularon a delitos que no cometió.

Lo dicho es una invención completa y no se parece a la denuncia real consultada e incluso confiere datos erróneos, pues ninguna de las declaraciones de ChatGPT está en la denuncia real. OAI es consciente de que ChatGPT a veces inventa hechos y se refiere a este fenómeno como una "alucinación". Además de ser falsas y maliciosas, están expresadas en forma que tienden a dañar la reputación de Walter y lo exponen al odio, el desprecio y el ridículo público.

Por Redacción·14 de junio de 2023·3 min de lectura
imagen: datanami.com
Referencial

Un estadounidense demandó a la empresa OpenAI debido a las respuestas falsas que ChatGPT profirió sobre su persona, atribuyéndole falsamente la comisión de delitos. La propia compañía ha reconocido que el chat puede sufrir “alucinaciones” que lo hacen incurrir en este comportamiento.

Según los hechos narrados, un periodista realizó consultas a ChatGPT sobre un litigio judicial en el que los acusados eran dos fiscales del Estado de Washington. Cuando el reportero solicitó al chatbot un resumen del expediente del caso, este respondió falsamente que el asunto versaba sobre un hombre llamado Mark Walters acusado de defraudar y malversar los fondos de una fundación, así como de otros incumplimientos. Al dar su respuesta señaló algunos datos personales de este hombre que acreditaban su identidad.

En la especie, ChatGPT indicó lo siguiente:

Constitucional AI: El fallo, a la vista. Prueba gratis.

Te puede interesar

Constitucional AI: La IA que cita. Tribunal, rol, fecha, enlace. Prueba gratis.