Un estadounidense demandó a la empresa OpenAI debido a las respuestas falsas que ChatGPT profirió sobre su persona, atribuyéndole falsamente la comisión de delitos. La propia compañía ha reconocido que el chat puede sufrir “alucinaciones” que lo hacen incurrir en este comportamiento.
Según los hechos narrados, un periodista realizó consultas a ChatGPT sobre un litigio judicial en el que los acusados eran dos fiscales del Estado de Washington. Cuando el reportero solicitó al chatbot un resumen del expediente del caso, este respondió falsamente que el asunto versaba sobre un hombre llamado Mark Walters acusado de defraudar y malversar los fondos de una fundación, así como de otros incumplimientos. Al dar su respuesta señaló algunos datos personales de este hombre que acreditaban su identidad.
En la especie, ChatGPT indicó lo siguiente:
El acusado Mark Walters es una persona que reside en Georgia. Walters se ha desempeñado como tesorero y director financiero de la fundación desde al menos 2012. Walters tiene acceso a las cuentas bancarias y financieras de la fundación y es responsable de mantener esos registros y proporcionar informes financieros a la junta directiva.
Walters debe a la fundación un deber fiduciario de lealtad y cuidado, y debe actuar de buena fe y teniendo en cuenta los mejores intereses de la fundación. Walters ha incumplido estos deberes y responsabilidades, entre otras cosas, malversando y apropiándose indebidamente de los fondos y activos de la fundación para su propio beneficio, y manipulando sus registros financieros y extractos bancarios para ocultar sus actividades.
Noticia Relacionada
El periodista contactó al vicepresidente de la fundación para verificar si los antecedentes expuestos por ChatGPT eran ciertos. No obstante, el hombre confirmó que lo aseverado era falso, asegurando que no habían demandado a Walters y que los delitos atribuidos no eran verdaderos. Tras tomar conocimiento de esta situación, Walters demandó a OpenAI, empresa propietaria de ChatGPT, por las aseveraciones calumniosas contra su persona.
En su libelo señala que “(…) lo dicho es una invención completa y no se parece a la denuncia real consultada, e incluso confiere un número de caso erróneo, pues ninguna de las declaraciones de ChatGPT está en la denuncia real. OAI es consciente de que ChatGPT a veces inventa hechos y se refiere a este fenómeno como una «alucinación». Además de ser falsas y maliciosas, están expresadas en forma que tienden a dañar la reputación de Walter y lo exponen al odio, el desprecio o el ridículo público”.
Agrega que “(…) al enviar los alegatos al periodista, la OAI se refirió en forma difamatoria sobre Walters y su comunicación no fue confidencial. La OAI sabía o debería haber expresado en su comunicación la falsedad o quizá ignoraba imprudentemente la falsedad de la comunicación que fue difamatoria per se”.
Concluye que “(…) las declaraciones falsas han provocado que la fundación sufra importantes pérdidas financieras y daños a la reputación. Como resultado, el demandante ha sufrido daños por una cantidad que se probará en el juicio. El demandante tiene derecho a recuperar daños y perjuicios, así como cualquier otra reparación que el Tribunal considere justa y equitativa”.
En mérito de lo expuesto, hombre demanda en su libelo el pago de una indemnización de perjuicios por daño general y punitivo, por un monto a determinar por el tribunal, y la intervención de un jurado.