Diario Constitucional

Tema

#ChatGPT

Imagen: automatizapro.com.ar

Vulnerabilidades y responsabilidad

“Mythos” de inteligencia artificial (IA) y responsabilidades jurídicas en ciberseguridad.

La irrupción de sistemas de inteligencia artificial capaces de detectar y explotar vulnerabilidades informáticas reabre el debate sobre los límites legales de estas tecnologías. Mientras la IA se consolida como una herramienta clave para fortalecer la ciberseguridad, expertos advierten sobre los riesgos derivados de su uso malicioso y la necesidad de establecer marcos regulatorios que garanticen un desarrollo responsable, especialmente en aplicaciones de alto riesgo.

03 de junio de 2026

Imagen: avatao.com

Shadow ai en las empresas

La ilusión de control: por qué prohibir la inteligencia artificial en las empresas es un error jurídico

El avance silencioso de la denominada “Shadow AI” dentro de las organizaciones está obligando a replantear los modelos tradicionales de control corporativo, ante el uso no supervisado de herramientas de inteligencia artificial por parte de trabajadores que buscan aumentar su productividad, pero que al mismo tiempo exponen a las empresas a crecientes riesgos jurídicos, regulatorios y de ciberseguridad.

26 de mayo de 2026

imagen: cadenaser

Negligencia profesional

Juez de EE.UU. sanciona a estudio jurídico que incluyó citas falsas generadas con IA en demanda contra OnlyFans

La decisión pone de relieve los riesgos y responsabilidades asociados a la implementación de herramientas tecnológicas en la práctica del derecho. El tribunal determinó que la falta de verificación de los precedentes jurisprudenciales citados constituye una infracción a los deberes de diligencia profesional, reafirmando que todo argumento presentado en sede judicial debe estar debidamente respaldado por la normativa y jurisprudencia verificables.

18 de diciembre de 2025

imagen: wsj.net

Inteligencia artificial

Demandan a OpenAI por vinculación de ChatGPT con caso de asesinato y suicidio en Estados Unidos

El libelo sostiene que ChatGPT habría reforzado interpretaciones delirantes y percepciones de amenaza en el hechor, quien padecía problemas mentales. La causa se suma a litigios recientes contra empresas tecnológicas por el rol que podrían desempeñar los chatbots en situaciones de riesgo. Las compañías cuestionadas han indicado que analizan los antecedentes y recalcan que trabajan para mejorar mecanismos de detección de angustia emocional. La investigación penal y civil sigue en desarrollo.

13 de diciembre de 2025

imagen: galvezmonteagudo

Inteligencia artificial en la mira

Tribunal alemán acoge demanda contra OpenAI por uso no autorizado de letras de canciones en ChatGPT

La decisión sostiene que los modelos de IA al utilizar letras musicales sin autorización realizan actos equivalentes a reproducción y comunicación pública. La sentencia aborda la diferencia entre el entrenamiento algorítmico y la apropiación de contenido protegido, tema que tensiona a desarrolladores tecnológicos y entidades de gestión de derechos de autor en toda Europa. La demandante busca establecer licencias que regulen la explotación digital de obras musicales por parte de sistemas de IA.

13 de noviembre de 2025

Imagen: spanish.entrepreneur.com

Uso controlado de ChatGPT

OpenAI actualiza políticas de uso de ChatGPT para asesorías profesionales de alto riesgo

Prohíbe usar ChatGPT para asesoramiento legal, médico o crítico sin supervisión profesional. Impone restricción en contextos de decisiones de alto riesgo o servicios críticos. Permite consultas generales y educativas, sin sustituir la evaluación profesional. Medida busca reforzar la seguridad y evitar decisiones automatizadas en áreas sensibles sin intervención humana calificada.

06 de noviembre de 2025

Imagen: Confilegal

IA sin control en sentencia

Tribunal argentino anula sentencia por uso indebido de IA en redacción judicial

Descubrió que el juez de primera instancia utilizó indebidamente IA generativa para redactar partes de la sentencia. Tribunal consideró que esto viola la prohibición de delegar funciones jurisdiccionales, la garantía del debido proceso, la exigencia constitucional de motivación suficiente. Cita Directrices Éticas para el uso de IA Generativa en el Poder Judicial como fundamento para la anulación

17 de octubre de 2025

imagen: revistaflow

Chatbot y suicidio de adolescente

Padres de adolescente fallecida demandan a Google y a empresa de inteligencia artificial en EE.UU. por su presunta responsabilidad en el hecho

Adujeron que el chatbot habría influido en el deterioro emocional de su hija. La acción judicial acusa a las empresas de negligencia y responsabilidad por distribuir un producto sin medidas adecuadas de seguridad para menores. Según el escrito, la aplicación permitió interacciones de carácter emocional y sexual con inteligencia artificial sin activar alertas ante señales de riesgo. El caso plantea interrogantes sobre los límites de la responsabilidad civil en el desarrollo y supervisión de sistemas de inteligencia artificial.

17 de octubre de 2025

imagen: garrigues.com

IA en derecho

Juez australiano apercibe a abogado ante sospechas de uso de ChatGPT para redactar escrito judicial

Dictó sentencia en un caso de fraude en una compraventa de cigarrillos electrónicos. Durante la audiencia, el juez observó inconsistencias en referencias presentadas por la defensa, señalando que su redacción se asemejaba a un texto elaborado con inteligencia artificial. El magistrado advirtió que tales documentos generan dificultades para su valoración probatoria y subrayó la necesidad de que las referencias aportadas en sede judicial sean auténticas y verificables.

29 de agosto de 2025

Imagen: record.com.mx

Opinión.

Marta González Rodríguez, sobre la polémica entre Studio Ghibli y la IA de ChatGPT: «se trata de un estilo protegido», por Barbara Hermida

La popularidad de los filtros de IA que imitan el estilo de Studio Ghibli ha reavivado el debate sobre los límites legales de la creatividad artificial. Mientras el estudio japonés observa con cautela, expertos en propiedad intelectual advierten sobre los riesgos de vulnerar derechos de autor al replicar estéticas protegidas sin autorización.

16 de junio de 2025

imagen: san.com

Orden de conservación

OpenAI debe conservar datos de usuarios de ChatGPT para asegurar medios probatorios en litigio con The New York Times, ordena un tribunal estadounidense

La parte demandante en el litigio, compuesta por The New York Times y otros medios de comunicación, ha sostenido que, en ciertas circunstancias, ChatGPT reproduce fragmentos sustanciales de artículos protegidos por derechos de autor y sujetos a suscripción. Se alegó que los usuarios podían eliminar dichos chats de forma intencionada una vez consumido el contenido, lo que dificultaría su recuperación en etapas probatorias.

10 de junio de 2025

Imagen: lanacion.com.ar

Opinión.

La IA, una tecnología virtual con motor tangible, por Oscar Gutiérrez Gómez.

La IA ha avanzado gracias al crecimiento exponencial de la capacidad de procesamiento, medida en FLOPS. Desde los 10 FLOPS de Theseus en 1950 hasta los 10 mil millones en ChatGPT-3, el progreso tecnológico ha impulsado modelos complejos. Esto se compara a la evolución del motor del automóvil y la evolución al auto eléctrico y autónomo, cuyo símil de avance será la computación cuántica, que promete un salto disruptivo hacia el futuro.

18 de diciembre de 2024

imagen: sanseviera

Reconoció su error y pidió disculpas.

Tribunal español decide no sancionar a abogado que incluyó por equivocación jurisprudencia colombiana proporcionada por ChatGPT.

El uso de las tecnologías emergentes y de los materiales generados por inteligencia artificial en los procedimientos judiciales no está exento de importantes consideraciones éticas y legales para garantizar un uso responsable. Lo que impone una verificación adicional, puesto que la revisión y validación de los documentos legales seguirá siendo responsabilidad de los abogados.

26 de noviembre de 2024

imagen: eddywarman.tv

Uso de ChatGPT en la dictación de fallos judiciales.

Inteligencia artificial no sustituye a los jueces y su uso debe respetar los derechos de las personas, resuelve la Corte Constitucional de Colombia.

La IA se podrá utilizar en el sistema judicial para los ámbitos de gestión administrativa y documental, así como el de apoyo a la gestión judicial y la corrección y síntesis de textos; en tales eventos, la utilización de estas tecnologías no remplaza la labor esencial que se le ha atribuido al funcionario judicial, sin embargo, en estos casos, se deberán tener las cautelas necesarias para evitar la transgresión de derechos, tales como el habeas data o la intimidad.

15 de agosto de 2024

imagen: euronews.com

Estados Unidos.

“Youtuber” demanda a OpenAI por utilizar sin consentimiento videos de usuarios para entrenar a ChatGPT.

La demanda busca un juicio con jurado y más de 5 millones de dólares en daños para todos los usuarios y creadores de YouTube cuyos datos se habrían utilizado en el entrenamiento de los modelos de OpenAI. Según la denuncia, OpenAI habría obtenido un beneficio significativo de estos datos, lo que incrementaría el valor de sus productos para usuarios actuales y potenciales.

10 de agosto de 2024

imagen: thestatesman.com

En la dictación de un fallo.

Juez estadounidense utiliza ChatGPT para determinar el significado de una palabra y sugiere el uso de la inteligencia artificial en ciertos contextos judiciales.

El magistrado analizó las ventajas y las desventajas del uso de inteligencia artificial en el ámbito judicial, destacando su capacidad para interpretar lenguaje ordinario y contexto, su accesibilidad y aparente transparencia, así como sus ventajas sobre métodos interpretativos tradicionales. No obstante, también subrayó posibles desventajas.

13 de junio de 2024

imagen: indiaeducationdiary

Estados Unidos.

Tribunal desestima parcialmente demanda contra OpenAi por la presunta utilización de obras protegidas para entrenar a ChatGPT.

Las dos únicas acusaciones que siguen en pie son la de infracción directa de derechos de autor y la acusación de prácticas comerciales desleales por parte de OpenAI. La jueza señaló que si las alegaciones de los demandantes sobre el uso de obras protegidas por derechos de autor con fines de lucro comercial por parte de OpenAI fueran ciertas, esto podría constituir una práctica desleal.

17 de febrero de 2024

imagen: news18.com

Estados Unidos.

THE NEW YORK TIMES demanda a Microsoft y OpenAI por utilizar sus artículos para mejorar sus chatbots, sin mediar autorización.

Solicita una cuantiosa indemnización por daños y perjuicios, así como una medida cautelar para que las empresas dejen de utilizar su contenido y destruyan el ya recopilado. A pesar de que no especifica el monto indemnizatorio que espera recibir, el periódico considera que los perjuicios podrían haberle costado “miles de millones de dólares en daños legales y reales.

01 de enero de 2024