IA y alucinaciones legales
¿Inteligencia Artificial vs. Profesión legal?
Si bien es cierto que la IA ayudará de gran manera en el ejercicio profesional, simplificando tareas que son relevantes, también son ciertos los peligros que su uso conlleva: decisiones tomadas con información con sesgo o derechamente falsa, delegación absoluta de facultades por parte de abogados y jueces en IA, hasta el reemplazo del ser humano en la profesión legal. Todos son escenarios que ya ocurren o que se han planteado en otros países y que implican al menos preguntarse si dicho uso es conciliable con el debido proceso.
¿Es posible que ChatGPT entregue información falsa? ¿O que sus respuestas tengan un sesgo ideológico? En ambos casos la respuesta es sí.
La inteligencia artificial (IA) “alucina”, es decir, responde a una pregunta de manera convincente, pero con información incorrecta, o desconectada del contexto de la pregunta. Además, Chat GPT tiene orientación política determinada (artículos U. Técnica de Múnich y U. de Hamburgo).
Lo anterior representa varios problemas socioculturales: 1. Erosiona la confianza en el uso de IA en el trabajo y vida cotidiana. 2. Esparce información falsa y perjudicial para las personas o grupos de personas que la utilizan. 3. Afecta la toma de decisiones en las cuales hoy se utiliza mayoritariamente la IA: mercado financiero, salud, legal, entre otros sectores. 4. Genera problemas de responsabilidad legal para los que la utilizan.
Te puede interesar
