Aunque la IAG puede estructurar y presentar argumentos basados en datos y patrones aprendidos, no posee la verdadera capacidad de innovar o generar argumentación totalmente novedosa. Es decir, no puede generar argumentos que introduzcan conceptos o ideas radicalmente inéditas que no estén de alguna forma presentes en los datos con los que fue entrenado.
Materias como la gobernanza y seguridad, así como la confianza en el proceso legislativo y el análisis del impacto de la IA fueron los puntos abordados en una segunda jornada de este encuentro sobre el futuro de los parlamentos.
El magistrado analizó las ventajas y las desventajas del uso de inteligencia artificial en el ámbito judicial, destacando su capacidad para interpretar lenguaje ordinario y contexto, su accesibilidad y aparente transparencia, así como sus ventajas sobre métodos interpretativos tradicionales. No obstante, también subrayó posibles desventajas.
Alegan que fueron contactados a través de la plataforma Fiverr para proporcionar muestras de voz para proyectos diversos, bajo la creencia de que eran para clientes anónimos. En este contexto, aseguran que Lovo utilizó sin autorización sus voces para desarrollar productos de inteligencia artificial que se comercializan sin su consentimiento.
Los fiscales objetaron esta acción argumentando la ausencia de precedentes legales establecidos para la admisión de pruebas basadas en IA en los tribunales. Esta falta de jurisprudencia consolidada generó incertidumbre respecto a la admisibilidad de tales pruebas en el contexto judicial.
Un aspecto destacado del proyecto es la creación de un nuevo tipo de delito: la difusión ilícita de contenidos generados o manipulados con sistemas de IA diseñados para engañar sobre su autenticidad. Esta conducta será penalizada con penas que van de uno a cinco años de prisión si resulta en “daños injustos”.
No se recomienda el uso de chatbots de inteligencia artificial para confirmar cuestiones fácticas en un litigio, considerándolos más adecuados para obtener confirmaciones no definitivas. La precisión de la información proporcionada por herramientas de inteligencia artificial debe ser verificada antes de su utilización.
El acuerdo alcanzado establece regulaciones para mitigar los riesgos asociados con la IA de alto riesgo, al mismo tiempo que fomenta la innovación y el crecimiento empresarial en el continente. El texto final deberá ser aprobado formalmente para convertirse en ley, aunque previamente requerirá el voto de las comisiones de Mercado Interior y Libertades Civiles del Parlamento.
Según el estudio, es probable que los efectos potenciales de la IA Generativa difieran significativamente entre hombres y mujeres, ya que más del doble del empleo femenino podría verse afectado por la automatización. Esto se debe a la sobrerrepresentación de las mujeres en el trabajo administrativo, especialmente en los países de renta alta y media.
La iniciativa tiene por objetivo dar cuenta de la necesidad de establecer medios disuasivos respecto al mal uso de la inteligencia artificial, cuando esta se destine a la comisión de delitos de diversa índole, que afectan los derechos de las personas.
Busca delimitar su utilización a través de una escala de riesgos que está supeditada al grado de afectación a los derechos de las personas. Prohíbe expresamente su uso en vigilancia biométrica y sistemas de puntuación social basados en el comportamiento y/o características de los individuos.
