La Comisión de Derecho y la Comisión de Derechos Humanos de Ontario (Canadá) publicaron un informe de antecedentes en el marco de la Evaluación del Impacto en los Derechos Humanos (HRIA) vinculada al desarrollo de la inteligencia artificial. Dicho informe tiene por objeto complementar el marco inicial de evaluación de impacto de los derechos humanos previsto para 2024, el cual fue establecido como una herramienta destinada a facilitar el cumplimiento de las obligaciones en materia de derechos fundamentales en el ámbito del desarrollo de la IA.
El documento examina la metodología de las evaluaciones de impacto en los derechos humanos y proporciona directrices sobre su implementación. Asimismo, analiza los beneficios y limitaciones de este mecanismo en la identificación de posibles vulnerabilidades de derechos derivados del uso de sistemas de inteligencia artificial, con especial atención a la prevención de sesgos y actos discriminatorios dentro del territorio de Ontario.
Actualmente, la legislación de Ontario no contempla la obligatoriedad de la realización de evaluaciones de impacto en los derechos humanos en el contexto del desarrollo de la inteligencia artificial. No obstante, la Ley de mejora de la seguridad y la confianza digital de 2024 dispone la creación de un marco de rendición de cuentas aplicable al uso de la IA en el sector público.
De igual modo, la propuesta de Ley federal de Inteligencia Artificial y Datos introduce la exigencia de que las organizaciones informen sobre la existencia de sesgos en los sistemas de IA clasificados como de “alto impacto” antes de su implementación.
El debate en torno a la regulación de la inteligencia artificial continúa siendo objeto de atención a nivel internacional. En febrero de 2024, se llevó a cabo la Cumbre de Acción sobre la IA, en la que participaron distintos líderes mundiales con el propósito de abordar los desafíos regulatorios de esta tecnología.
Asimismo, en septiembre de 2024, las Naciones Unidas publicaron el informe Governing AI for Humanity, que hace referencia a la problemática del sesgo y la discriminación en los sistemas de IA, en el contexto de los esfuerzos globales por establecer un marco normativo para su desarrollo y aplicación.
“Este informe de antecedentes acompaña la reciente publicación de la Evaluación del Impacto en los Derechos Humanos (HRIA, por sus siglas en inglés) de la Comisión de Derecho de Ontario (LCO) y la Comisión de Derechos Humanos de Ontario (OHRC). El propósito de la HRIA es ayudar a las organizaciones públicas y privadas canadienses a evaluar y mitigar el impacto en los derechos humanos de los sistemas de inteligencia artificial en una amplia gama de aplicaciones”, señala el texto.
“El contexto de la HRIA es el extraordinario crecimiento en el uso de la inteligencia artificial por parte de gobiernos, agencias públicas y el sector privado en todo el mundo. La amplitud y la rapidez en la implementación de los sistemas de IA reflejan el potencial percibido de esta tecnología para mejorar la precisión, la velocidad y la coherencia en la toma de decisiones tanto en el ámbito público como en el privado. No obstante dicho potencial, el uso de la IA suele ser problemático. Existen numerosos ejemplos de sistemas de IA, tanto en el ámbito privado como en el público, que han demostrado ser sesgados o discriminatorios. El enfoque de este documento se centra en el trabajo y el papel de la LCO en el desarrollo de la HRIA”, agrega el documento.