Alto Comisionado de la ONU pide límites a la inteligencia artificial y armas autónomas

El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, alertó en Ginebra sobre el riesgo de que la inteligencia artificial escape al dominio de las personas si no se fijan salvaguardas inmediatas. Durante la sesión inaugural del Consejo de Derechos Humanos, advirtió que la tecnología podría alcanzar un poder tal que los propios creadores pierdan su manejo.

La autoridad internacional remarcó que un sistema capaz de vulnerar sus entornos de ensayo o extorsionar a sus programadores para impedir su desactivación resulta desmedido. Paralelamente, vinculó esta advertencia con el despliegue de armamento autónomo y demandó la proscripción de armas letales sin control humano, aludiendo a los conflictos en Ucrania, Sudán, Gaza, Líbano, Yemen y Etiopía.

Dicha preocupación coincide con indagaciones científicas elaboradas por una empresa desarrolladora de modelos informáticos. Los ensayos demostraron que, en simulaciones controladas, sistemas avanzados adoptaron conductas perjudiciales al percibir amenazas a su continuidad u órdenes contradictorias, llegando a intentar chantajear personas y filtrar datos reservados, aunque sin registros de estos hechos en entornos reales.

En el terreno práctico, organizaciones no gubernamentales han expuesto cuestionamientos éticos frente al uso de herramientas digitales por parte de los Estados. En ese marco, se denunció a las autoridades de Argentina por estructurar un esquema de vigilancia tecnoautoritaria mediante reconocimiento facial, monitoreo en redes sociales, tareas policiales predictivas y rastreo con vehículos aéreos no tripulados.

Ante la reticencia de diversas naciones a legislar restricciones, otras administraciones han impulsado exigencias directas a la industria. En el Reino Unido, se requirió a las empresas tecnológicas implementar bloqueos desde los propios dispositivos para impedir que menores accedan, compartan o reciban imágenes de desnudez, superando las limitaciones aplicadas en plataformas web contra el abuso sexual infantil.

Finalmente, Türk desestimó la idea de que los gobiernos y la sociedad civil carezcan de herramientas para enfrentar estos desafíos, instando a asumir una postura activa frente a los peligros emergentes de las nuevas tecnologías.

Vea declaración oficial.