Ginebra.- Las tecnologías digitales y los sistemas de inteligencia artificial (IA) tienen gran potencial pero también un “lado oscuro”, advirtió el jefe de derechos humanos de la ONU, Volker Türk, quien pidió a la comunidad internacional actuar rápidamente para las posibles consecuencias negativas de estos avances.

“Si no actuamos rápidamente, podemos perder la batalla, con consecuencias imprevisibles para el disfrute de los derechos humanos”, señaló este lunes el alto comisionado Türk en el discurso de apertura de la 59ª sesión del Consejo de Derechos Humanos de Naciones Unidas, que durará cuatro semanas.

Volker Türk advierte sobre el lado oscuro de la inteligencia artificial y sus riesgos para los derechos humanos

El austríaco advirtió que “es probable que el uso de IA en sistemas militares ya haya contribuido a una gran cantidad de bajas civiles” y agregó que el desarrollo de esta tecnología en sistemas de vigilancia masiva preocupa por sus posibles amenazas al derecho a la privacidad y a la libertad de expresión.

Türk también alertó sobre el riesgo de que la inteligencia artificial “perpetúe la discriminación basada en raza y género” o la brecha digital, dada la concentración de las empresas de desarrollo de la IA en economías como Estados Unidos o China.

El uso militar de IA y la vigilancia masiva representan amenazas a la privacidad y la libertad de expresión

“Regular esta tecnología requerirá transparencia, mente abierta e inclusión”, afirmó el alto comisionado, quien rechazó los argumentos según los cuales los derechos humanos frenan la innovación.

“Muy al contrario, aquella innovación que ignora los derechos humanos ha tenido consecuencias terribles, desde algoritmos que privan injustamente a familias de asistencia social, a controles fronterizos basados en perfilación”, aseguró.

En este sentido, Türk celebró que economías como la Unión Europea, Corea del Sur o Brasil estén considerando legislación que incluya el respeto a los derechos humanos en el desarrollo de tecnologías basadas en IA, o que autoridades de varios países hayan tomado medidas contra empresas de tecnología de reconocimiento facial por violar la privacidad de la ciudadanía.

Türk destaca la necesidad de regular la IA con inclusión, transparencia y respeto a los derechos fundamentales

Türk también celebró como un avance en la protección de los trabajadores el reciente acuerdo entre estudios cinematográficos y actores de Hollywood para vigilar el uso de la IA en los rodajes. “Necesitamos sin embargo mucho más, ya que muchos países no tienen los marcos legales y los recursos para enfrentar los desafíos de la inteligencia artificial”, alertó el alto comisionado.

Türk subrayó en este sentido que los próximos meses pueden ser críticos para el desarrollo responsable de estas tecnologías, con la puesta en marcha de mecanismos de Naciones Unidas consagrados a su regulación.