Expertos de la ONU urgen un mayor control y supervisión de las tecnologías nuevas y emergentes

Ante los efectos negativos que las herramientas digitales emergentes tienen sobre los derechos humanos, expertos de la ONU han reclamado la necesidad de aplicar una regulación y supervisión más firme para garantizar la protección de los derechos de las personas.

Dentro de estas tecnologías, se han referido específicamente a sistemas de vigilancia basados en inteligencia artificial o programas espía invasivos que se emplean en contextos sensibles, sin contar con el consentimiento de las personas, violando por completo sus derechos humanos y la salvaguardia de sus datos.

Así, han señalado la necesidad de aplicar “líneas rojas regulatorias urgentes y estrictas para las tecnologías que aseguran realizar el reconocimiento de emociones o de género”. Este reclamo llega días antes de la celebración de la cumbre RightsCon, que tendrá lugar del 5 al 8 de junio de 2023 en Costa Rica, centrada en la protección de los derechos humanos en la era digital.

Asimismo, estos expertos han mostrado su preocupación ante la proliferación de tecnologías orientadas a vigilar ilegalmente a activistas, personas defensoras de derechos humanos, periodistas y otros actores relevantes de la sociedad civil a nivel mundial, bajo el argumento de preservar la seguridad nacional y la lucha contra el terrorismo.

Según han expresado, estas aplicaciones pueden interferir en las libertades de expresión, pensamiento y protesta pacífica, así como violar el derecho a la intimidad y otros derechos económicos, sociales y culturales esenciales.

También han hecho mención a los denominados sistemas de “inteligencia artificial generativa”, capaces de producir grandes cantidades de contenido cuya fiabilidad es cuestionable. Por tanto, en ocasiones promueven la desinformación y pueden incitar al odio o la discriminación por cuestiones de raza, género, sexo u otros. Ante esto, los expertos han señalado la importancia de crear un marco regulatorio que garantice la transparencia de estas tecnologías digitales.

Otro de los aspectos tratados ha sido la procedencia de estas aplicaciones emergentes. Así, los expertos han mostrado su preocupación que sean soluciones impulsadas desde inversionistas o empresas con gran poder e influencia en el mercado, los cuales no están sometidos a unos requisitos u obligaciones en cuanto a la garantía de los derechos humanos.

Por último, han instado a los Estados y las empresas a responder a sus deberes y responsabilidades en cuanto al desarrollo, uso, investigación y adquisición de estas tecnologías emergentes. "Tanto la industria como los Estados deben rendir cuentas, entre otras cosas por sus repercusiones económicas, sociales, medioambientales y sobre los derechos humanos", han concluido.

Fuente: New and emerging technologies need urgent oversight and robust transparency: UN experts.