Experts de l'ONU urgeixen més control i supervisió de les tecnologies noves i emergents

Davant els efectes negatius que les eines digitals emergents tenen sobre els drets humans, experts de l'ONU han reclamat la necessitat d'aplicar una regulació i una supervisió més ferma per garantir la protecció dels drets de les persones.

Dins d'aquestes tecnologies, s'han referit específicament a sistemes de vigilància basats en intel·ligència artificial o programes espia invasius que es fan servir en contextos sensibles, sense comptar amb el consentiment de les persones, violant completament els seus drets humans i la salvaguarda de les seves dades.

Així, han assenyalat la necessitat d'aplicar "línies vermelles reguladores urgents i estrictes per a les tecnologies que asseguren realitzar el reconeixement d'emocions o de gènere". Aquest reclam arriba dies abans de la celebració de la cimera RightsCon, que tindrà lloc del 5 al 8 de juny de 2023 a Costa Rica, centrada en la protecció dels drets humans a l'era digital.

Així mateix, aquests experts han mostrat la seva preocupació davant la proliferació de tecnologies orientades a vigilar il·legalment activistes, persones defensores de drets humans, periodistes i altres actors rellevants de la societat civil a nivell mundial, sota l'argument de preservar la seguretat nacional i la lluita contra el terrorisme.

Segons han expressat, aquestes aplicacions poden interferir en les llibertats d'expressió, pensament i protesta pacífica, així com violar el dret a la intimitat i altres drets econòmics, socials i culturals essencials.

També han fet esment als anomenats “sistemes d'intel·ligència artificial generativa”, capaços de produir grans quantitats de contingut la fiabilitat dels quals és qüestionable. Per tant, poden promoure la desinformació i incitar a l’odi o la discriminació per qüestions de raça, gènere, sexe o altres. Davant d'això, els experts han assenyalat la importància de crear un marc regulador que garanteixi la transparència d'aquestes tecnologies digitals.

Un altre dels aspectes tractats ha estat la procedència d'aquestes aplicacions emergents. Així, els experts han mostrat la seva preocupació que siguin solucions impulsades des d'inversors o empreses amb gran poder i influència al mercat, els quals no estan sotmesos a uns requisits o obligacions pel que fa a la garantia dels drets humans.

Finalment, han instat els Estats i les empreses a respondre als seus deures i responsabilitats quant al desenvolupament, l'ús, la investigació i l'adquisició d'aquestes tecnologies emergents. "Tant la indústria com els Estats han de rendir comptes, entre d'altres coses per les repercussions econòmiques, socials, mediambientals i sobre els drets humans", han conclòs.

Font: New and emerging technologies need urgent oversight and robust transparency: UN experts.