Català | Castellano

Segueix-nos a:

Butlletí de l'IDHC

Subscriu-te ara

Associa't a l'IDHC

El teu gra de sorra

A l'IDHC treballem per fer avançar l'història del drets humans. Una història en la que totes i tots nosaltres tenim un paper a jugar.

En vols formar part?

Agenda i calendari d'actes

[Enviament de comunicacions] VII Congrés Internacional: El tiempo de los derechos

Quan:
Del 6 de maig a l'1 de juliol del 2022, 10:00

On:
Enviament per correu electrònic a 7congreso@redtiempodelosderechos.com


[Jornades] Justícia climàtica, moviments socioambientals i ecofeminisme

Quan:
Del 17 al 23 de maig del 2022, 16:30

On:
Girona


[Cicle formatiu] Drets humans per a sindicatures locals

Quan:
Del 26 de maig al 13 de juny del 2022

On:
online (zoom) i Barcelona


Veure més

Dijous, 13 de gener de 2022

La implantació de la Intel·ligència Artificial a la frontera i la vulneració de drets

Una cinquantena d'entitats llancem el manifest #FronteresDigitals, alertant del perill pels drets humans de les


Recentment, ha aparegut a premsa la notícia sobre la voluntat del govern espanyol d’aplicar l’anomenada «frontera intel·ligent» als passos fronterers de Ceuta i Melilla amb l’objectiu d’exercir un major control de seguretat mitjançant l’ús d’intel·ligència artificial a través de la recollida de dades biomètriques (reconeixement facial, empremtes dactilars…). Davant d’aquesta notícia, les sotasignades manifestem la nostra preocupació i creiem necessari alertar dels perills associats a aquest tipus de decisions polítiques que comporta l’ús de la intel·ligència artificial.

Els durs controls fronterers són espais de potencial vulneració de drets:

  • Vulneració de drets fonamentals: l’impacte en els drets bàsics que pot tenir a un futur la recopilació de dades biomètriques com ja passa en aplicació del Conveni de Dublín. Els trasllats de persones sol·licitants d’asil d’un estat membre a un altre en contra de la seva voluntat, en augment en els darrers anys, han estat, en part, propiciades per la recopilació de dades biomètriques, com les empremtes dactilars.
  • Violació de la privacitat: les dades biomètriques són dades intrínseques a les persones. La recopilació de dades biomètriques a persones sense passaport europeu no compleix amb el principi de proporcionalitat. Aquestes persones es troben sovint en situació de vulnerabilitat i no es tenen en compte les conseqüències no desitjades de disposar d’unes dades biomètriques de persones que no compten amb mecanismes de protecció, garantia i reparació adequats.
  • Discriminació i criminalització. L’aplicació de la “frontera intel·ligent” com un element de lluita contra el terrorisme suposa un perill de discriminació i criminalització i la converteix en un nou dispositiu racista dins de l’Estat espanyol. Les polítiques antiterroristes sovint han resultat una eina de propagació de la islamofòbia, que han tingut com a conseqüència un rebuig generalitzat cap a la població migrant i racialitzada. És de sobres conegut que els algorismes de reconeixement facial solen llançar falsos positius i falsos negatius en rostres no caucàsics, la qual cosa, en aquest context concret, podria suposar greus conseqüències per a persones identificades erròniament com a sospitoses d’actes terroristes. La utilització d’IA per a el control fronterer aprofundiria l’estigmatització i criminalització de grups de persones que ja es troben en una gran situació de vulnerabilitat i/o exclusió.
  • Transparència i auditabilitat. El procediment pateix una manca de transparència tant en la forma, com en el fons. Tampoc no s’esmenta l’auditabilitat i publicitat dels algorismes. Per les informacions conegudes, no es parla que els algorismes que s’utilitzin siguin auditables i/o explicables, tampoc de mecanismes de traçabilitat que permetin supervisió humana ni de polítiques de protecció de dades.
  • Mecanismes de control i revisió. Resulta imprescindible incorporar mecanismes de control i revisió dels procediments algorísmics que permetin esmenar errors de manera àgil per grups de persones independents en què han de poder participar entitats en defensa dels drets humans i antiracistes. L’ús d’aquests sistemes de reconeixement facial suposa una doble securització del procés, que estigmatitza però també dilueix la responsabilitat humana i política davant dels danys, efectes indesitjats o conseqüències negatives del seu ús.

Per tot això, l’aplicació de mecanismes d’intel·ligència artificial en el control de fronteres, suposa un perill de vulneració de drets humans, discriminació, criminalització i violació de privacitat.

Per això exigim:

  • L’aplicació de la regulació de la IA i la protecció de dades elaborada per la Comissió Europea també a contextos i situacions que es consideren de tipus “securitari”, no pot haver-hi buit legal en aquest àmbit.
  • La derogació del Reglament UE 2017/2226 del Parlament Europeu i del Consell 30/11 /17 que permet el reconeixement facial.
  • La necessitat d’informació i consentiment informat davant de l’ús d’aquests sistemes, fins i tot si s’arriben a aplicar i desplegar.
  • Incorporació sistemàtica d’observadors de drets humans a les actuacions a frontera.
  • Aplicació de tecnologies explicables i auditables, auditoria i control extern de les tecnologies aplicades, les dades i imatges emmagatzemades.
  • Es pugui dur a terme de manera rigorosa, els processos de disseny i proves dels sistemes, incloent-hi les bases de dades utilitzades per calibrar els algorismes, cal posar-los a disposició d’auditories independents i persones afectades.

Adhereix-te al manifest

Et pot interessar

Sala de premsa, Incidència | Actualitat | Dimecres, 15 de setembre de 2021

Els riscos de la intel·ligència artificial per als drets humans

L'ONU publica un informe on s'analitza l'impacte de la IA en els drets humans i sol·licita als Estats moratòries sobre el seu ús en espais públics


Sala de premsa, Formació | Actualitat | Dilluns, 9 de març de 2020

El relator de Nacions Unides sobre els drets de les persones migrants inaugura el curs anual de drets humans

Al llarg de tres setmanes, el curs se centrarà en l'estudi de la protecció dels drets humans amb una perspectiva interseccional

ACTE PRESENCIAL

Taller "Com actuar davant el discurs de l'odi a Internet"

El també anomenat ciberodio és un fenomen creixent a tot Europa contra el qual urgeix una actuació global. A Espanya, la cruesa de les mesures de retallada de la despesa pública i la presència de persistents...

Quan:
10 de març del 2015, 10:00

On:
Lafede.cat | Organitzacions per a la justícia global ● C. Tàpies, 1-3, 08001 Barcelona

C/ Avinyó, 44 2ª | 08002 Barcelona
T.: +34 93 119 03 72 | +34 655 856 163
institut@idhc.org

© Institut de Drets Humans de Catalunya.
Avis legal | Mapa web | Contacte

Pàgina web x Space Bits