La relatora especial de l'ONU sobre dret a la privacitat reclama transparència i explicabilitat en el tractament de dades personals en la intel·ligència artificial

Ana Brian Nougrères, relatora especial sobre el dret a la privacitat, va presentar el divendres 13 d'octubre el seu informe anual a l'Assemblea General de les Nacions Unides. Durant la intervenció, va afirmar que l'omnipresència de la IA en totes les activitats i la presa de decisions sobre les persones exigeix que es prenguin mesures per a garantir que l'ús de la IA sigui ètic, responsable i respectuós amb els drets humans.

Les noves tecnologies sempre han estat grans companyes en la nostra cerca de desenvolupament i progrés, però també generen una sèrie de riscos inherents al seu ús i evolució. [...] Respectar els drets i llibertats fonamentals i al mateix temps mitigar els riscos de l'ús indegut de la informació personal és crucial per a salvaguardar el dret a la privacitat.

L'informe apunta la transparència i l'explicabilitat, com a principis rectors en el desenvolupament d'aquesta tecnologia. D'aquesta manera, les persones afectades per la IA podran estar informades de manera oportuna, integral i clara sobre qüestions relacionades amb l'ús de la seva informació personal en els processos de IA i de les possibles conseqüències.

En el document es concreta que la transparència exigeix claredat, veracitat, imparcialitat i publicitat de les decisions preses utilitzant la IA. Mentre que l'explicabilitat és la lògica, el mètode i el raonament per a prendre decisions sobre els éssers humans basant-se en informació, particularment dades personals.

L'explicabilitat i la transparència són, per descomptat, l'oposat a la foscor, l'engany i l'abús del poder informàtic, que són alguns dels símptomes d'un processament il·legal i poc ètic que reflecteix una falta de respecte per la privacitat i la dignitat.

Finalment, fa una sèrie de recomanacions als estats per a la incorporació i garantia d'aquests principis:

• Introduir-los com una part estructural clau en el sistema jurídic, incorporant-los a les legislacions nacionals, de manera que la ciutadania pugui exercir els seus drets, específicament el dret al degut procés i el dret a la defensa quan s'enfronta a decisions preses fent servir eines o tecnologies d'intel·ligència artificial.
• Promoure pràctiques ètiques per a garantir la transparència en la IA i per a mitigar els riscos.
• Facilitar l'educació i l'alfabetització digital per a millorar la comprensió dels conceptes relacionats amb la IA i la privacitat per part de la ciutadania.