Fa cosa de quatre mesos, les autoritats europees van presentar el primer projecte de llei integral sobre intel·ligència artificial a escala mundial, conegut com a ‘Reglament d’Intel·ligència Artificial (IA)’. Davant la immensitat d’incògnites que s’obren amb l’evolució d’aquesta tecnologia, el repte era, almenys, intentar protegir els drets fonamentals de les persones en l’ús de la IA.

Sorprenentment, atesa la velocitat amb què de vegades hem vist avançar algunes iniciatives legislatives, aquest mateix 13 de març el Parlament Europeu va aprovar el nou reglament d’intel·ligència artificial per garantir la seguretat i els drets dels ciutadans. Aquest acord és un primer pas que ha de servir de precedent per a una nova norma mundial de regulació de la IA que podria arribar aquest mateix 2024 i que entraria en vigor el 2026.

El reglament europeu posa al centre el risc de la tecnologia sobre els drets fonamentals, la democràcia, l’estat de dret i la sostenibilitat mediambiental. No vol limitar l’avanç de la tecnologia, amb previsibles efectes beneficiosos, però si aixecar certes línies vermelles quan hi ha certs riscos. Així estableix una classificació dels sistemes d’IA segons el nivell de risc que presenten. Hi ha tres categories:

Risc inacceptable: els sistemes d’IA que representen una amenaça directa per a la seguretat pública, els drets fonamentals o la privadesa. El seu ús està estrictament prohibit, llevat de situacions molt excepcionals.

Alt risc: inclou els sistemes d’IA que podrien tenir un impacte considerable en els drets fonamentals de les persones, com aquells relacionats amb serveis i processos que afecten la salut, la seguretat o l’ocupació. El seu ús està permès, però amb salvaguardes addicionals i es monitori el seu funcionament.

Baix risc o risc inexistent: quan no és cap de les anteriors. És a dir, es basa en la capacitat de decisió lliure, informada, voluntària i inequívoca dels ciutadans per a utilitzar aquestes tecnologies, com IA generatives.

Un dels temes destacats és, com no, la biometria. La clau aquí és que l’usuari conegui el sistema i decideixi lliurement sobre el seu ús.

Així, les aplicacions de reconeixement biomètric que suposin una participació activa i conscient de l’usuari, demostrant-ne el coneixement i l’aprovació, es consideraran de baix risc. Aquest enfocament és molt important, ja que posa tot el pes en la importància del consentiment a l’era digital.

En general, les organitzacions han de preveure sistemes ètics i responsables que permetin el consentiment informat i inequívoc de les persones, les qual, a més, hauran de tenir, igualment, mecanismes de control i defensa dels seus drets sobre aquests tractaments.

És un precedent de com es poden regular tecnologies emergents de manera efectiva i ètica, sense sacrificar la innovació. Continuarem amatents.