La Generalitat utilitza aplicacions amb IA que podrien vulnerar drets dels usuaris

Segons una informació avançada per RAC1, la Generalitat fa servir un total de 17 aplicacions amb intel·ligència artificial (IA) que podrien atemptar contra els drets fonamentals dels ciutadans. L’Institut de Drets Humans ha alertat que, en almenys set d’aquestes eines, el risc per a les llibertats de la ciutadania és especialment elevat.

L’informe de l’Institut de Drets Humans indica que, entre aquestes aplicacions, n’hi ha que tenen una incidència directa sobre la justícia i els serveis socials. Un exemple és una aplicació que calcula el risc de reincidència d’un reclús, o una altra que determina els ajuts socials que una persona podria rebre després d’una entrevista amb un treballador social.

Tot i reconèixer la utilitat de certes eines tecnològiques, l’Institut de Drets Humans expressa preocupació per la delegació de decisions tan importants en màquines. Segons l’informe, de les 36 aplicacions amb IA que utilitza la Generalitat, més de la meitat tenen un impacte sobre els drets humans, tal com informa el mitjà anteriorment mencionat.

L’estiu passat, la Unió Europea va aprovar una legislació per regular l’ús de la intel·ligència artificial. Aquesta norma obliga les empreses a revisar si les seves aplicacions infringeixen drets humans i, si és el cas, modificar-les. Les empreses tenen fins a l’estiu de 2027 per adaptar-se a aquesta normativa, fet que afectarà algunes de les aplicacions de la Generalitat.