L’Ajuntament de Barcelona aposta per utilitzar la intel·ligència artificial com a eina per a la millora dels serveis públics i com una oportunitat per ser més eficaç i eficient en la resolució de reptes i en la gestió de les polítiques públiques de l’Ajuntament. La Tinència d’Àrea d’Agenda 2030, Transició Digital, a través del Comissionat d’Innovació Digital, Administració Electrònica i Bon Govern, ha elaborat la Mesura de Govern Estratègia municipal d’algoritmes i dades per a l’impuls ètic de la intel·ligència artificial que pretén fixar els mecanismes de governança i impuls de la IA per tal que respecti els drets digitals de la ciutadania.
Els sistemes d’IA no estan exempts de riscos tecnològics. La recol·lecció i el tractament de les dades sobre les quals es basen les decisions dels algoritmes no sempre són respectuosos amb el dret a la privacitat de la ciutadania i per això l’Ajuntament vol fixar aquests mínims per garantir un desenvolupament de la intel·ligència artificial i les tecnologies emergents que respectin els principis de l’humanisme tecnològic, els drets digitals i fomentin les tecnologies democràtiques.
Amb aquesta mesura de govern, l’Ajuntament de Barcelona disposarà per primer cop d’un marc normatiu per a l’aplicació de la IA en el si de la institució. Barcelona se suma a ciutats com Amsterdam, Nova York, Hèlsinki, Toronto o Seattle en la construcció d’un model d’intel·ligència artificial i tecnologies emergents urbà, basat en els drets humans i compromès amb una societat digital democràtica.
Com a actuacions destacades, es preveu la creació d’un registre públic d’algoritmes on la ciutadania tingui accés a tots els algoritmes que es fan servir des de l’Ajuntament i que afecten a les persones, fent-los transparents i auditables; l’establiment de clàusules específiques per a que aquelles licitacions que incloguin sistemes intel·ligents ho facin respectant els drets de les persones; la promoció d’espais de debat i el networking amb l’ecosistema innovador per transmetre els valors de la IA ètica; l’acció internacional de la ciutat de Barcelona com a referent de l’humanisme tecnològic, amb la creació d’un observatori internacional d’IA amb la col•laboració del CIDOB i en el marc de la Coalició de Ciutats pels Drets Digitals; així com la creació d’un òrgan participatiu per a implicar als agents socials en el desenvolupament d’una IA ètica a l’Ajuntament i a la ciutat, que permetrà l’escolta activa dels principals reptes plantejats per la ciutadania.
La mesura de govern s’ha elaborat després d’escoltar els principals referents científics de la ciutat en matèria d’IA, que configuraran un grup d’experts en IA i ètica que ha de permetre realitzar el seguiment de la implantació de l’Estratègia i dotar de rigor científic la presa de decisions en l’àmbit de la IA ètica.
Casos pilot d’aplicació de la IA a l’Ajuntament de Barcelona
La IA és ja una realitat a l’Ajuntament de Barcelona. Ja està utilitzant sistemes intel·ligents i té en curs licitacions que poden incorporar un sistema intel·ligent en els seus requeriments tècnics. Aquests projectes pilot s’estan duent a terme, amb la col·laboració de l’Institut Municipal d’Informàtica, per iniciativa de les diferents àrees de l’Ajuntament com són l’Àrea de Drets Socials, Justícia Global, Feminismes i LGTBI, l’Àrea d’Ecologia Urbana, l’Àrea d’Agenda 2030, Transició Digital i Esports o l’Àrea d’Economia i Hisenda.
La mesura de govern preveu fer un catàleg per identificar les accions en curs i potencials per fer una diagnosi del compliment dels drets humans en l’impuls de la IA. A continuació recollim alguns exemples d’aplicació recent de les tecnologies emergents com el monitoratge d’afluència a les platges.
