El 10 d’abril de 2025 va tenir lloc la segona sessió del cicle de seminaris sobre innovació pública “IA i Administració pública”, en què Rony Medaglia va oferir una anàlisi rigorosa sobre el paper actual i futur de la intel·ligència artificial en el sector públic, i en va destacar les oportunitats i els riscos i les competències necessàries per aprofitar-ne el potencial.
Rony Medaglia, professor del Departament de Digitalització de la Copenhagen Business School, a Dinamarca, és una de les veus més destacades en l’àmbit de la digitalització de l’Administració pública. La seva recerca se centra en la transformació digital del sector públic, especialment en les possibilitats de la digitalització, la participació ciutadana i la sostenibilitat.
Amb una trajectòria internacional que inclou publicacions en revistes acadèmiques de prestigi i col·laboracions amb institucions com la Comissió Europea i les Nacions Unides, Medaglia ha esdevingut una referència en l’estudi de l’administració electrònica i l’aplicació de tecnologies emergents com són la IA, la cadena de blocs o la internet de les coses en l’àmbit públic.
En el seminari, Rony Medaglia va començar assenyalant la importància de la IA per modernitzar l’Administració pública, on les condicions són altament canviants i difícils de preveure. En un context en què les variables polítiques, econòmiques i institucionals fan que l’automatització tradicional sigui limitada, la IA, en canvi, pot adaptar-se millor a aquests entorns dinàmics.
Des del 2019 el treball de Medaglia a la Comissió Europea s’ha centrat en l’estudi de l’adopció de la IA al sector públic. Ens cita l’informe AI watch. European landscape on the use of artificial intelligence by the public sector, que mostra el panorama de l’ús de la IA al sector públic. L’informe, de l’any 2023, ja recull gairebé 700 casos d’aplicació real de la IA, alguns com a projectes pilot, però també aplicacions en un nivell de desenvolupament i implementació superior. El professor Medaglia ens proposa també que consultem la base de dades que publica l’observatori de la Comissió Europea –el Public Sector Tech Watch (PSTW)– dedicat a monitorar, analitzar i difondre l’ús de tecnologies emergents dins del sector públic a Europa.
El PSTW pretén convertir-se en un “punt de contacte” per a totes les parts interessades (treballadors del sector públic, responsables polítics, empreses privades, món acadèmic) en els darrers desenvolupaments tecnològics per millorar les operacions del sector públic i la prestació de serveis.
A través d’alguns exemples –de Dinamarca, on ell resideix–, com ara la gestió de l’aigua a Aarhus o la detecció d’aturades cardíaques a Copenhaguen, va donar a conèixer com l’ús de la IA pot optimitzar els serveis públics.
Tanmateix, ens alerta sobre set reptes als quals s’enfronten les administracions públiques en la utilització de la IA, especialment amb el pas de la IA tradicional –orientada a la classificació i la predicció– a la IA generativa –capaç de crear continguts nous a partir de patrons apresos.
Les “al·lucinacions” dels sistemes generatius: les aplicacions d’IA generativa estan entrenades per proporcionar una probabilitat estadística de patrons, no estan dissenyades per proporcionar respostes verídiques. De manera que els models lingüístics tècnicament són sempre “al·lucinants”, tot i que la majoria de vegades l’al·lucinació coincideix amb la realitat.
El biaix algorítmic: si tenim dades esbiaixades, distorsionades, per exemple contra una part específica de la població, el resultat o la recomanació del sistema d’IA també estarà esbiaixat, de vegades fins i tot més. En són exemples projectes com el de la ciutat de Gladsaxe, en què es va utilitzar el sistema per anticipar –a partir de dades econòmiques, codi postal, etc.– quines famílies amb fills menors podrien estar en situació de risc social. Va resultar que les recomanacions del sistema estaven esbiaixades contra minories específiques, de manera que el projecte es va cancel·lar.
L’opacitat dels algoritmes: a diferència de l’automatització tradicional, l’aprenentatge automàtic no segueix un procediment definit per endavant. Simplement aprèn per assaig i error. Per tant, ni tan sols els desenvolupadors d’aquests sistemes poden explicar per què un sistema dona els resultats que dona. En el cas del sector públic, on és imperatiu vetllar per la transparència i la legitimitat, aquest és un punt crític.
Els drets de propietat intel·lectual: els sistemes d’IA necessiten moltes dades, dades de qualitat i de procedència diversa, per entrenar-se. I generalment no queda clar quin tipus de dades recopilen aquests sistemes, ni com ho fan.
L’impacte ambiental: aquest risc sovint es deixa de banda perquè la IA té un enorme potencial per donar suport a la consecució dels objectius de desenvolupament sostenible de les Nacions Unides. Però la recerca ha demostrat que, per exemple, per generar una imatge amb IA s’utilitza l’energia equivalent a la meitat de la càrrega d’un telèfon mòbil, cosa que implica una emissió de CO2 força gran.
La responsabilitat: un aspecte que cal tractar és sobre qui recau la responsabilitat en cas d’incidents greus derivats del mal funcionament de la IA.
L’explotació i el desplaçament laboral: aquest és un aspecte que sovint no es té en compte. Hi ha tota una indústria en països amb costos laborals baixos, amb treballadors en males condicions i mal pagats, que gira al voltant de l’etiquetatge manual de dades per entrenar algoritmes. L’altre impacte és la desaparició de llocs de treball per l’automatització de processos amb IA.
A partir del minut 16 de la conferència, Medaglia acompanya la definició d’aquests set riscos amb exemples actuals.
Vinculat amb aquest darrer aspecte, Medaglia desenvolupa el darrer punt de la seva conferència, quines competències són necessàries per treballar amb la IA al sector públic? Per respondre aquesta pregunta, Medaglia ens remet a l’informe Competences and governance practices for artificial intelligence in the public sector del qual és coautor.
L’informe identifica tres nivells de competències que els professionals del sector públic han de desenvolupar per treballar amb IA de manera efectiva:
Competències actitudinals: entendre el perquè de l’ús de la IA, és a dir, la motivació, els valors i la visió estratègica que en justifiquen l’aplicació.
Competències operatives: com fer servir la IA, és a dir, les habilitats pràctiques per implementar i gestionar sistemes d’IA.
Competències d’alfabetisme digital: saber què és la IA i com funciona, per poder prendre decisions informades.
L’informe ofereix exemples específics per a cada àrea. Per exemple, en l’àmbit tecnològic, una competència clau és entendre els fonaments del processament del llenguatge natural. Això és essencial per comprendre per què un model de llenguatge pot donar respostes incorrectes. Sense aquest coneixement, es corre el risc de sobrevalorar les capacitats de la IA o mal interpretar-ne els límits.
En l’àmbit de la gestió, es destaca la importància de la col·laboració entre equips. Sovint, els tècnics i els gestors no treballen conjuntament, i això dificulta la implementació efectiva dels projectes d’IA. Calen perfils híbrids que entenguin tant els reptes organitzatius com les possibilitats tecnològiques.
Pel que fa a la dimensió política, legal i ètica, una competència fonamental és la capacitat crítica en la contractació de serveis d’IA. Les empreses proveïdores tenen un gran coneixement tècnic i poder de negociació; les administracions públiques han de poder avaluar tècnicament les seves propostes i comparar-les amb criteris objectius.
Medaglia també va introduir dos perfils professionals clau per al futur de la IA pública, que combinen habilitats tècniques, de lideratge i de governança responsable.
El techno-steward: un perfil amb una base tècnica forta però també amb capacitat de gestió i sensibilitat ètica. Aquest professional pot garantir que els sistemes d’IA s’implementin de manera responsable i alineada amb els valors públics.
El policy sentinel: un perfil especialitzat en desenvolupament de polítiques i regulació, amb coneixements en contractació d’IA, enfocament centrat en l’usuari i capacitat per gestionar dades. És clau per garantir que la IA s’utilitzi dins d’un marc legal i ètic sòlid.
Finalment, Medaglia va subratllar que, per integrar la IA, cal una aproximació realista i adaptada a cada organització pública, que eviti enfocaments únics i aposti per perfils híbrids i interdisciplinaris per assegurar una transformació digital sostenible i ètica.
Podeu recuperar la conferència amb interpretació al català o amb l’àudio original en anglès al canal de YouTube de l’EAPC. Així mateix, us animen a seguir la resta de seminaris web d’aquest cicle.
Àurea Rodríguez
Moderadora del cicle de seminaris web sobre innovació pública