El diàleg “Els reptes de la intel·ligència artificial a l’Administració pública”, organitzat per l’Escola d’Administració Pública de Catalunya el 3 de febrer en el marc del Màster en Direcció Pública, va comptar amb la intervenció d’Agustí Cerrillo, catedràtic de Dret Administratiu de la Universitat Oberta de Catalunya i codirector del Màster en Direcció Pública, i Michael Donaldson, comissionat d’Innovació Digital, Administració Electrònica i Bon Govern de l’Ajuntament de Barcelona. El debat va ser moderat per Ramon Galindo, professor agregat de Dret Administratiu de la Universitat Oberta de Catalunya.
L’impacte de la intel·ligència artificial ha esdevingut, en els darrers anys, un dels temes més rellevants en els debats al voltant de la transformació de l’Administració. Els ponents van destacar que, efectivament, les experiències d’implantació de solucions d’intel·ligència artificial s’estan obrint pas en el sector públic. No obstant això, la major part de les iniciatives tenen més a veure amb l’automatització de processos que amb solucions d’intel·ligència artificial.
Michael Donaldson va destacar l’organització com l’element més complex a l’hora d’introduir canvis relacionats amb la intel·ligència artificial o l’automatització i, en general, canvis relacionats amb la transformació digital a les administracions. No es tracta només d’un canvi tecnològic, sinó que implica treballar d’una manera diferent. S’ha de canviar la lògica burocràtica i jeràrquica imperant per altres lògiques basades en la flexibilitat o la col·laboració. No pot haver-hi un canvi real si no hi ha, alhora, un canvi organitzatiu. És un canvi que necessita una planificació, atès que el procés de canvi profund va més enllà dels cicles polítics.
La implantació de solucions d’intel·ligència artificial necessita dades. Agustí Cerrillo va incidir en el valor de les dades no només per a la implantació de la intel·ligència artificial sinó per a la transformació digital en el seu conjunt. L’Administració digital està “centrada en la dada” i les possibilitats són diverses —ús de les dades per a la presa de decisions, personalització dels serveis, prestació proactiva de serveis, etc.—, però sempre tenen les dades com a eix. En aquest sentit, l’ús massiu de les abundants dades que hi ha en mans de l’Administració ofereix enormes possibilitats de millora de les organitzacions i de la prestació de serveis. També presenta molts reptes, com ara la protecció de dades, la seguretat, la integració per a un ús posterior, etc. En particular, es va observar que, tot i que les administracions públiques disposen de grans volums de dades, sovint no són de qualitat o no estan ben organitzades, fet que en dificulta l’anàlisi o l’ús per dissenyar els algoritmes.
El sector privat ja fa un ús intensiu de les dades en la seva activitat i, fins i tot, hi ha incorporat la intel·ligència artificial. L’Administració s’endinsa molt més lentament en aquest nou context i ho fa amb moltes més restriccions que el sector privat. Les limitacions es deuen a la seva condició pública, però també a la desconfiança de bona part de la ciutadania. En aquest sentit, es destaca la paradoxa que, sovint, els ciutadans i les ciutadanes són més reticents a l’ús de les seves dades per part de l’Administració —com, per exemple, el processament de dades cedides pels operadors de telefonia— que per part d’empreses privades, com ara els gegants tecnològics (Google, etc.) o les plataformes (Netflix, HBO, etc.), entre d’altres.
Cada cop s’automatitzen més processos i procediments i, de forma més aïllada, solucions basades en les big data (dades massives) o la intel·ligència artificial (en un sentit ampli). Els algoritmes estan cada cop més presents en l’activitat pública. Això suposa millorar la presa de decisions o l’eficiència en els processos, però també obliga a repensar els riscos de l’ús de les dades i el seu processament a través d’algoritmes. S’han de preveure possibles biaixos, replantejar com s’ha d’articular la transparència en el funcionament d’aquests algoritmes —en el sentit que han de ser comprensibles per a la ciutadania—, garantir el dret a la “desconnexió” dels ciutadans i ciutadanes, entre moltes altres qüestions. En efecte, un dels riscos principals que pot generar l’extensió de la intel·ligència artificial a les administracions públiques és que hi hagi més opacitat, en la mesura que no siguin capaces d’explicar com funciona un algoritme, com pren decisions o quines dades utilitza. En aquesta direcció, algunes administracions públiques, com ara l’Ajuntament de Barcelona, estan impulsant mesures per evitar que l’ús d’aquesta tecnologia pugui implicar aquest augment de l’opacitat.
La introducció disruptiva de la tecnologia repercuteix en les plantilles públiques, redefineix funcions i fa prescindibles perfils o tasques. En aquest sentit, Michael Donaldson va posar l’exemple de l’ús de drons per controlar l’aforament de les platges de Barcelona, una tasca que abans feien diverses persones presencialment. L’ús de la tecnologia permet automatitzar les tasques, el que suposa una gran millora en aquesta funció de control. L’automatització hauria de permetre alliberar el personal de fer tasques repetitives i poder destinar-lo a tasques que aporten més valor, més en contacte amb la ciutadania.
Com s’ha dit, l’ús massiu de les dades en el funcionament de l’Administració suposa grans possibilitats, però també reptes importants des d’un punt de vista organitzatiu. Michael Donaldson va citar el cas de l’Oficina Municipal de Dades de l’Ajuntament de Barcelona, un projecte pioner amb poc més de cinc anys d’activitat, que ha suposat centralitzar les dades derivades de l’acció de l’Ajuntament i dels seus ens dependents —en el que es denomina data lake— per fer-ne ús en l’activitat municipal i especialment per a la presa de decisions. Des d’un punt de vista organitzatiu, és un repte enorme, tot i disposar de recursos importants i d’un ens especialitzat (l’Institut Municipal d’Informàtica). En aquest sentit, les mateixes dificultats trobaran —a escala diferent i amb problemes específics— la resta de municipis catalans. Els ponents van destacar el paper que entitats com el Consorci Administració Oberta de Catalunya o Localret han exercit a l’hora d’implantar l’Administració electrònica i que podrien tenir també en els processos d’automatització o d’intel·ligència artificial.
D’altra banda, els ponents van destacar el paper que els càrrecs directius han de tenir en els processos de transformació. Són necessaris el lideratge i la professionalització de les persones que ocupen càrrecs directius per poder afrontar els reptes que l’ús massiu de les dades i la introducció de la intel·ligència artificial provocaran en el sector públic. De fet, aquest lideratge ha estat un element molt important en l’adopció i el desenvolupament de nous processos i serveis digitals en alguns dels municipis més innovadors, com, per exemple, Sant Feliu de Llobregat. A més, també es va posar de manifest la importància que els càrrecs directius públics tinguin la capacitat de liderar el procés d’incorporació i d’ús de la intel·ligència artificial a l’Administració pública per evitar la dependència tecnològica de les empreses que estan impulsant el desenvolupament d’aquesta tecnologia disruptiva i que sovint no només disposen de més coneixements sinó també de molts més recursos que les administracions públiques.
Són molts els reptes que la intel·ligència artificial planteja al sector públic (i els del canvi cap a una administració digital, en general). Ens movem en un context de canvis disruptius i accelerats i cal repensar la forma d’organitzar-se i de funcionar per afrontar-los. L’aparició recent del ChatGTP és una mostra de com les tecnologies disruptives impacten en la societat i també en l’Administració. Lluny de veure-les com una amenaça, s’han de veure com una oportunitat de millora de l’Administració, però s’ha de ser molt conscient dels riscos que poden comportar.
Aquest diàleg va permetre reflexionar sobre aquests i altres temes referents a la relació entre tecnologia i Administració, en un moment de canvis disruptius que marcaran el futur de l’Administració i la seva organització, funcions, serveis i personal públic. És una reflexió que cadascuna de les administracions haurà d’abordar de forma decidida en els temps vinents.
Ramon Galindo Caldés
Professor agregat de Dret Administratiu de la Universitat Oberta de Catalunya i col·laborador del Màster en Direcció Pública, 2a edició