La personalització i la proactivitat en la prestació de serveis no són res nou al sector públic. La creixent digitalització a l’Administració, la disposició de grans quantitats de dades públiques i la tecnologia necessària per processar-les —a través de l’automatització o de tecnologies com la intel·ligència artificial— li han donat una gran rellevància. Personalitzar els serveis i oferir-los als ciutadans de forma proactiva en millora substancialment l’efectivitat i l’eficiència. La personalització no està exempta de riscos, ja que està basada en el processament de dades personals. A través del projecte La personalització dels serveis públics. La contribució de la intel·ligència artificial i les dades massives, ens hem proposat analitzar quines són les causes que provoquen aquesta situació i quins són els reptes jurídics i organitzatius que planteja la possibilitat de construir serveis personalitzats i proactius al sector públic.

La prestació de serveis de forma personalitzada i proactiva s’ha generalitzat els darrers anys en el sector privat. Empreses de comerç electrònic i entitats bancàries, de serveis audiovisuals o de comunicacions basen la seva relació amb els clients a través de l’oferiment personalitzat i proactiu de serveis, en funció del seu perfil. La personalització de serveis consisteix en la individualització i l’adaptació a les necessitats específiques de cada persona, mentre que fer-ho de forma proactiva suposa anticipar-se a una necessitat o una potencial demanda futura. Exemples com Amazon o Netflix ens ajuden a veure com el prestador del servei suggereix possibilitats a partir de les característiques personals i del comportament de consum del client. Aquesta prestació es fonamenta en tecnologies basades en l’ús de dades massives i sovint de la intel·ligència artificial.

En aquest nou context tecnològic, podríem aplicar el mateix model a la prestació de serveis públics? La personalització, l’adaptació i l’anticipació dels serveis públics a les necessitats de la ciutadania constitueixen una manifestació de la bona administració i contribueixen a l’eficàcia i l’eficiència públiques. No obstant això, els exemples de prestació personalitzada i proactiva per part de les Administracions són molt esporàdics. Segons la Comissió Europea, només un 4 % dels serveis es presten proactivament.

Personalitzar un servei públic consisteix a adaptar-lo a les característiques i necessitats de cada ciutadà. De vegades, aquesta prestació personalitzada pot fer un pas més enllà i oferir de forma proactiva un servei a un usuari o una persona interessada en un procediment. Podria l’Administració individualitzar la prestació d’un servei, adaptar-lo a les necessitats individuals o fins i tot suggerir a ciutadans concrets la possibilitat d’utilitzar un servei o de sol·licitar un ajut? Tècnicament és possible, atès que l’Administració disposa de dades massives sobre els ciutadans, sobre el seu comportament i sobre les seves necessitats. A partir de les dades disponibles a les administracions es poden identificar patrons de comportament i pautes de conducta per personalitzar la prestació de bona part dels serveis i, fins i tot, avançar-se a una demanda futura del servei.

Seguint Fan i Poole, un primer pas per personalitzar un servei suposa tenir en compte què es personalitza (la informació en si o la interfície de relació amb el ciutadà), per a qui (amb categories d’usuaris o de forma individualitzada) i si serà automatitzada o inclourà la participació de l’usuari. També haurem de definir la gradació de la personalització. Per exemple, en el cas d’una concessió d’ajuts, la personalització podria consistir a enviar un avís d’una convocatòria, a omplir automàticament un formulari amb les dades de què es disposa, a fer una proposta de resolució o a concedir-la en funció de sol·licituds anteriors o del perfil de la persona.

En qualsevol cas, la personalització està lligada a la consolidació d’una Administració digital sòlida, que persegueix millorar l’eficàcia, l’eficiència i la transparència de les administracions públiques, així com la relació amb la ciutadania. En aquest sentit el mateix Decret 76/2020, de 4 d’agost, d’Administració digital, inclou entre els principis de l’Administració digital la «proactivitat i personalització en la prestació de serveis públics digitals amb l’objectiu de situar l’experiència de les persones en el centre del disseny de serveis», així com la «innovació i adaptació contínua dels serveis públics tenint en compte l’aprofitament del potencial de la tecnologia en cada moment» (art. 4). Així mateix, el model de govern de les dades (art. 10) i el disseny dels serveis digitals (art. 28) hauran de preveure la possibilitat de prestació proactiva i personalitzada dels serveis, entesos com aquells que tenen «per finalitat informar les persones, de manera predictiva i anticipada, sobre els serveis públics als quals poden accedir, sobre la base de les dades que les administracions públiques tenen d’aquestes persones per altres tràmits previs» (annex 2).

Els avantatges que pot reportar la prestació personalitzada i proactiva dels serveis públics són indubtables, especialment a través de l’ús de la intel·ligència artificial. Aquesta intel·ligència permet automatitzar processos o prestar serveis de forma eficient i eficaç, adreçant-se als destinataris de manera directa. És també evident que comporta riscos o possibles efectes negatius, tant pel que fa al processament de dades personals, com pel que fa a l’elaboració dels perfils i al funcionament dels algoritmes en què es basen els serveis.

Hi ha un risc en la utilització de dades sensibles (sanitàries, educatives, econòmiques, etc.) que han estat recollides per l’Administració en diferents procediments. En aquest sentit, el Reglament general de protecció de dades (RGPD) imposa límits en el tractament d’aquestes dades i en la seva possible utilització per a la personalització de serveis, en especial el consentiment de l’interessat al tractament de les dades. El Decret 76/2020, de 4 d’agost, d’Administració digital, regula la creació d’un registre de consentiments de les persones que són subjectes de prestació dels serveis proactius i personalitzats (art. 31).

Així mateix, el profiling (o elaboració de perfils) també pot comportar riscos per als drets i les llibertats dels ciutadans. El RGPD obliga en aquests casos a una avaluació d’impacte prèvia a l’establiment del servei, de manera que es puguin identificar els possibles riscos en el tractament de les dades i s’adoptin les mesures, les garanties i els mecanismes necessaris per mitigar el risc i garantir la protecció de les dades personals. L’Agència Espanyola de Protecció de Dades (AEPD) ha identificat diversos tractaments que requereixen aquesta avaluació d’impacte. Entre d’altres, l’elaboració de perfils, els tractaments que impliquin la presa de decisions automatitzades o els que impliquin l’associació, la combinació o l’enllaç de registres de bases de dades de dos o més tractaments amb finalitats diferents o per responsables diferents.

Finalment trobem riscos relacionats amb el disseny i el funcionament de l’algoritme a partir del qual es presta el servei de forma automatitzada. L’ús de dades massives en la prestació de serveis amplia les possibilitats, però també el possible impacte dels efectes negatius. En quina mesura pot limitar l’autonomia dels ciutadans o induir a prendre decisions que no hagin pres de forma conscient? S’han de considerar també els possibles biaixos que pugui provocar un algoritme, i preveure mecanismes correctors en cas que aquests biaixos es produeixin. La utilització d’algoritmes pot provocar discriminacions (racials, de gènere o econòmiques, entre d’altres) o resultats esbiaixats que no necessàriament han de ser conscients però que poden perpetuar o augmentar conductes discriminatòries. Per tant, és determinant el disseny dels algoritmes i el seu control posterior. Així, esdevé imprescindible una explicació entenedora del seu funcionament que en possibiliti un control per part de la ciutadania i que eviti que els algoritmes operin de forma opaca com a caixes negres.

La personalització i la prestació de serveis presenta en el sector públic avantatges clars i alguns riscos, com hem vist. La implantació a través de les dades massives i la intel·ligència artificial necessita, però, una avaluació prèvia que permeti comprovar-ne la viabilitat. En la Guia per a la personalització dels serveis públics a través de la intel·ligència artificial hem destacat un decàleg d’aspectes que s’han de tenir en consideració abans de prestar un servei personalitzat a través de l’automatització de dades o de la intel·ligència artificial.

1. És habitual en les organitzacions l’existència de sitges d’informació o dades, desconnectades sovint unes de les altres. S’ha d’avançar cap a un model integrat de dades que permeti maximitzar la informació disponible. Un exemple en aquest sentit és la creació de l’Oficina Municipal de Dades de l’Ajuntament de Barcelona, que té per objecte la gestió unificada de les dades públiques. S’han creat oficines similars a Nova York o Londres, entre d’altres.

2. La prestació de serveis sota aquesta modalitat s’ha de basar en dades de qualitat, precises i actualitzades.

3. La prestació personalitzada i proactiva conviu amb un desafiament encara pendent com és el desplegament de l’Administració digital. Aquest procés ja implica la necessitat de reformar el back office de les administracions i de redissenyar serveis, tràmits i procediments. En aquest sentit, el Decret 76/2020, de 4 d’agost, d’Administració digital, preveu entre els criteris per al disseny de serveis digitals la possibilitat de prestació proactiva i personalitzada del servei.

4. Les administracions públiques han d’avançar en el desplegament del model d’interoperabilitat, que faciliti l’intercanvi de dades.

5. Les administracions públiques han d’incorporar un sistema de gestió documental que garanteixi el control i el seguiment de tota la documentació i la informació que es genera o que ingressa.

6. S’han de garantir fonts de les dades adequades i vigents.

7. Les administracions públiques han de disposar de sistemes d’informació actualitzats d’acord amb els criteris de classificació, estructuració i emmagatzematge definit.

8. Cal disposar d’un Pla de desplegament de mesures tècniques i organitzatives de seguretat de les dades i la informació.

9. L’Administració digital i la prestació de serveis personalitzats i proactius necessita el canvi cultural que implica la nova forma de treballar en un entorn digital. Això implica també noves polítiques de recursos humans, que han d’incloure el desenvolupament de noves competències, la selecció de nous perfils professionals, la gestió del coneixement, etc.

10. Finalment, les administracions públiques han d’orientar l’organització cap a la governança intel·ligent, que crea nous canals de relació amb la ciutadania basats en un ús intensiu de les dades i la informació.

El compliment d’aquestes condicions permet a les administracions endegar processos de personalització, que podem diferenciar en quatre fases. En una primera fase, d’anàlisi, s’han d’identificar els serveis que es volen personalitzar o prestar de forma proactiva i s’ha de valorar l’impacte de la personalització d’acord amb la normativa vigent. És convenient en aquesta fase buscar experiències externes similars i conèixer l’opinió de la ciutadania envers la personalització del servei en qüestió.

La fase de disseny del servei implica, en primer lloc, un disseny de la governança de les dades afectades, d’acord amb els criteris que estableix el Decret 76/2020, de 4 d’agost, d’Administració digital. També cal valorar les pròpies capacitats (tecnològiques, pressupostàries i de recursos humans) i considerar, si escau, la cooperació amb altres administracions o la contractació de serveis externs. En aquesta fase s’han de proposar els canvis organitzatius i procedimentals necessaris.

El servei s’ha de posar en funcionament en un primer moment a través d’una prova pilot. Un servei personalitzat està basat en dades, de manera que no es podrà implementar si no es disposa de les dades necessàries, de qualitat, precises i actualitzades. També és necessari que durant la prova pilot es faciliti informació suficient i comprensible sobre el tractament de les dades, les finalitats i el funcionament de l’algoritme.

La personalització de serveis s’ha d’entendre de forma cíclica, de manera que el seguiment i l’avaluació del seu funcionament han de servir per redissenyar-lo i per corregir o millorar els aspectes que es considerin necessaris. També ha de servir per despersonalitzar el servei si es considera que hi ha problemes irresolubles o que el servei no assoleix els objectius que havien portat a crear-lo. En aquesta avaluació s’ha de valorar l’impacte i l’efectivitat de la personalització en la prestació del servei, a través d’un sistema d’indicadors. També s’ha de facilitar la participació dels usuaris en el seguiment i redisseny del servei.

El procés de definició, disseny i implementació de la personalització dels serveis i de la prestació proactiva és un repte per a les nostres administracions, encara en trànsit a l’Administració digital. Les dificultats i els obstacles són nombrosos i s’han d’extremar les precaucions en molts àmbits, des de la protecció de dades fins al funcionament dels algoritmes. No obstant això, els beneficis que pot comportar la personalització i la prestació proactiva de serveis s’han de tenir en consideració, en la mesura que contribuiran a una millora de la prestació d’aquests serveis, de forma més eficient i efectiva; en definitiva, una Administració millor al servei dels ciutadans. El context de la futura digitalització de l’Administració és idoni per concebre els serveis des d’aquesta perspectiva.

 

Agustí Cerrillo i Martínez
Catedràtic de Dret Administratiu
Universitat Oberta de Catalunya

Ramon Galindo Caldés
Professor lector de Dret Administratiu
Universitat Oberta de Catalunya

Clara Velasco Rico
Professora agregada de Dret Administratiu
Universitat Pompeu Fabra

---

Aquest apunt és un resum del treball de recerca La innovació en la prestació dels serveis públics a través de la personalització i la prestació proactiva mitjançant l’ús de dades massives i la intel·ligència artificial resultant de la darrera convocatòria de subvencions per a l’elaboració de treballs de recerca sobre l’Administració pública de l’Escola d’Administració Pública de Catalunya de l’any 2018.