Parlem amb Agustí Cerrillo Martínez, catedràtic de Dret Administratiu de la Universitat Oberta de Catalunya (UOC). Ens parla sobre l’ús d’intel·ligència artificial en les Administracions públiques i els serveis socials, el seu impacte, els principis ètics i jurídics que implica i els reptes que cal afrontar.

Com vas començar a interessar-te per la intel·ligència artificial en el teu camp?

Des que em vaig incorporar a la Universitat Oberta de Catalunya el 2001, una de les meves línies de recerca ha estat l’anàlisi de l’impacte dels mitjans electrònics en l’Administració pública. Des de llavors he anat estudiant les diferents tecnologies que s’han anat incorporant a l’Administració, com ara l’Internet o el web 2.0, fins arribar fa uns anys a la intel·ligència artificial.

Quines aplicacions d’intel·ligència artificial creus necessàries avui dia a les administracions i entitats socials? Quins beneficis poden aportar?

Les administracions públiques i també moltes entitats socials disposen de grans volums de dades que poden ser útils per prendre decisions o per avaluar el seu impacte o l’eficàcia de les polítiques. La intel·ligència artificial pot ser útil per analitzar aquestes dades.

La IA també pot ser utilitzada per facilitar la comunicació amb les Administracions i les entitats gràcies al processament del llenguatge natural. Els robots conversacionals o xatbots, especialment, a mida que vagin funcionant de manera més precisa, seran més utilitzats per informar i atendre la ciutadania.

La intel·ligència artificial també és una forma de desenvolupar la intel·ligència col·lectiva? Què significa això?

Com ja he comentat, la IA pot ser útil per analitzar grans volums de dades que poden referir-se a diferents persones, a la seva situació o a les seves necessitats i, a partir d’aquí, extreure patrons o conclusions que puguin resultar útils per prendre decisions sobre quins ajuts atorgar o quins projectes subvencionar per donar una millor resposta a aquestes necessitats

Espanya està molt avançada en la implementació de la intel·ligència artificial en alguns àmbits dels serveis públics, com hisenda o la seguretat social, però no en d’altres. Quins creus que són els reptes principals que té avui el sector dels serveis socials per donar passos en aquesta direcció?

Probablement el principal repte és disposar de dades de qualitat. La IA no funciona de manera adequada sense dades de qualitat i malauradament moltes Administracions públiques no han pogut o no han sabut garantir la qualitat de les dades. Un altre repte és garantir que totes les Administracions públiques puguin accedir a aquesta tecnologia que és molt costosa. Per això, caldrà seguir impulsant mecanismes de cooperació interadministrativa com ja s’ha vingut fent en el passat en el desenvolupament de l’administració electrònica.

En molts àmbits el sector privat va per davant del sector públic en la utilització de la intel·ligència artificial. Com el sector públic està aprenent dels avenços de les empreses en aquest camp?

El sector públic està seguint el que fa el sector privat que lidera la inversió i la recerca en intel·ligència artificial. Sovint el sector públic no disposa del coneixement ni l’expertesa per desenvolupar o incorporar la IA i l’ha d’adquirir del mercat. Això pot generar una dependència del sector privat, particularment, d’aquelles empreses tecnològiques multinacionals que estan impulsant el desenvolupament d’aquesta tecnologia. Cal garantir el lideratge de la pròpia Administració del procés d’incorporació de la IA.

Existeix un Pla de digitalització de les administracions públiques 2021-2025, en el qual es defineix l’estratègia de l’administració digital i els serveis públics digitals, però la bretxa digital d’una part de la població està agreujant situacions d’aïllament, de vulnerabilitat i d’exclusió social. Quines estratègies caldrien per fer-hi front?

Per evitar o reduir la bretxa digital cal impulsar programes de formació i campanyes d’informació dirigides a la ciutadania en general i a determinats col·lectius de persones, en particular. També cal oferir assessorament particularment per aquelles persones o col·lectius que puguin tenir més problemes o menys recursos per utilitzar els mitjans electrònics.

En darrera instància, cal garantir el dret de les persones a no utilitzar els mitjans electrònics en les relacions amb les administracions públiques.

El desenvolupament de la IA s’ha d’ancorar a principis ètics. S’ha fet menció especial a la transparència, la igualtat i la no discriminació. Quins passos s’han proposat per assolir-los? Quins proposaries tu?

Cal tenir present que la transparència, la igualtat i la no discriminació no només són principis ètics sinó que de fet són principis jurídics que vinculen a totes les Administracions públiques i que estan desenvolupats en diverses normes. Malauradament, en ocasions, els mecanismes vigents per fer-los efectius no són adequats per garantir-los quan l’Administració pública utilitza la IA.

Per exemple, diversos estudis mostren que les Administracions públiques no estan difonent informació sobre els algoritmes que utilitzen a través dels portals de transparència, ni faciliten accés a aquesta informació quan una persona el sol·licita, com ha demostrat el conegut cas del bo social elèctric, que actualment es troba en seu judicial.

No només cal reforçar els mecanismes que ja preveu la legislació, sinó que serà necessari crear-ne de nous per garantir aquests principis quan l’Administració pública utilitza la IA.

Quins avenços tecnològics recents prometedors coneixes que podrien ser inspiradors per a la millora dels serveis socials a Catalunya?

L’automatització robòtica de processos (RPA) pot facilitar la gestió dels ajuts en matèria de serveis socials. Els robots conversacionals poden permetre una millor informació i atenció a les persones. Les recents notícies publicades sobre el ChatGPT permeten pensar que aquestes tecnologies experimentaran una ràpida evolució i que en no gaire temps podran ser utilitzades per les Administracions públiques per millorar la qualitat dels serveis socials.