Hablamos con Agustí Cerrillo Martínez, catedrático de Derecho Administrativo de la Universitat Oberta de Catalunya (UOC). Nos habla sobre el uso de inteligencia artificial en las Administraciones públicas y los servicios sociales, su impacto, los principios éticos y jurídicos que implica y los retos a afrontar.

¿Cómo empezaste a interesarte por la inteligencia artificial en tu campo?

Desde que me incorporé a la Universitat Oberta de Catalunya en 2001, una de mis líneas de investigación ha sido el análisis del impacto de los medios electrónicos en la Administración pública. Desde entonces he ido estudiando las diferentes tecnologías que se han ido incorporando a la Administración, como Internet o web 2.0, hasta llegar hace unos años a la inteligencia artificial.

¿Qué aplicaciones de inteligencia artificial crees necesarias hoy en día en las administraciones y entidades sociales? ¿Qué beneficios pueden aportar?

Las administraciones públicas y también muchas entidades sociales disponen de grandes volúmenes de datos que pueden ser útiles para tomar decisiones o evaluar su impacto o la eficacia de las políticas. La inteligencia artificial puede resultar útil para analizar estos datos.

La IA también puede utilizarse para facilitar la comunicación con las Administraciones y las entidades gracias al procesamiento del lenguaje natural. Los robots conversacionales o chatbots, especialmente, a medida que vayan funcionando de forma más precisa, serán más utilizados para informar y atender a la ciudadanía.

¿La inteligencia artificial también es una forma de desarrollar la inteligencia colectiva? ¿Qué significa esto?

Como ya he comentado, la IA puede ser útil para analizar grandes volúmenes de datos que pueden referirse a diferentes personas, a su situación o sus necesidades y, a partir de ahí, extraer patrones o conclusiones que puedan resultar útiles para tomar decisiones sobre qué ayudas otorgar o qué proyectos subvencionar para dar una mejor respuesta a estas necesidades.

España está muy avanzada en la implementación de la inteligencia artificial en algunos ámbitos de los servicios públicos, como hacienda o seguridad social, pero no en otros. ¿Cuáles crees que son los principales retos que tiene hoy el sector de los servicios sociales para dar pasos en esta dirección?

Probablemente el principal reto es disponer de datos de calidad. La IA no funciona adecuadamente sin datos de calidad y desgraciadamente muchas Administraciones públicas no han podido o no han sabido garantizar la calidad de los datos. Otro reto es garantizar que todas las administraciones públicas puedan acceder a esta tecnología que es muy costosa. Por eso, habrá que seguir impulsando mecanismos de cooperación interadministrativa como ya se ha venido haciendo en el pasado en el desarrollo de la administración electrónica.

En muchos ámbitos, el sector privado va por delante del sector público en la utilización de la inteligencia artificial. ¿De qué maneras el sector público está aprendiendo de los avances de las empresas en ese campo?

El sector público está siguiendo lo que hace el sector privado que lidera la inversión y la investigación en inteligencia artificial. A menudo el sector público no dispone del conocimiento ni la experiencia para desarrollar o incorporar la IA y debe adquirirla del mercado. Esto puede generar una dependencia del sector privado, particularmente de aquellas empresas tecnológicas multinacionales que están impulsando el desarrollo de esta tecnología. Es necesario garantizar el liderazgo de la propia Administración del proceso de incorporación de la IA.

EExiste un Plan de digitalización de las administraciones públicas 2021-2025, en el que se define la estrategia de la administración digital y los servicios públicos digitales, pero la brecha digital de una parte de la población está agravando situaciones de aislamiento, vulnerabilidad y exclusión social. ¿Qué estrategias se necesitarían para hacer frente?

Para evitar o reducir la brecha digital es necesario impulsar programas de formación y campañas de información dirigidas a la ciudadanía general y a determinados colectivos de personas, en particular. También es necesario ofrecer asesoramiento particularmente para aquellas personas o colectivos que puedan tener más problemas o menos recursos para utilizar los medios electrónicos.

En última instancia, es necesario garantizar el derecho de las personas a no utilizar los medios electrónicos en las relaciones con las administraciones públicas.

EEl desarrollo de la IA debe anclarse a principios éticos. Se ha hecho especial mención a la transparencia, la igualdad y la no discriminación. ¿Qué pasos se han propuesto para conseguirlos? ¿Cuáles propondrías tú?

Hay que tener presente que la transparencia, la igualdad y la no discriminación no solo son principios éticos, sino que, de hecho, son principios jurídicos que vinculan a todas las Administraciones públicas y que están desarrollados en diversas normas. Desgraciadamente, en ocasiones, los mecanismos vigentes para hacerlos efectivos no son adecuados para garantizarlos cuando la Administración pública utiliza la IA.

Por ejemplo, varios estudios muestran que las Administraciones públicas no están difundiendo información sobre los algoritmos que utilizan a través de los portales de transparencia, ni facilitan acceso a esta información cuando una persona lo solicita, como ha demostrado el conocido caso del bono social eléctrico, que actualmente se encuentra en sede judicial.

No sólo es necesario reforzar los mecanismos que ya prevé la legislación, sino que será necesario crear otros nuevos para garantizar estos principios cuando la Administración pública utilice la IA.

¿Qué avances tecnológicos recientes prometedores conoces que podrían ser inspiradores para la mejora de los servicios sociales en Cataluña?

La automatización robótica de procesos (RPA) puede facilitar la gestión de las ayudas en materia de servicios sociales. Los robots conversacionales pueden permitir una mejor información y atención a las personas. Las recientes noticias publicadas sobre ChatGPT permiten pensar que estas tecnologías experimentarán una rápida evolución y que en no mucho tiempo podrán ser utilizadas por las Administraciones públicas para mejorar la calidad de los servicios sociales.