El ‘machine learning’ ha empezado a implementarse en diversos ámbitos de los servicios sociales, como la detección del riesgo de exclusión social, del maltrato infantil o del riesgo de suicidio, o el soporte en el diagnóstico social de respuestas y de asignación de recursos. ¿Cómo funciona?

El machine learning o aprendizaje automático es una rama de la inteligencia artificial que permite que las máquinas aprendan mediante el análisis de datos, sin ser específicamente programadas. Esto permite que los sistemas sean capaces de identificar patrones y realizar predicciones o recomendaciones a través de algoritmos.

Esta tecnología está presente en diversos ámbitos de nuestro día a día, como en algunas de las plataformas de streaming más populares para sugerir contenido de interés, o en los sistemas internos de los bancos para detectar fraudes o movimientos irregulares. De la misma forma, es cada vez más frecuente que esta herramienta se adapte a otros ámbitos, como el entorno sanitario y los servicios sociales, aunque todavía no se ha alcanzado un consenso en su uso debido al tratamiento de datos personales y otros retos que plantea.

En los servicios sociales existen ya varios ejemplos en los que esta tecnología se está utilizando, en vista de los beneficios que se han observado en varios estudios realizados.

Detección y prevención de la exclusión social

PACT

Más de 120 millones de personas en la UE sufren riesgo de exclusión. La lucha contra la exclusión social es uno de los ejes a abordar a nivel social. Los modelos de predicción están ya muy extendidos en los ámbitos de la salud y en las compañías de seguros, pero su uso para la detección precoz de exclusión social todavía no se utiliza tanto en el sector social. En este sentido, los servicios sociales de la Junta de Castilla y León y la Universidad Politécnica de Madrid elaboraron en el marco del proyecto PACT una herramienta que utiliza el machine learning en la predicción de la exclusión en los servicios sociales, puesto que la detección precoz significa un mejor pronóstico para la persona. Según el documento de investigación de esa misma universidad, en las predicciones más conservadoras, el machine learning tiene una precisión de aproximadamente un 90% en la detección de ciudadanos que pueden estar en riesgo de exclusión. La aplicación está disponible online y, además, los trabajadores sociales pueden consultar los datos desde sus smartphones. [1]

Detección de desamparo y maltrato infantil

API

Uno de los ejemplos destacados es el uso de algoritmos para detectar y prevenir casos de desamparo y maltrato infantil es API, un sistema de soporte de análisis de free-text data que ha dado buenos resultados en la identificación de casos de maltrato infantil. Este sistema se evaluó en un estudio de 4 años en los Países Bajos, analizando durante este período una gran cantidad de datos detallados de los niños de la región. Este algoritmo se basa en varios índices que, a pesar de no ser diagnósticos de situaciones de abuso en sí mismos, sí son muy útiles al ofrecer una guía a los trabajadores sociales y señalar los posibles casos de maltrato para realizar una evaluación holística de la situación, ayudando a decidir los tipos de intervenciones más adecuadas. [2] 

AFST

Otro ejemplo destacado es el Allegheny Family Screening Tool (AFST), sistema de Big Data de Pennsylvania (EE.UU.) que proporciona una evaluación objetiva de las situaciones de riesgo en la infancia. Este algoritmo ayuda a los servicios sociales en la detección y toma de decisiones para la activación de protocolos de intervención social en situaciones de riesgo de la infancia. En este sistema, cuando los trabajadores sociales reciben aviso de una situación de posible desamparo, el algoritmo calcula el índice de riesgo del caso para orientar a los profesionales sobre el tipo de actuación más adecuada, mediante el análisis de más de 100 parámetros.

Prevención del suicidio

Crisis text line

El uso del machine learning también se ha incorporado a los servicios sociales en el campo de la prevención del suicidio, Reino Unido, Irlanda, Canadá y EE.UU. Una línea de atención de emergencia por vía de mensajería utiliza esta tecnología para detectar a las personas en peligro inminente de suicidio desde las primeras conversaciones. El algoritmo cuenta con una amplia red neural que posiciona como emergencia aquellas conversaciones con patrones de alto riesgo para que la persona pueda recibir intervención en menos de 5 minutos. Esto ha facilitado que se salven más vidas. [3]

Apoyo en el diagnóstico social

DPR

Las profesionales de servicios sociales de atención primaria de la ciudad de Barcelona utilizan desde hace poco tiempo la herramienta DPR (Demandas, Problemas, Recursos) para recibir soporte en el momento de diagnosticar respuestas y asignar recursos. Se trata de una herramienta que analiza los casos y recomienda la respuesta a dar a las personas atendidas. La profesional que atiende una visita, tras transcribir en el ordenador sus anotaciones sobre lo más importante de la persona entrevistada, pulsando un botón obtiene en pocos segundos del sistema DPR una recomendación sobre la respuesta a dar o sobre la actuación a emprender. Este sistema “inteligente” permite a las profesionales sociales responder con mayor rapidez, seguridad y objetividad a las personas usuarias, y a las personas usuarias recibir un diagnóstico claro y con una alta fiabilidad de acierto. Esta herramienta ha sido entrenada mediante técnicas de machine learning a partir de los datos de 300.000 entrevistas realizadas por los servicios sociales del Ayuntamiento de Barcelona durante los años anteriores. Es, pues, una herramienta de “inteligencia colectiva”, que no sustituye a las decisiones de las profesionales sociales, sino que les ofrece una orientación basada en la experiencia colectiva de años anteriores y deja a sus manos la decisión final sobre la respuesta a dar en cada caso o situación.

Consideraciones en el análisis de datos predictivo en los servicios sociales

Durante los últimos años, algunas autoridades locales han empezado a implementar sistemas algorítmicos de soporte en la toma de decisiones para las intervenciones sociales. En respuesta a las preocupaciones surgidas de esta práctica, se ha hablado sobre un conjunto de consideraciones y consejos a tener en cuenta [4]:

• Es necesario realizar análisis exhaustivos en contexto para lograr un entendimiento completo de las razones para implementar sistemas algorítmicos de toma de decisiones y sus efectos en cada servicio específico.
• La investigación debe contar con los usuarios y los grupos vulnerables de una manera relevante, para entender sus perspectivas sobre los sistemas y cómo afectan a su relación con los servicios.
• El proceso de implementación de servicios guiados por análisis de datos debería pertenecer a los profesionales que ofrecen los servicios y suponer un verdadero soporte para su práctica.
• Aunque el análisis predictivo es el uso más noticiable de análisis de datos, no es el único. Hay otras aplicaciones que ya existen o que podrían producirse, de las que habría que estudiar sus funciones y efectos sociales.

Referencias

[1] Predicting the risk of suffering chronic social exclusion with machine learning. Universidad Politécnica de Madrid. Disponible en: https://oa.upm.es/50337/1/INVE_MEM_2017_273924.pdf

[2] Using text mining and machine learning for detection of child abuse. Research Gate. Disponible en: https://www.researchgate.net/publication/310122377_Using_text_mining_and_machine_learning_for_detection_of_child_abuse

[3] Detecting Crisis: An AI Solution. Crisis Text Line. Disponible en: https://www.crisistextline.org/blog/2018/03/28/detecting-crisis-an-ai-solution/

[4] Algorithmic decision-making and predictive analytics in children’s social care. Ada Lovelace Institute. Disponible en: https://www.adalovelaceinstitute.org/event/algorithmic-decision-making-and-predictive-analytics-in-childrens-social-care/