El ‘machine learning’ ha començat a implementar-se en diversos àmbits dels serveis socials, com ara la detecció del risc d’exclusió social, del maltractament infantil o del risc de suïcidi, o el suport en el diagnòstic social de respostes i d’assignació de recursos. Com funciona?

El machine learning o aprenentatge automàtic és una branca de la intel·ligència artificial que permet que les màquines aprenguin mitjançant l’anàlisi de dades, sense ser específicament programades. Això permet que els sistemes siguin capaços d’identificar patrons i fer prediccions o recomanacions a través d’algoritmes.

Aquesta tecnologia està present en diversos àmbits del nostre dia a dia, com ara a algunes de les plataformes de streaming més populars per suggerir contingut d’interès, o als sistemes interns dels bancs per tal de detectar fraus o moviments irregulars. De la mateixa manera, és cada cop més freqüent que aquesta eina s’adapti a altres àmbits, com ara a l’entorn sanitari i als serveis socials, tot i que encara no s’ha assolit un consens en el seu ús degut al tractament de dades personals i a altres reptes que planteja.

En els serveis socials, existeixen ja diversos exemples en què aquesta tecnologia s’està utilitzant, en vistes dels beneficis que s’han observat en diversos estudis realitzats.

Detecció i prevenció de l’exclusió social

PACT

Més de 120 milions de persones a la Unió Europea pateixen risc d’exclusió. La lluita contra l’exclusió social és un dels eixos que cal abordar a nivell social. Els models de predicció ja estan molt estesos en els àmbits de la salut i en les companyies d’assegurances, però el seu ús per a la detecció precoç d’exclusió social encara no s’utilitza tant al sector social. En aquest sentit, els serveis socials de la Junta de Castilla y León i la Universitat Politècnica de Madrid van elaborar en el marc del projecte PACT una eina que utilitza el machine learning en la predicció de l’exclusió en els serveis socials, ja que la detecció precoç significa un millor pronòstic per a la persona. Segons el document de recerca d’aquesta mateixa universitat, en les prediccions més conservadores, el machine learning té una precisió d’aproximadament un 90% en la detecció de ciutadans que poden estar en risc d’exclusió. L’aplicació està disponible en línia i, a més, els treballadors socials poden consultar les dades des dels seus smartphones. [1]

Detecció de desemparament i maltractament infantil

API

Un dels exemples destacats és l’ús d’algoritmes per detectar i prevenir casos de desemparament i maltractament infantil és API, un sistema de suport d’anàlisi de free-text data que ha donat bons resultats en la identificació de casos de maltractament infantil. Aquest sistema es va avaluar en un estudi de 4 anys als Països Baixos, analitzant durant aquest període una gran quantitat de dades detallades dels infants del país. Aquest algoritme es basa en diversos índexs que, malgrat no ser diagnòstics de situacions d’abús en sí mateixos, sí són molt útils en oferir una guia als treballadors socials i assenyalar els possibles casos de maltractament per tal de fer una avaluació holística de la situació, ajudant a decidir els tipus d’intervencions més adients. [2] 

AFST

Un altre exemple destacat és l’Allegheny Family Screening Tool (AFST), un sistema de Big Data de Pennsylvania (EE.UU.) que proporciona una avaluació objectiva de les situacions de risc en la infància.  Aquest algoritme ajuda als serveis socials en la detecció i presa de decisions per a l’activació de protocols d’intervenció social en situacions de risc de la infància. En aquest sistema, quan els treballadors socials reben avís d’una situació de possible desemparament, l’algoritme calcula l’índex de risc del cas per orientar els professionals sobre el tipus d’actuació més adequada, mitjançant l’anàlisi de més de 100 paràmetres.

Prevenció del suïcidi

Crisis text line

L’ús del machine learning també s’ha incorporat als serveis socials en el camp de la prevenció del suïcidi, al Regne Unit, Irlanda, Canadà i EE.UU. Una línia d’atenció d’emergència per via de missatgeria utilitza aquesta tecnologia per detectar les persones en perill imminent de suïcidi des de les primeres converses. L’algoritme compta amb una àmplia xarxa neural que posiciona com a emergència aquelles converses amb patrons d’alt risc, per tal que la persona pugui rebre intervenció en menys de 5 minuts. Això ha facilitat que se salvin més vides. [3]

Suport en el diagnòstic social

DPR

Les professionals de serveis socials d’atenció primària de la ciutat de Barcelona utilitzen des de fa poc temps l’eina DPR (Demandes, Problemes, Recursos) per rebre suport en el moment de diagnosticar respostes i assignar recursos. Es tracta d’una eina que analitza els casos i recomana la resposta a donar a les persones ateses. La professional que atén una visita, després de transcriure a l’ordinador les seves anotacions sobre el més important de la persona entrevistada, prement un botó obté en pocs segons del sistema DPR una recomanació sobre la resposta a donar o sobre l’actuació a emprendre. Aquest sistema “intel·ligent” permet a les professionals socials respondre amb més rapidesa, seguretat i objectivitat a les persones usuàries, i a les persones usuàries rebre un diagnòstic clar i amb una alta fiabilitat d’encert. Aquesta eina ha estat entrenada mitjançant tècniques de “machine learning” a partir de les dades de 300.000 entrevistes fetes pels serveis socials de l’Ajuntament de Barcelona durant els anys anteriors. És, doncs, una eina d’”intel·ligència col·lectiva”, que no substitueix les decisions de les professionals socials, sinó que els ofereix una orientació basada en l’experiència col·lectiva d’anys anteriors i deixa a les seves mans la decisió final sobre la resposta a donar a cada cas o situació.

Consideracions en l’anàlisi de dades predictiu en els serveis socials

Durant els darrers anys, algunes autoritats locals han començat a implementar sistemes algorítmics de suport en la presa de decisions per a les intervencions socials. En resposta a les preocupacions sorgides d’aquesta pràctica, s’ha parlat sobre un conjunt de consideracions i consells a tenir en compte [4]:

• És necessari realitzar anàlisis exhaustives en context per tal d’assolir un enteniment complet de les raons per implementar sistemes algorítmics de presa de decisions i els seus efectes en cada servei específic.  
• La recerca ha de comptar amb els usuaris i els grups vulnerables d’una manera rellevant, per tal d’entendre les seves perspectives dels sistemes i com afecten la seva relació amb els serveis.
• El procés d’implementació de serveis guiats per anàlisi de dades hauria de pertànyer als professionals que ofereixen els serveis i suposar un veritable suport per a la seva pràctica.
• Malgrat que l’anàlisi predictiva és l’ús més noticiable d’anàlisi de dades, no és l’únic. Hi ha altres aplicacions que ja existeixen o que es podrien produir, de les quals caldria estudiar-ne les funcions i efectes socials.

Referències

[1] Predicting the risk of suffering chronic social exclusion with machine learning. Universidad Politécnica de Madrid. Disponible a: https://oa.upm.es/50337/1/INVE_MEM_2017_273924.pdf

[2] Using text mining and machine learning for detection of child abuse. Research Gate. Disponible a: https://www.researchgate.net/publication/310122377_Using_text_mining_and_machine_learning_for_detection_of_child_abuse

[3] Detecting Crisis: An AI Solution. Crisis Text Line. Disponible a: https://www.crisistextline.org/blog/2018/03/28/detecting-crisis-an-ai-solution/

[4] Algorithmic decision-making and predictive analytics in children’s social care. Ada Lovelace Institute. Disponible a: https://www.adalovelaceinstitute.org/event/algorithmic-decision-making-and-predictive-analytics-in-childrens-social-care/