Kan digitala algoritmer hjälpa till att skydda barn som Gabriel Fernandez från missbruk?

Varje år rapporteras ungefär 7 miljoner barn till barnvårdsmyndigheterna för eventuella övergrepp, men hur bestämmer myndigheterna om barn gillar det Gabriel Fernandez är i allvarlig fara och behöver ingripa?





hur man registrerar sig för bad girls club

Många barnskyddsmyndigheter förlitar sig på riskbedömningar från personal som är utbildade för att bemanna telefonlinjer där misstänkta övergrepp rapporteras, men vissa tror att det kan finnas ett bättre sätt.

'Det finns en bred mängd litteratur som vi har sett föreslår att människor inte är särskilt bra kristallkulor', säger Emily Putnam-Hornstein, chef för Barnens datanätverk och docent vid USC, sa i den nya Neflix-doku-serien 'The Trials of Gabriel Fernandez.' 'I stället är det vi säger att vi ska träna en algoritm för att identifiera vilka av dessa barn som passar en profil där den långa bågrisken skulle föreslå framtida systeminvolvering.'



Fernandez var en 8-årig pojke som slogs och torterades till döds av honom mor och hon pojkvän , trots upprepade samtal från hans lärare och andra till myndigheter som rapporterar misstänkt missbruk. Den nya serien i sex delar undersöker Fernandezs liv och fruktansvärda död, men det tar också en större titt på systemiska problem inom barnskyddssystemet som kunde ha spelat en roll.



Putnam-Hornstein hävdar att en strategi för att mer effektivt identifiera de barn som löper störst risk kan vara att använda speciellt skapade algoritmer som använder administrativa poster och datautvinning för att bestämma riskpoäng för varje barn.



'Vi har faktiskt cirka 6 eller 7 miljoner barn som rapporteras för påstådda övergrepp eller försummelse varje enskilt år i USA och historiskt är det sätt som vi har gjort några av våra screeningbeslut bara baserade på typ av tarmbedömningar', sa hon. 'Förutsägbar riskmodellering säger bara' Nej, nej, nej, låt oss ta en mer systematisk och empirisk inställning till detta. ''

Putnam-Hornstein och Rhema Vaithianathan, medregissör för Center for Social Data Analytics , kunde genomföra idén i Allegheny County, Pennsylvania. Paret använde tusentals hänvisningar till barnmisshandel för att utforma en algoritm som skulle bestämma en riskpoäng för varje familj som rapporterades till länets barnskyddstjänster, enligt Center for Health Journalism .



'Det finns ett hundratal eller så olika faktorer som vi tittar på', förklarade Marc Cherna, chef för Allegheny County Department of Human Services, i doku-serien. 'Några grundläggande exempel är barns välfärdshistoria, föräldrars historia, säkert narkotikamissbruk och missbruk, familjens psykiska sjukdomar, fängelse och övertygelser, och särskilt om det finns överfall och sådant.'

På grund av den stora volymen samtal har barnvårdsmyndigheter över hela landet i uppgift att avgöra om en familj ska screenas för utredning baserat på klagomålet eller få en screening.

yahweh ben yahweh kärlekens tempel

År 2015 undersöktes 42% av de fyra miljoner anklagelser som mottogs över hela landet och som involverade 7,2 miljoner barn The New York Times .

Ändå fortsätter barn att dö av barnmisshandel.

Systemet som används i Allegheny County är utformat för att mer exakt förutsäga vilka familjer som sannolikt kommer att ha framtida systeminvolvering genom dataanalys.

'Vad screeners har är mycket data', sa Vaithianathan till The Times. ”Men det är ganska svårt att navigera och veta vilka faktorer som är viktigast. Inom ett enda samtal till C.Y.F. , du kanske har två barn, en påstådd gärningsman, du får mamma, du kanske har en annan vuxen i hushållet - alla dessa människor kommer att ha historier i systemet som den som screenar samtalet kan undersöka. Men den mänskliga hjärnan är inte så behändig att utnyttja och förstå all information. ”

Screeningsverktyget för Allegheny-familjen använder en statistisk teknik som kallas 'data mining' för att titta på historiska mönster för att 'försöka göra en förutsägelse om vad som kan hända' i vilket fall som helst, sa hon i doku-serien.

Varje fall ges en riskpoäng som sträcker sig från en till 20 - som kategoriserar varje fall som antingen högrisk, medelrisk eller låg risk.

Rachel Berger, barnläkare vid Children's Hospital i Pittsburgh, berättade för The Times 2018 att det som gör prediktiv analys värdefull är att det eliminerar en del av subjektiviteten som vanligtvis går in i processen.

'Alla dessa barn lever i kaos,' sa hon. “Hur fungerar C.Y.F. välja vilka som är mest i fara när de alla har riskfaktorer? Du kan inte tro hur mycket subjektivitet som ingår i besluten om skydd av barn. Det är därför jag älskar prediktiv analys. Det tar äntligen lite objektivitet och vetenskap till beslut som kan vara så otroligt livsförändrande. ”

Men det har också funnits kritiker som hävdar att användning av prediktiv analys bygger på data som redan kan vara partiska. Tidigare forskning har visat att minoriteter och familjer med låg inkomst ofta är överrepresenterade i data som samlas in, vilket kan skapa en partiskhet mot afroamerikanska familjer eller andra minoritetsfamiljer, enligt doku-serien.

”De mänskliga fördomarna och dataförspänningarnagå hand i hand med varandra”, Säger Kelly Capatosto, senior forskningsassistent vid Kirwan Institute for the Study of Race and Ethnicity vid Ohio State University, enligt Center for Health Journalism. ”Med dessa beslut tänker vi på övervakning och systemkontakt - med polis, barnskyddsbyråer, alla socialvårdstjänster. Det kommer att vara överrepresenterat i (låginkomst- och minoritets) samhällen. Det är inte nödvändigtvis ett tecken på var dessa förekomster äger rum. ”

Erin Dalton, biträdande chef för Allegheny County kontor för analys, teknik och planering, medgav att partiskhet är möjlig.

”Det finns säkert partiskhet i våra system. Barnmisshandel ses av oss och våra uppgifter är inte en funktion av faktiskt barnmissbruk, det är en funktion av vem som blir rapporterad, säger hon i Netflix-serien.

Men länet berättade också Center for Health Journalism att det har funnit att mottagande av offentliga fördelar sänker riskpoängen för nästan har av sina familjer.

har Charles Manson ett barn

Thans län är 'mycket känsligt' för den oro och gör pågående analyser av systemet för att avgöra om grupper har inriktats oproportionerligt, sade Cherna också i doku-serien.

Allegheny County-systemet ägs av länet själv, men det har också förekommit kritik mot andra privatägda screeningsystem.

Illinois Department of Children and Family Services meddelade 2018 att man inte längre skulle använda ett prediktivt analyspaket som utvecklats av Eckerd Connects, en ideell organisation och dess vinstdrivande partner MindShare Technology, delvis för att företaget vägrade att ge detaljer om vilka faktorer användes i sin formel, enligt The Times.

Systemet började enligt uppgift beteckna tusentals barn som behövde brådskande skydd, vilket ger mer än 4 100 barn i Illinois 90 procent eller mer sannolikhet för död eller skada, Chicago Tribune rapporterades 2017.

vilken kanal är syrekanalen

Ändå dödade andra barn som inte fick höga riskpoäng fortfarande av missbruk.

'Prediktiv analys (förutspådde inte) något av de dåliga fallen', avdelningen för barn- och familjetjänster, Beverly 'B.J.' Walker berättade för Tribune. 'Jag har beslutat att inte fortsätta med det kontraktet.'

Daniel Hatcher, författare till “ Fattigdomsindustrin: exploateringen av Amerikas mest utsatta medborgare ”Jämförde några av de analytiska systemen med en“ svart ruta ”och sa i doku-serien att det inte alltid är klart hur de fattar sina beslut.

'De har inget sätt att ta reda på hur de faktiskt bestämmer en vårdnivå som har en enorm inverkan på en individ', sa han.

Putnam-Hornstein erkände att de prediktiva analytiska systemen inte kan bestämma framtida beteende, men hon tror att det är ett värdefullt verktyg som gör det möjligt för screeners att fatta mer informerade beslut om vilka barn som kan löpa störst risk.

'Jag hoppas att dessa modeller kommer att hjälpa vårt system att ägna mer uppmärksamhet åt den relativt lilla undergruppen av hänvisningar där risken är särskilt hög och vi kommer att kunna ägna mer resurser åt dessa barn och familjer på ett förebyggande sätt,' sa hon, enligt till Center for Health Journalism. ”Jag vill inte att någon överförsäljer förutsägbar riskmodellering. Det är ingen kristallkula. Det kommer inte att lösa alla våra problem. Men på marginalen, om det tillåter oss att fatta något bättre beslut och identifiera högriskfall och sortera ut dem från lågriskfall och justera därefter, kan detta vara en viktig utveckling för fältet. ”

Populära Inlägg