Miljontals användare engagerar sig med innehåll på Facebook varje dag. Men vad händer när det mest hemska ögonblicket i någons liv blir en viral video? Bilder från mordet på en farfar i Ohio som publicerades på Facebook - och den efterföljande kritik som socialmediumjätten möter avslöjar ett nytt, skrämmande brottsfenomen. Framöver, hur kommer teknikföretag att hantera våld som publiceras - och skickas runt - på Internet?
En man från Cleveland lade upp en video av sig själv på Facebook den 16 april 2017. I strömmen, under diskussioner om hans romantiska svårigheter, meddelade Steve Stephens att han skulle mörda någon.
'Jag hittade någon jag ska döda. Jag ska döda den här killen - den här äldre killen, sa han, enligt BuzzFeed News .
David "son of sam" Berkowitz
Stephens kunde sedan ses närma sig en äldre man, till synes förvirrad av en rad semi-hörbara frågor som ställdes av Stephens. Sedan öppnade han eld. Offret visades blöda när han var på marken.
En Facebook-talesman skulle senare klargöra att även om Stephens hade liveströmt före mordet, så publicerades videon med det faktiska mordet efter att döden hade inträffat. Videon om brottet togs bort efter flera timmar, enligt The Verge . Men även om originalet togs bort, kopierades videon på Twitter och andra sociala medier.
Facebook avfärdade händelsen offentligt.
'Detta är ett fruktansvärt brott och vi tillåter inte denna typ av innehåll på Facebook', sa en talesman i ett uttalande vid den tiden. ”Vi arbetar hårt för att hålla en säker miljö på Facebook och är i kontakt med brottsbekämpning i nödsituationer när det finns direkt hot mot fysisk säkerhet.”
Jakten på skytten avslutade slutligen när han dödligt sköt sig själv under en polisjakt den 18 april.
Kulturförfattaren Emily Dreyfuss förklarade mordets kulturella inverkan på Wired .
'Sedan lanseringen har Live gett en oredigerad titt på polisskott, våldtäkt, tortyr och tillräckligt med självmord för att Facebook kommer att integrera självmordsförebyggande verktyg i realtid i plattformen', skrev Dreyfuss. 'Och även om morden har fångats av vittnen på Facebook Live - och människor har till och med dödats när de strömmade till tjänsten - verkar det vara första gången en mördare strömmar sig och förbereder sig för att begå ett mord och sedan laddar upp lagen som det hände. '
Familjen till Robert Goodwin Sr, det 74-åriga offret, stämde Facebook i januari 2018. De hävdade att Facebook inte vidtagit tillräckliga åtgärder för att varna myndigheterna om det hot som Stephens offentligt utgjorde i sina videor i rätt tid. .
'Facebook är stolt över att ha förmågan att samla in och analysera, i realtid, och därefter sälja [ett] stort utbud av information så att andra specifikt kan identifiera och rikta in användare för olika affärssyften', anges i stämningen. enligt BuzzFeed News .
äldre övergrepp på vårdhemshistorier
Som svar på saken, betonade Facebook-biträdande generalråd Natalie Naugle företagets engagemang för användarnas integritet.
'Vi vill att människor ska känna sig säkra med Facebook, varför vi har en politik som förbjuder direkta hot, attacker, allvarliga hot om att skada allmänheten och personlig säkerhet och annan kriminell verksamhet,' Naugle berättade för CNN . 'Vi ger människor verktyg för att rapportera innehåll som bryter mot vår policy och vidtar snabba åtgärder för att ta bort kränkande innehåll när det rapporteras till oss. Vi har medkänsla med offrets familj, som led en så tragisk och meningslös förlust. ''
Dräkten avslogs slutligen av domaren Timothy McCormick från Cuyahoga County Common Pleas den 5 oktober. enligt Fox 8 Cleveland .
'Facebook-svarande ... har den unika förmågan att kontrollera alla aspekter av förhållandet medan användningen engagerar sig i tjänster som erbjuds av Facebook och tredjepartspartner', säger McCormick. 'Kontroll av förhållandet motsvarar inte kontrollen över personen själv. Detta betyder bara att Facebook-svaranden får kontrollera hur användare som Stephens använder sina plattformar. Det betyder inte att de har förmågan att kontrollera Stephens handlingar offline. ”
Andy Kabat, en advokat för familjen Godwin, gav ingen kommentar till ärendet.
Stephens-situationen är ett exempel på en mer utbredd kontrovers som sprider sig i dagens digitala landskap: När populariteten för livestreaming och video ökar, hur kommer sociala medieföretag att moderera kriminellt innehåll i framtiden?
Även om fenomenet är relativt nytt (vilket betyder nästan ingen statistik över hur genomgripande det redan har blivit existerar) har Facebook upprepade gånger kritiserats för sin bristande åtgärd i denna fråga, trots offentliga uttalanden från företaget. Mark Zuckerberg, VD för Facebook, nämnde till och med kortfattat videon i ett tal i april 2018.
'Vi har mycket arbete och vi kommer att fortsätta göra allt vi kan för att förhindra att tragedier som detta inträffar', sa Zuckerberg på scenen på F8, Facebooks årliga utvecklarkonferens, bland löften om utvecklingen av artificiell intelligens som skulle hjälpa till att eliminera dessa. typer av videor från webbplatsen, enligt CNN . 'Våra hjärtan går till familjen och vännerna till Robert Godwin Sr.'
Justin Osofsky, VP för global verksamhet på Facebook, upprepade Zuckerbergs känslor.
är cornelia marie tillbaka på dödligaste fångst
'Vi vet att vi måste göra bättre', sa Osofsky.
Allmänhetens löften som Facebook har gjort om sina framsteg på detta område återspeglar inte den motvilja som företaget ibland har visat när de konfronteras med dessa frågor. Till exempel företaget hade berättat för The New York Times 2014 att det inte hade några planer på att använda algoritmer för att söka efter innehåll som bryter mot vissa policyer eller orsakar brott eftersom det inte ville påverka användarnas yttrandefrihet.Kate Klonick, biträdande professor vid St. John's University Law School och författare till en omfattande juridisk granskning av moderationspraxis för innehåll på sociala medier, berättade för moderkortet att detta under 2018 har varit ett problem.
'Människor antar att de alltid har haft någon form av plan kontra en hel del hur dessa regler utvecklats är från att släcka bränder och ett snabbt PR-svar på fruktansvärda PR-katastrofer när de hände,' Klonick sa . 'Det har inte funnits ett ögonblick där de har haft en chans att vara filosofiska om det, och reglerna speglar det verkligen.'
Sarah T. Roberts, en biträdande professor vid UCLA som studerar online-innehållsmoderering, förklarade några av de processer Facebook faktiskt använder.
'Det är faktiskt användarna som utsätts för något som de tycker är störande, och sedan startar den granskningsprocessen', sa Roberts CNN .
'Det finns hela branschbranscher som ägnar sig åt att ta bort den typen av innehåll, och de saknar inte affärer', tillade Roberts till Wired .
Etiken med innehållsmoderation skriver stort blir nu ett hett debatterat ämne bland kritiker av sociala mediers expansion och allestädes närvarande.Politisk psykologDr Bart Rossi fördömde Facebook 2017 i kölvattnet av läckta dokument av moderatorriktlinjer på plattformen.
'Facebook måste luta sig i en viss riktning när det gäller att moderera innehåll ... en av' övergripande försiktighet ', säger Rossi till Forbes . Öppenhet är viktig och ärlig, ansvarsfulla sociala medieplattformar får inte vara styva eller ensidiga. När det gäller att avslöja självskada, självmord, porr, våldsamma handlingar och farliga extrema beteenden på plattformen - Facebook bör inte tillåta eller särskilt minimera detta innehåll. '
Teoretiska sociologiska förklaringar till varför livestreamade brott förblir populära.
Mediasykolog Pamela Rutledge erbjöd sin teori till Väktaren .
”Sociala medier är det nya sättet att skryta för dem som begår brott för att få en känsla av självkraft eller självvikt. Publiken är större nu och, kanske, mer förförisk för dem som begår antisociala handlingar för att fylla personliga behov av självförstoring, säger Rutledge.
varför är Bruce Kelly i fängelse
Raymond Surette, professor i straffrättsliga rättigheter vid University of Central Florida, erbjöd en mer trubbig hypotes.
”Dumhet kommer att tänka på mig. Du kan lika gärna gå ner till polisstationen och begå brottet i lobbyn, ”Surette berättade The Guardian . 'Historiskt har det alltid funnits brott med en publik i åtanke, men det har varit ett lågt bakgrundsbrus i den allmänna brottsbilden ... [Numera] har det aldrig varit lättare att begå ett brott för en publik!'
'Det är bättre att vara känd för att vara dålig än att vara okänd. Kriminalitet har blivit en del av vår infotainmentvärld, tillade Surette. ”Att dras in i ett brottmål var en karriärmördare. Nu verkar det som för många yngre kändisar lite kriminalitet kan vara en bra övergångsanordning för din karriär. '
