Terrorkøen

Disse moderatorer hjælper med at holde Google og YouTube fri for voldelig ekstremisme - og nu har nogle af dem PTSD

Indholdsadvarsel:Denne artikel indeholder beskrivelser af grafisk og foruroligende indhold relateret til terrorisme og forbrydelser mod børn.



Google og YouTube nærmer sig moderering af indhold på samme måde som alle de andre tekniske giganter gør: at betale en håndfuld andre virksomheder for at udføre det meste af arbejdet. En af disse virksomheder, Accenture, driver Googles største indholdsmoderationswebsted i USA: et kontor i Austin, Texas, hvor indholdsmoderatorer arbejder døgnet rundt med at rydde op på YouTube.

Peter er en af ​​hundreder af moderatorer på Austin-webstedet. YouTube sorterer arbejdet for ham og hans kolleger i forskellige køer, som virksomheden siger giver moderatorer mulighed for at opbygge ekspertise omkring sine politikker. Der er en copyright-kø, en had- og chikane-kø og en voksen kø til porno.

NØGLEFINDINGER

  • Googles største indholdsmoderationsfacilitet i USA er i Austin, Texas. Hundredvis af moderatorer, der arbejder der, fungerer som YouTubes politistyrke.
  • Google oprettede en dedikeret kø til videoer, der menes at indeholde voldelig ekstremisme, og bemandede den med snesevis af lavtlønnede indvandrere fra Mellemøsten. Moderatorer tjener $ 18,50 i timen - ca. $ 37.000 om året - og har ikke modtaget en forhøjelse på to år.
  • Austin-moderatorer skal se fem timers grusom video om dagen. Dette kommer på trods af, at YouTubes administrerende direktør Susan Wojcicki lovede at reducere deres byrde til fire timer om dagen sidste år.
  • Arbejdstagerne på stedet beskriver følelsen af ​​angst, depression, natterror og andre alvorlige psykiske sundhedsmæssige konsekvenser efter at have udført jobbet i så lidt som seks måneder.
  • Managers for Accenture tvinger rutinemæssigt medarbejdere til at arbejde ind i deres pausetid og nægte dem ferietid for at rumme overfyldte køer.
  • Google tilbyder en standard medicinsk behandling til fuldtids indholdsmoderatorer og en anden til entreprenører. Fuldtidsansatte kan tage måneders betalt medicinsk orlov for at tackle posttraumatisk stresslidelse og andre problemer. Entreprenører får næsten ingen betalt lægeorlov.
  • Arbejdstagere hos Google informeres ofte ikke om de potentielle mentale sundhedsmæssige konsekvenser af indholdsmoderering, når de ansøger om job. Annoncer og interviews har tendens til at bagatellisere mængden af ​​foruroligende indhold, som moderatorer faktisk skal se.
  • Google gennemfører eksperimenter med nogle moderatorer for at se, om teknologiske indgreb, som f.eks. At tillade arbejdere at se videoer i gråtoner, reducerer følelsesmæssige skader.
  • Selv med førsteklasses lægehjælp og fremragende fordele kan indholdsmoderation stadig føre til, at Google-personer bliver diagnosticeret med PTSD, kronisk angst og andre langsigtede psykiske problemer.

Peter arbejder, hvad der internt kaldes VE-køen, som står for voldelig ekstremisme. Det er noget af det grimmeste arbejde, der skal udføres på Alphabet. Og som alle job med indholdsmoderering, der involverer daglig udsættelse for vold og misbrug, har det haft alvorlige og langvarige konsekvenser for de mennesker, der udfører arbejdet.



I det forløbne år har Peter set en af ​​sine kolleger kollapse på arbejde i nød, så belastet af de videoer, han havde set, at han tog to måneders ubetalt orlov fra arbejde. En anden kollega, der var plaget af angst og depression forårsaget af jobbet, forsømte sin diæt så hårdt, at han måtte indlægges på grund af en akut vitaminmangel.

Peter, der har udført dette job i næsten to år, bekymrer sig om den vejafgift, som jobbet tager på hans mentale helbred. Hans familie har gentagne gange opfordret ham til at holde op. Men han er bekymret for, at han ikke vil være i stand til at finde et andet job, der betaler lige så godt som det her: $ 18,50 i timen eller omkring $ 37.000 om året.

Siden han begyndte at arbejde i den voldelige ekstremismekø, bemærkede Peter, at han har mistet hår og er gået i vægt. Hans temperament er kortere. Når han kører forbi bygningen, hvor han arbejder, selv på sine slukkede dage, begynder en vene at banke i brystet.



Hver dag ser du nogen halshugge nogen, eller nogen skyder sin kæreste, fortæller Peter mig. Derefter har du lyst til wow, denne verden er virkelig skør. Dette får dig til at føle dig syg. Du føler, at der ikke er noget, der er værd at leve for. Hvorfor gør vi dette mod hinanden?

spøgelse x360

Som mange af hans kolleger, der arbejder i VE-køen i Austin, er Peter en indvandrer. Accenture rekrutterede snesevis af arabisktalende som ham, hvoraf mange voksede op i Mellemøsten. Virksomheden afhænger af hans sprogkundskaber - han taler syv - for nøjagtigt at identificere hadefuld tale og terroristpropaganda og fjerne den fra YouTube.

Flere arbejdere, jeg talte med, håber at blive borgere, en bedrift, der kun er blevet vanskeligere under Trump-administrationen. De bekymrer sig om at tale - til en leder, til en journalist - af frygt for at det vil komplicere deres indvandringsindsats. (Af denne grund gik jeg med på at bruge pseudonymer til de fleste arbejdere i denne historie.)

Mere end det fortalte Peter og andre moderatorer i Austin mig imidlertid, at de ville leve som de fuldtidsansatte Google-medarbejdere, der nogle gange besøger hans kontor. En højere løn, bedre sundhedsmæssige fordele og flere omsorgsfulde ledere ville lette byrden ved jobbet, fortalte de mig.

Vi ser folk komme derfra, hvordan de er, hvordan de handler mere fri, fortæller Peter mig.

I det meste af dette år troede jeg det samme, som Peter gjorde. Bring moderatorerne med i huset, betal dem som du ville betalt en politibetjent eller brandmand, og måske kunne du reducere den mentale sundhedsafgift ved konstant udsættelse for grafisk vold.

Så mødte jeg en kvinde, der havde arbejdet som indholdsmoderator for Google selv. Hun tjente en god løn nærmer sig det sekscifrede varemærke. Der var fremragende sundhedsmæssige fordele og andre frynsegoder. Men ingen af ​​disse privilegier ville i sidste ende forhindre det foruroligende indhold, hun så hver dag, i at skade hende.

Efter et års fjernelse af terrorisme og børnemishandling fra Googles tjenester led hun af angst og hyppige panikanfald. Hun havde problemer med at interagere med børn uden at græde. En psykiater diagnosticerede hende med posttraumatisk stresslidelse.

Hun kæmper stadig med det i dag.

Daisy Soderberg-Rivkin arbejdede som advokatfuldmægtig i 2015, da hun så en fortegnelse online for en åben stilling hos Google. Jobbet var indholdsmoderering - skønt det, ligesom mange job i moderering af indhold, blev beskrevet ved hjælp af en uigennemsigtig eufemisme: i dette tilfælde forbinder juridiske flytninger.

Daisy var vokset op med Google-tjenester, og da hun begyndte at tænke på at arbejde der, vendte hendes sind sig til firmaets berømte frynsegoder: dets caféer og mikrokøkkener, gratis massage og renseri. Jobbet, som hun til sidst ansøgte om, var baseret på Googles hovedkvarter i Mountain View, Californien - holdet blev senere overført til et satellitkontor i nærheden af ​​Sunnyvale - og det var en fuldtidsstilling med fordele. Det betalte $ 75.000 om året plus et tilskud af Google-aktier, der samlede det samlede beløb tættere på $ 90.000.

Ingen måde får jeg dette job, tænkte hun ved sig selv. Hun ansøgte alligevel.

Noteringen sagde, at associerede virksomheder ville behandle juridiske anmodninger om at fjerne links fra Google-søgning på grund af krænkelser af ophavsretten, ærekrænkelse og andet upassende indhold. Det anførte, at tilknyttede virksomheder også skulle gennemgå nogle links, der indeholder billeder af børnemishandling. Men jeg husker meget tydeligt i parentes, at det sagde, 'denne form for indhold ville være begrænset til en til to timer om ugen,' siger Daisy.

Fjernelse af forstyrrende indhold fra Googles tjenester kræver samarbejde mellem flere teams inden for virksomheden. For det meste gennemgås videoer, der rapporteres om terrorindhold eller udnyttelse af børn, af entreprenører som dem i Austin. (Google henviser til medarbejdere, der er ansat af tredjepartsfirmaer som leverandører, men jeg fandt ud af, at medarbejderne universelt betegner sig selv som entreprenører, og jeg bruger dette ord i hele denne historie.) Men Google ansætter også fuldtidsansatte til at behandle juridiske anmodninger fra regeringen enheder - og fjern efter behov billeder, videoer og links fra websøgning.

Daisy blev overrasket, da en rekrutter ringede tilbage til hende et par måneder efter, at hun ansøgte. Over otte runder af interviews solgte Googlers hende på den positive indvirkning, som hendes arbejde ville have.Du vil hjælpe med at støtte ytringsfrihed online, husker hun, at de fortalte hende.Du vil gøre Internettet til et mere sikkert sted.

Hele dagen kigger på kroppe på gulvet i et teater.

Det føltes som om du satte en kappe på, arbejdede hos Google, fik din gratis kombucha og sov i lurebælg, siger hun. Men en gang imellem bliver du nødt til at se noget foruroligende indhold. Virkelig, hvor slemt kunne det være?

Hun ringede til sin mor og sagde, at hun tog jobbet. Hun var 23 år gammel.

Daisy, som ikke tidligere havde haft problemer med mental sundhed, overvejede ikke den potentielle effekt, det nye job kunne have på hendes psyke. Det ser heller ikke ud til, at Google gjorde det. Under sin orientering tilbød virksomheden ingen uddannelse for, hvad arbejdere på dette område nu kalder modstandsdygtighed - ved at udvikle følelsesmæssige værktøjer til at klare et stort volumen grafisk og foruroligende tekst, billeder og video.

Daisy fik til opgave at gennemgå juridiske anmodninger om fjernelse af indhold med oprindelse i Frankrig, hvor hun taler flydende modersmål. Til sidst ville hun blive virksomhedens programleder for terrorisme på det franske marked. Hver dag åbnede hun sin kø, sorterede gennem rapporterne og bestemte, om Google var forpligtet til - enten ved lov eller ifølge Googles servicevilkår - til at fjerne et link.

Til hendes overraskelse begyndte køen at løbe over af vold. Den 13. november 2015 dræbte terrorister, der havde lovet deres loyalitet over for ISIS, 130 mennesker og såret 413 flere i Paris og dens forstad til Saint-Denis, hvor flertallet døde i en masseskydning under en koncert i Bataclan.

Hele dagen ser på kroppe på gulvet i et teater, siger hun. Dine neuroner fungerer bare ikke som de normalt ville. Det bremser alt.

I juli 2016 kørte terrorister tilknyttet ISIS en lastbil ind i en skare mennesker, der fejrede Bastilledagen i den franske by Nice, dræbte 86 mennesker og sårede 458 flere. Links til grafiske fotos og videoer begyndte at bunke op. Ledere pressede Daisy til at behandle et stadig højere antal anmodninger, siger hun.Vi er nødt til at dræbe dette efterslæb, de sagde. Hvis hun ikke gjorde det, bekymrede hun sig for, at hun ville få en dårlig anmeldelse.

Daisy forsøgte at arbejde hurtigere, men fandt det at være en kamp.

Alt du ser er tallene, der går op i din kø, siger hun.

I februar skrev jeg omlivet for Facebook-moderatorer i USA, fokuseret på et sted i Phoenix, hvor arbejdere klagede over lave lønninger, dystre arbejdsforhold og langvarige psykiske problemer fra politiet på det sociale netværk. I juni skrev jeg en opfølgningsrapport om et Facebook-sted i Tampa, Florida, hvoren moderator var død efter at have lidt et massivt hjerteanfald på jobbet.

Dengang havde jeg modtaget beskeder fra ansatte på andre store sociale platforme, der forklarede, at disse problemer også berørte deres virksomheder. Begyndende i sommer søgte jeg mennesker, der havde arbejdet som moderatorer for Google eller YouTube, for at sammenligne deres oplevelser med dem, jeg tidligere havde skrevet om. I løbet af de sidste fem måneder interviewede jeg 18 nuværende og tidligere Google-medarbejdere og entreprenører om deres arbejdsforhold og jobets indvirkning på deres mentale helbred.

Med sit store antal internettjenester, hvoraf nogle har tiltrukket brugerbaser med mere end en milliard mennesker, kræver Google en hær af moderatorer. Meget af det indhold, der sendes til gennemgang, er godartet og endda kedeligt: ​​rensning af spam fra f.eks. Googles annonceringsplatform eller fjernelse af falske lister fra Google Maps. Men foruroligende indhold kan findes næsten overalt, hvor Google tillader brugere at uploade det. I oktober rapporterede virksomheden, at det sidste år havde fjernet 160.000 stykker indhold for at indeholde voldelig ekstremisme fra Blogger, Google Fotos og Google Drive alene - ca. 438 pr. Dag.

Selv på YouTube er meget af det indhold, der gennemgås af moderatorer, godartet. Når der ikke rapporteres om videoer i deres køer, sidder moderatorer ofte inaktiv. En finsksproget moderator fortalte mig, at hun var gået to måneder på sit job uden noget at gøre i løbet af dagen. I det højeste kan hun blive bedt om at gennemgå et par videoer og kommentarer i løbet af en otte-timers periode. Hun tilbragte det meste af sin arbejdsdag på at søge på internettet, fortalte hun mig, inden hun holdt op med sidste måned ud af kedsomhed.

Hvert skud, hver død, oplever han som om det kan være ægte

Andre moderators oplevelser varierede meget baseret på deres placering, deres opgaver og deres relative empati hos deres ledere. Flere af dem fortalte mig, at de for det meste nyder deres arbejde, enten fordi de finder opgaven med at fjerne voldelige og forstyrrende videoer fra Google-søgning og YouTube givende, eller fordi de tildelte opgaver er enkle og giver dem rigelig tid i løbet af dagen til at se videoer eller slappe af.

Samlet set føler medarbejderne, at dette er et meget let job og ikke noget at klage over, fortalte en moderator for YouTube i Indien, der tjener omkring $ 850 om måneden, mig i en e-mail. Vi bruger normalt vores wellness [tid] på at spille spil som musikstole, dumme charades, Pictionary, et cetera. Vi har det sjovt!

Sjov var ikke et ord, som jeg talte med plejede at beskrive arbejdet med at moderere terrorindhold. I stedet for talte de om muskelkramper, stressspisning og - midt i de stigende huslejer i Austin - krybende fattigdom. De talte om ledere, der nægtede dem pause, fyrede dem på spinkle påskud og ændrede deres skift uden advarsel.

For de arbejdere, der er hårdest ramt af volden, udtrykte de en voksende angst for bivirkningerne ved at være vidne til snesevis eller flere mordscener om dagen.

Hvis jeg sagde, at det ikke påvirkede mig, er det en komplet løgn, siger Tariq, der har arbejdet i Austin's voldelige ekstremismekø i mere end 18 måneder. Hvad du ser hver dag ... det former dig.

Da han forlader sit job i Austin, prøver Peter at slappe af. Over tid er dette blevet vanskeligere. Actionfilmene, som han engang nød, virker ikke længere fiktive for ham. Hvert skud, hver død, oplever han som om det kan være ægte.

Selvom jeg ved, at ... det er ikke sandt, siger Peter.

Nogle af hans kolleger klarer sig ved at bruge stoffer - mest ukrudt. Siden Google først hyrede Accenture til at begynde at spinde VE-køen i Texas, har han set dem alle blive mere tilbagetrukne.

miyazaki hidetaka

I begyndelsen ville du se alle sige: 'Hej, hvordan har du det?' Husker Peter. Alle var venlige. De ville gå rundt og tjekke ind. Nu vil ingen engang tale med de andre.

Han sluttede sig til projektet i 2017, året det begyndte. På det tidspunkt var YouTube kommet under et betydeligt pres for at rydde platformen op. Journalister og akademikere, der undersøgte tjenesten, havde fundet en stor mængde videoer indeholdende hadefuld tale, chikane, misinformation om masseskydninger og andre tragedier og indhold, der var skadeligt for børn. (Mange af disse videoer var fundet på YouTube Kids, en app, virksomheden havde udviklet i et forsøg på at styre børn mod mere sikkert materiale.)

Som svar, YouTubes administrerende direktør Susan Wojcickimeddelte, at virksomheden ville udvide sin globale arbejdsstyrke af moderatorer til 10.000, som det gjorde. En brøkdel af dem - Google ville ikke fortælle mig, hvor mange - der blev ansat i USA med den største koncentration i Austin.

Vi ville bede om ting, og de sagde: 'Se, vi har bare ikke budgettet.' De ville sige ordet 'budget' meget.

Moderatorer for kontraktindhold er billige, hvilket tjener lidt over minimumsløn i USA. Derimod kunne fuldtidsansatte, der arbejder med indholdsmoderering til Google-søgning, tjene $ 90.000 eller mere efter at være forfremmet, eksklusive bonusser og aktietilskud. Midlertidige medarbejdere, entreprenører og leverandører - de arbejdere, som Google-brugere omtaler internt som TVC'er -udgør nu 54 procent af virksomhedens arbejdsstyrke.

Kristie Canegallo, Googles vicepræsident for tillid og sikkerhed, fører tilsyn med sine tusinder af moderatorer. Hun fortalte mig, at det at stole på virksomheder som Accenture hjælper Google med at tilpasse bemanningsniveauerne mere effektivt. Hvis virksomheden udvikler et nyt værktøj til at hjælpe med at fange dårlige videoer, har det muligvis brug for flere moderatorer til at begynde med for at hjælpe med at træne systemet. Men bagefter er disse moderatorer ikke længere nødvendige.

Kontrakter med leverandørvirksomheder hjælper os virkelig med at have fleksibilitet til at tilpasse os skiftende krav, siger Canegallo, der sluttede sig til Google i 2018 efter at have fungeret som vicestabschef for præsident Barack Obama.

Ligesom andre store aktører i branchen er Accentures Austin-site baseret på modellen til et callcenter. (I modsætning til Facebook nægtede Google at lade mig besøge nogen af ​​sine websteder.) Medarbejdere arbejder i et dedikeret rum kendt som produktionsgulvet, hvor de arbejder i skift for at behandle rapporter. Arbejdet er afgørende for at muliggøre YouTubes eksistens: mange lande har vedtaget love, der lovligt kræver, at virksomheden fjerner videoer, der indeholder terroristmateriale, nogle af dem så lidt som 24 timer efter, at en rapport er modtaget.

Daisy fandt terrormaterialet foruroligende, men hun var endnu mere foruroliget over det, som Google kalder billeder af seksuelt misbrug af børn (CSAI). Joblisten havde lovet, at hun kun ville gennemgå indhold relateret til børnemishandling i en time eller to om ugen. Men i praksis var det en meget større del af jobbet.

Det er ulovligt at se CSAI i de fleste tilfælde, så Google oprettede det, som moderatorerne kaldte et krigsrum, hvor de kunne gennemgå anmodninger relateret til udnyttelse af børn uden risiko for, at andre kolleger utilsigtet ville se materialet. Oprindeligt oprettede virksomheden en rotation. Daisy arbejder muligvis CSAI i tre uger og har derefter seks uger af sit normale job. Men kronisk underbemanding kombineret med høj omsætning blandt moderatorer betød, at hun måtte gennemgå sager om udnyttelse af børn de fleste uger, siger hun.

Vi begyndte at indse, at vi i det væsentlige ikke var en prioritet for virksomheden, siger Daisy om Google. Vi ville bede om ting, og de sagde: 'Se, vi har bare ikke budgettet.' De ville sige ordet 'budget' meget.

(Google rapporterede 110 milliarder dollars i omsætning i 2018.)

Et år efter jobbet påpegede Daisy's daværende kæreste hende, at hendes personlighed var begyndt at ændre sig. Du er meget hoppende, sagde han. Du taler i søvn. Nogle gange skriger du. Hendes mareridt blev værre. Og hun var altid, altid træt.

En værelseskammerat kom en gang bag hende og stak forsigtigt hende, og hun snurrede instinktivt rundt og ramte ham. Min refleks varDenne person er her for at såre mig, hun siger. Jeg forbandt bare alt med ting, jeg havde set.

Jeg måtte sidde et øjeblik, og jeg eksploderede bare grædende

En dag gik Daisy rundt i San Francisco med sine venner, da hun så en gruppe børn i førskolealderen. En plejeperson havde bedt dem om at holde fast i et reb, så de ikke ville afvige fra gruppen.

Jeg slags blinkede en gang, og pludselig fik jeg bare et øjeblik nogle af de billeder, jeg havde set, siger Daisy. Børn bliver bundet, børn voldtaget i den alder - tre år gamle. Jeg så rebet og forestillede mig noget af det indhold, jeg så med børn og reb. Og pludselig stoppede jeg, og jeg blinkede meget, og min ven måtte sørge for, at jeg var okay. Jeg måtte sidde et øjeblik, og jeg eksploderede bare grædende.

Det var det første panikanfald, hun nogensinde havde haft.

I de følgende uger trak Daisy sig tilbage fra sine venner og værelseskammerater. Hun ville ikke tale for meget med dem om sit arbejde af frygt for at belaste dem med den viden, hun nu havde om verden. Hendes job var at fjerne dette indhold fra internettet. At føle det til andre føltes som et forræderi mod hendes mission.

Google holdt en rådgiver på personalet, men hun blev stillet til rådighed for det juridiske flytningsteam med uregelmæssige mellemrum, og hendes tidsplan blev hurtigt udfyldt. Daisy fandt rådgiveren varm og sympatisk, men det var svært at få tid med hende. De ville sende dig en e-mail, der sagde: 'Hun kommer i dag', og du bliver nødt til at tilmelde dig meget hurtigt, fordi det næsten fyldes op med det samme. Fordi alle følte disse effekter.

Da hun med held havde lavet en aftale, foreslog rådgiveren, at Daisy begyndte at se en privat terapeut.

I mellemtiden blev Daisy mere irritabel. Hun bad folkene i sit liv om ikke at røre ved hende. Da en ven inviterede hende til sin treåriges fødselsdagsfest, gik Daisy, men tog af sted efter kort tid. Hver gang hun så på børnene, forestillede hun sig, at nogen skader dem.

Da hendes mentale helbred faldt, kæmpede Daisy med at følge med de krav, der blev stillet til hende. Mere og mere græd hun på arbejde - nogle gange på badeværelset, nogle gange foran bygningen. Andre gange faldt hun i søvn ved sit skrivebord.

Mod slutningen af ​​det første år bad hendes manager om at få en samtale. De mødtes inde i et konferencelokale, og lederen gav udtryk for sin bekymring.Du kommer ikke hurtigt igennem din kø, han sagde.Vi har brug for dig til at styrke dit produktivitetsspil.

Hun var træt, da han sagde det, fordi hun altid var træt, og noget ved disse ord - produktivitetsspil - rasede hende. Jeg knap bare, siger Daisy.

Hvordan i alverden vil du have mig til at styrke mit produktivitetsspil? fortalte hun sin manager. Ved du, hvordan min hjerne ser ud lige nu? Forstår du, hvad vi ser på? Vi er ikke maskiner. Vi ermennesker. Vi har følelser, og disse følelser er dybt arrede ved at se på børn, der bliver voldtaget hele tiden, og folk får deres hoveder hugget af.

Nogle gange, når hun tænkte på sit job, kunne hun forestille sig at gå ned ad en mørk gyde omgivet af det værste af alt, hvad hun så. Det var som om al vold og misbrug havde taget en fysisk form og angrebet hende.

Alt menneskehedens onde, bare regner ind på dig, siger hun. Sådan føltes det - som om der ikke var nogen flugt. Og så fortalte nogen dig, 'Nå, du bliver nødt til at komme derind igen. Bliv ved med at gøre det. '

Et par dage senere fortalte Daisy sin manager, at hun havde til hensigt at tage betalt lægeorlov for at tackle det psykologiske traume i det forløbne år - en af ​​flere på hendes team, der havde taget orlov som følge af følelsesmæssigt traume, der blev lidt på jobbet. Hun troede, hun måske var væk et par uger, måske fire.

Hun ville ikke vende tilbage til Google i seks måneder.

Drabene kom hurtigere ind end Austin-kontoret kunne klare. Selv med hundreder af moderatorer, der arbejdede døgnet rundt i skift, kæmpede Accenture med at følge med på de brutale videoer. Den voldelige ekstremismekø er domineret af videoer af mellemøstlig oprindelse, og virksomheden har rekrutteret snesevis af arabisktalende siden 2017 til at gennemgå dem.

Mange af arbejderne er nylige indvandrere, der tidligere har arbejdet som sikkerhedsvagter og leveringschauffører og hørt om jobbet fra en ven.

Da vi migrerede til USA, blev vores universitetsgrader ikke anerkendt, siger Michael, der arbejdede på stedet i næsten to år. Så vi begyndte lige at gøre noget. Vi havde brug for at begynde at arbejde og tjene penge.

Arbejdere, jeg talte med, var oprindeligt taknemmelige for muligheden for at arbejde for et stort teknologivirksomhed som Google. (Mens entreprenørerne teknisk arbejder for Accenture, udvisker Google grænserne på flere måder. Blandt andet får entreprenørerne google.com-e-mail-adresser.)

Jeg arbejdede endelig på et kontor, siger Peter. Jeg tænkte på alle mulighederne. Jeg tænkte på en karriere.

Men indtil orientering forblev den faktiske karakter af arbejdet i den voldelige ekstremismekø uigennemsigtig. Jeg havde ikke en idé om, hvad det var, siger Peter, fordi de ikke fortæller dig det.

Accenture instruerer moderatorer om at behandle deres 120 videoer om dagen på fem timer, ifølge de arbejdere, jeg talte med, med to timer om dagen med betalt wellness-tid og en times ubetalt frokost. (Wojcicki lovede at reducere deres byrde til fire timer sidste år, men det skete aldrig. Accenture benægter, at der er fastsat nogen produktivitetskvoter for arbejdere.) Der afsættes wellness-tid til arbejdstagere til at dekomprimere sig fra jobets hårdhed - ved at tage en tur udenfor tale med en rådgiver på stedet eller ved at spille spil med kolleger. I starten var de rigtig gode, siger Michael. Hvis du ser noget dårligt, skal du tage en pause. Luk din skærm og bare gå.

Mobiltelefonforbudet har skabt en bestemt form for mørk komedie i Austin-kontoret

Google tilbyder sine entreprenører dramatisk mere nedetid end Facebook, som beder sine moderatorer om at nøjes med to 15-minutters pauser, en 30-minutters frokost og kun ni minutter om dagen med wellness-tid. (Facebook siger, at med træning og coaching ser moderatorerne indhold omkring seks timer om dagen.)

Vi gennemgår, benchmarker og investerer løbende i vores wellness-programmer for at skabe et støttende arbejdsmiljø, fortalte Accenture mig i en erklæring. Vores medarbejdere i Austin har ubegrænset adgang til wellness-support, som inkluderer proaktiv rådgivning og on-demand-rådgivning, der understøttes af et stærkt medarbejderassistentprogram, og de opfordres til at rejse wellness-bekymringer gennem disse programmer.

Men hvis to timers wellness tid om dagen er det ideelle, er det ikke normen i Austin. Fire arbejdere fortalte mig, at de rutinemæssigt blev nægtet pausetid, da VE-køen fik særlig travlt. Begyndende for omkring seks måneder siden måtte de også begynde at opgive pausetiden for at nå deres udnyttelsesscore, hvilket er en måling af den tid, der aktivt bruges til at moderere videoer i løbet af dagen. Sporingssoftware installeret på deres computere registrerer hvert minut af video, de ser, med et mål på fem timer. Men andre kritiske arbejdsopgaver, såsom kontrol af e-mail eller deltagelse i teammøder, tæller ikke med i det mål, hvilket tvinger medarbejderne til regelmæssigt at spise deres pausetid for at kompensere for tabet.

Det falske løfte om forlænget pausetid i Austin er i overensstemmelse med det overordnede billede, som arbejdere har tegnet for mig på indholdsmoderationssider rundt om i verden. Når nye sider spindes op, samler ledere nye medarbejdere omkring deres ædle mission: at gøre Internettet sikkert for alle at bruge. Oprindeligt får entreprenørerne friheder, som fuldtidsansatte hos Google, Facebook og andre steder tager for givet: friheden til at gå på toilettet uden at bede om tilladelse, friheden til at spise mad ved deres skrivebord, friheden til at planlægge en ferie .

Der er så mange måder at misbruge dig på, hvis du ikke gør, hvad de kan lide

Efterhånden som månederne går, begynder leverandører som Accenture og Cognizant at få disse friheder tilbage, ofte med lidt forklaring. I Austin var det forbudt at spise ved dit skrivebord. Nogle ledere begyndte at spørge medarbejderne, hvorfor de brugte så lang tid på badeværelset. (De var måske væk seks eller syv minutter.) Arbejdere havde oprindeligt fået lov til at bringe personlige mobiltelefoner til deres skriveborde, men de mistede også den frihed tilsyneladende på grund af privatlivets fred.

windows 10 lyde

Mobiltelefonforbudet har skabt en bestemt form for mørk komedie i Austin-kontoret. Visse Accenture-tjenester kræver, at medarbejderne logger ind ved hjælp af to-faktor-godkendelse med udløbende koder sendt til medarbejdernes telefoner. Da Accenture forbød telefoner på produktionsgulvet, skal medarbejderne nu køre til skabene, hvor deres telefoner opbevares, og derefter løbe tilbage til deres skriveborde for at indtaste koden, inden den udløber. Accenture forbød også kuglepenne og papir ved medarbejderdeskene, så medarbejdere, der er bekymrede for, at de glemmer deres kode, skal hurtigt skrive på hænderne, før de låser deres telefoner op igen og løber tilbage til deres skrivebord. Arbejdere ses nu ofte sprint gennem kontoret med en række cifre, der er kradset rodet på håndfladerne.

To ansatte på Austin-webstedet fortalte mig, at de var blevet nægtet ferieanmodninger baseret på mængden af ​​terrorvideoer i køen. Andre blev overført til forskellige skift med ringe eller ingen forklaring. Og YouTubes moderatorer har ikke modtaget rejser i to år, selv ikke somAustins leje er blandt de hurtigst stigende i landet. (Accenture siger, at langt størstedelen af ​​arbejdstagerne modtager årlige forhøjelser.) Peter fortalte mig, at han bruger 50 procent af sin månedlige indkomst på husleje, hvor det meste af resten går til andre regninger. Livet i Austin bliver dyrere, siger han, men hans lønninger har ikke holdt trit.

De behandler os meget dårligt, siger Michael. Der er så mange måder at misbruge dig på, hvis du ikke gør, hvad de kan lide.

Da hun gik på orlov fra Google, begyndte Daisy at arbejde med en psykiater og en terapeut. Hun blev diagnosticeret med posttraumatisk stresslidelse og kronisk angst, og hun begyndte at tage antidepressiva.

I terapi lærte Daisy, at den faldende produktivitet, der frustrerede hendes ledere, ikke var hendes skyld. Hendes terapeut havde arbejdet med andre tidligere indholdsmoderatorer og forklaret, at folk reagerer forskelligt på gentagen eksponering for foruroligende billeder. Nogle overspiser og tager på i vægt. Nogle træner tvangsmæssigt. Nogle, som Daisy, oplever udmattelse og træthed.

Det lyder for mig som om dette ikke er enduproblem, dette er endemDaisy's terapeut fortalte hende, husker hun. De har ansvaret for dette. De skabte dette job. De skulle være i stand til ... at lægge ressourcer på at udføre dette job, hvilket aldrig bliver let - men i det mindste minimere disse effekter så meget som muligt.

Terapeuten foreslog, at Daisy fik en hund. Hun adopterede en border collie / australsk hyrdeblanding fra SPCA og navngav hende Stella efter at have fundet sig i at ringe efter hunden itil Brando-esque bælge. De tog et kursus sammen, hvor Stella trænede i at blive et følelsesmæssigt støttedyr, opmærksom på tegnene på Daisy's panikanfald og dygtige til at bringe hende roligt.

Daisy begyndte at tage Stella til UCSF Benioff Children's Hospital for at besøge syge børn. Over tid fandt hun ud af, at hun blev i stand til at interagere med børn igen uden at udløse et panikanfald. At se et barn kæledyr, som min hund, havde en dybtgående indflydelse på, hvordan jeg gik videre med mit forhold til børn, siger hun.

Hun er taknemmelig for, at hun, i modsætning til en entreprenør, kunne tage tid at få hjælp, mens hun stadig blev betalt. Jeg havde de måneder til at tænke på mine valg og tænke på udveje uden at skulle beskæftige mig med arbejdsløshed eller at skulle håndtere, hvordan jeg skal betale husleje, siger hun.

Et halvt år efter at have forladt Google vendte Daisy tilbage til sit job. Til sin forfærdelse fandt hun, at lidt om hendes leders tilgang var blevet ændret.

De tjekkede på mig, siger hun. De sagde: 'Hvordan går det? Hvordan har du det? Vi starter dig langsomt. ’Men slutspillet var stadig det samme, hvilket skulle bringe dig op til din [mål] produktivitet igen.

En uge efter hjemkomsten besluttede hun at ansøge om kandidatskole. Hun blev optaget på Fletcher School of Law and Diplomacy ved Tufts University, og tidligere i år fik hun en kandidatgrad. I dag er hun politiker ved R Street Institute, en ikke-partisisk tænketank. Hun fokuserer på børn og teknologi og trækker på sin tid hos Google for at informere lovgivere om børns privatliv, udnyttelse af børn og moderering af indhold.

Jeg vil bruge alt dette til at give næring til mit ønske om at foretage en ændring, siger Daisy.

I Austin, da Accenture satte forskellige nye begrænsninger på arbejdspladsen i gang, begyndte nogle at joke med hinanden om, at de blev eksperimenteret med. Du er bare en rotte, siger Peter. De prøver nye ting på dig.

For en lille gruppe entreprenører gælder dette bogstaveligt. Tidligere på året præsenterede Google et papir på konferencen om menneskelig beregning og Crowdsourcing. Papiret,Test af stilistiske indgreb for at mindske følelsesmæssig indvirkning af arbejdere med indholdsmoderering, beskrev to eksperimenter, som virksomheden havde gennemført med sine indholdsmoderatorer. I det ene indstillede virksomheden alle videoer til at blive vist i gråtoner - forstyrrende indhold i sort og hvid i stedet for farve. I den anden slørede det indhold som standard.

Forskere var interesserede i, om transformation af videoer og billeder kan mindske den følelsesmæssige indvirkning, de har på moderatorer.

En del af vores ansvar og vores forpligtelse over for alle vores teammedlemmer, der ser på dette indhold for at få dem til den bedst mulige support til at udføre deres job, fortalte Canegallo mig. Uanset hvad Google lærer om at forbedre forholdene for sine medarbejdere, vil det dele med branchen, sagde hun.

Gråtoneværktøjet blev stillet til rådighed for 76 moderatorer, der havde tilmeldt sig undersøgelsen. Moderatorer brugte to uger på at se på den almindelige, farvede kø og svarede derefter aspørgeskemaom deres humør. De tilbragte de næste to uger på at se på en gråtonekø og tog derefter spørgeskemaet igen.

Undersøgelsen viste, at præsentation af videoer i gråtoner førte korrekturlæsere til at rapportere væsentligt forbedrede stemninger - i det mindste for den uge.

Google-forskere har foreslået fremtidige undersøgelser, der undersøger den følelsesmæssige indvirkning på moderatorer af at ændre blodets farve til grøn

Det er lige så bemærkelsesværdigt, hvad virksomheden ikke tester: at begrænse mængden af ​​forstyrrende indhold, som enkelte moderatorer kan blive udsat for i en levetid; betalt medicinsk orlov til entreprenører, der udvikler PTSD; og tilbyde support til tidligere medarbejdere, der fortsat kæmper med langvarige psykiske problemer efter at have forladt jobbet.

I stedet gør Google, hvad teknologivirksomheder ofte gør: forsøger at anvende teknologiske løsninger på problemet. Virksomheden bygger maskinindlæringssystemer, som ledere håber en dag vil klare hovedparten af ​​arbejdet. I mellemtiden har Google-forskere foreslået fremtidige undersøgelser, der undersøger den følelsesmæssige indvirkning på moderatorer af at ændre blodets farve til grøn, andre kunstneriske transformationer af indhold og mere selektiv sløring - for eksempel på ansigter. (Facebook har allerede implementeret gråtoner og ansigt-sløring muligheder for sine moderatorer sammen med en mulighed for at slå lyden fra i videoer som standard.)

Men virksomheder har vidst i årevis nu, at medarbejdere søger lægehjælp for at håndtere jobrelateret traume. Det er slående, at en virksomhed med så store ressourcer som Google lige nu begynder at dykke i disse mindre, teknologibaserede indgreb, år efter at medarbejderne begyndte at rapportere diagnoser af PTSD til deres ledere.

Vi er nu to år i en stor udvidelse af indholdsmoderationsbranchen. Efterhånden som regeringer over hele verden stiller større krav til teknologivirksomhederne om at politi deres tjenester, har titusinder af mennesker tilmeldt sig jobbet. Behovet for moderatorer ser ud til at udvides, selvom nogle leverandører revurderer deres evne til at udføre arbejdet. I oktober meddelte Cognizant, at det ville forlade virksomheden i løbet af det næste år.

Samtidig mangler vi stadig en grundlæggende forståelse af, hvordan de sværeste aspekter af dette arbejde - fjernelse af grafisk og foruroligende indhold - påvirker de mennesker, der gør det. Vi ved, at en delmængde af mennesker, der arbejder i YouTubes voldelige ekstremismekø og lignende roller rundt om i verden, vil udvikle PTSD og relaterede forhold på jobbet. Vi ved ikke, hvad et sikkert eksponeringsniveau kan være.

Tekniske virksomhedsledere har en tendens til at beskrive dette spørgsmål for mig som et rekrutteringsproblem. Efter deres opfattelse er der arbejdere, der er modstandsdygtige over for uendelig vold og misbrug, og dem der ikke er det.

Men i mine samtaler i år med mere end 100 moderatorer hos virksomheder i alle størrelser synes det klart, at indholdsmoderatorsikkerhed ikke er et binært spørgsmål. Nogle arbejdere udvikler tidlige symptomer på PTSD i deres første par uger på jobbet. Andre udvikler dem efter at have udført arbejdet i årevis.

Du ved aldrig, hvornår du skal se den ting, du ikke kan se, før du ser den.

I sidste ende kan jeg ikke sige det mere tydeligt end Googles egne forskere: Der er ... en stigende bevidsthed og anerkendelse af, at ud over ren ubehag kan langvarig eller omfattende visning af sådant forstyrrende indhold have betydelige sundhedsmæssige konsekvenser for dem, der er involveret i sådanne opgaver.

Sådan rapporterede vi historien

I juni,Randenanmodet om historier fra folk, der arbejder eller har arbejdet som indholdsmoderatorer for Google og YouTube. I løbet af de næste fem måneder hørte Casey Newton fra 18 personer, der havde gjort jobbet, herunder en stor klynge, der arbejdede på et YouTube-moderationssted i Austin, Texas. I efteråret rejste han to gange til Austin for at mødes med nuværende og tidligere ansatte på stedet. Han rejste også to gange til Washington, DC for at mødes med Daisy Soderberg-Rivkin og fange hendes historie. Google afviste vores anmodning om at besøge Austin-webstedet, men det leverede to ledere til on-the-record interviews. Accenture besvarede skriftlige spørgsmål.

For nyere rapportering om indholdsmoderators liv anbefaler videt herWashington Postundersøgelse fokuseret på Filippinerne fra juli, Sarah Roberts 'bog Bag skærmen ogDavid Gilberts historie om en gruppe tidligere Facebook-moderatorer, der sagsøger selskabetVice .

Og alligevel frarådes arbejdere hos Google, som på Facebook, endda at diskutere disse konsekvenser. Ledere, der advarer dem om, at de let kan udskiftes, kombineret med de ikke-afsløringsaftaler, som de er tvunget til at underskrive, når de tager jobbet, fortsætter med at skjule deres arbejde.

Og da en del af dem synker ned i angst og depression, vil de få meget forskellig pleje baseret på, om de arbejder som fuldgyldige medarbejdere eller som entreprenører. Et relativt få, ligesom Daisy, vil være i stand til at tage måneders betalt lægeorlov. Andre, som en person, jeg talte med i Austin, vil fortsætte med at arbejde, indtil de er indlagt.

Stadig forbliver faktum: uanset hvor godt du får betalt, eller hvor gode fordelene er, kan det at ændre dig for evigt være en indholdsmoderator.

For nylig forklarede en medarbejder hos et af de store teknologivirksomheder mig begrebetgiftige skader- love, der giver folk mulighed for at sagsøge arbejdsgivere og boligbyggeri, hvis de udsætter sagsøger for usunde niveauer af et farligt kemikalie. Disse love er mulige, fordi vi har en videnskabelig forståelse af, hvordan visse kemikalier påvirker kroppen. Vi ved, at eksponering for blybaseret maling for eksempel kan forårsage hjerneskade, især hos børn. Vi ved, at udsættelse for asbest kan forårsage lungekræft. Og så etablerer vi et sikkert eksponeringsniveau og forsøger at holde arbejdsgivere og boligbyggerne på disse niveauer.

Måske vil vi aldrig være i stand til at bestemme et sikkert niveau af eksponering for forstyrrende indhold med samme grad af præcision. Men det forekommer bemærkelsesværdigt, at ingen af ​​de tekniske giganter, der ansætter titusinder af mennesker til at udføre dette arbejde, engang prøver.

Hvis det skal ændre sig, vil det være på grund af en kombination af kollektiv arbejdstagerhandling,sager om gruppesøgsmålog offentligt pres. Google-medarbejdere erførende inden for branchen i fortaler for deres entreprenørkollegers rettigheder, og jeg håber, at arbejdet fortsætter.

To år fjernet fra sin tid på Google, kæmper Daisy stadig med eftervirkningerne af det arbejde, hun udførte der. Hun har stadig lejlighedsvis panikanfald og tager antidepressiva for at stabilisere hendes humør.

Samtidig fortalte hun mig, at hun er taknemmelig for det faktum, at hun var i stand til at tage betalt lægeorlov for at tage fat på virkningerne af jobbet. Hun regner sig selv som en af ​​de heldige.

Vi har brug for så mange mennesker, som vi kan gøre dette arbejde, siger Daisy. Men vi er også nødt til at ændre det overordnede system og den overordnede struktur for, hvordan dette arbejde udføres. Hvordan vi støtter disse mennesker. Hvordan vi giver dem værktøjer og ressourcer til at håndtere disse ting. Ellers vil disse problemer kun blive værre.