Jättimäiseksi paisuneen Facebookin moderaattoreilla on mahdoton tehtävä pitää kurissa terroristit, kannibaalit ja muut vaaralliset henkilöt. Sisältöä poistetaan palvelusta tarkan ohjeistuksen perusteella.

Toim.huom: Tämä artikkeli julkaistiin Mikrobitti-lehdessä tammikuussa 2018, ennen kevään Facebook-skandaalin esilletuloa. Cambridge Analytican käyttämistä tiedoista alkunsa saaneen yksityisyyttä koskevan keskustelun seurauksena Facebook aloitti PR-kampanjan ja teki palveluunsa useita muutoksia. Sensuroinnista on sittemmin kerrottu aiempaa avoimemmin: lue lisää esimerkiksi artikkelista ”Näitä ei saa jakaa: Facebook paljasti pitkän listan sensuroitavista asioista”. Algoritmin toiminta on edelleen salaisuus.

Brittiläinen Guar­dian-lehti paljasti vuoden 2017 keväällä, mitä Facebookin sisäinen ohjekirja määrittelee kielletyksi ja sallituksi sisällöksi yhteisöpalvelussaan. Massiivista tietomäärää hallitseva ja kahden miljardin käyttäjänsä päivittäistä kommunikaatiota säätelevä Facebook toimii kuin Illuminati-salaseura. Se ei avoimesti perustele, miksi karmea väkivalta voi jäädä sivuille mutta naisen nännistä ei saa näkyä vilaustakaan.

Sisällön poistopäätökset eivät takuulla ole helppoja. Jokainen kuvan tai keskusteluketjun poisto rajoittaa sananvapautta, eikä Facebook haluaisi esiintyä maailman suurimpana sensuuritoimistona. Sellainen se kuitenkin on. Facebook ulottaa linjauksillaan amerikkalaisen moraalikäsityksensä kaikkialle maailmaan. Maasta ja kulttuurista riippuen linjaukset voivat olla liian vapaamielisiä tai liian ahdasmielisiä.

Facebook-moderaattorin vaikeaa tilannetta voi havainnollistaa ajatuskokeella: millaisia poistopäätöksiä itse tekisit seuraavissa tilanteissa?

Joku julkaisee piirroskuvan, jossa hakaristin päälle on lisätty Donald Trumpin kasvot Hitler-viiksillä täydennettynä. Saako jäädä? (Sai jäädä.)

Toisessa kuvassa aasialainen nainen polttaa seinäkoukussa riippuvan laihan koiran päätä. Otetaanko pois? (Ei otettu, koska kuva esitti ruoan käsittelyä.)

Entä piirroskuva Osama bin Ladenista? (Poistettiin, koska se esitti terroristijärjestön johtajaa.)

Pahannäköinen kuva tietokonepelistä, jossa vastustaja on ammuttu veriseksi mössöksi? (Sai jäädä, koska kyse oli fiktiosta.)

Nämä ovat esimerkkejä Facebookin ratkaisuista, joita Guardian esitteli laajassa Facebook Files -juttukokonaisuudessaan. Lehti sai nähtäväkseen yli sata yhteisöpalvelun sisäistä koulutusopasta, taulukkoa ja kaaviokuvaa, joista selviävät palvelun salaiset ohjeistukset muun muassa väkivaltaan, vihapuheeseen, terrorismiin, pornogra­fiaan, rasismiin ja itsetuhoiseen käytökseen.

Lehden mukaan Facebookilla on sisäinen ohjeistus jopa urheilun sopupelien ja kannibalismin varalta.

Alastomuus on Facebookille erityisen hankala asia. Juuri alastomuuteen liittyvissä tabuissa kulttuurierot näkyvät selvimmin.

Syyskuussa 2016 nousi kohu Facebookin päätöksestä poistaa historiallinen ”napalmityttökuva”, jossa alaston lapsi juoksee tuskissaan kohti kameraa Vietnamin sodassa 1972. Valokuvaaja Nick Ut sai New York Timesissa julkaistusta kuvastaan Pulitzerin palkinnon, mutta joka puolella maailmaa julkaistu kuva rikkoi Facebookin yhteisönormeja yli 40 vuotta myöhemmin.

Norjalainen kirjailija Tom Egeland kirjoitti tuolloin Facebookissa seitsemästä valokuvasta, jotka muuttivat sodankäynnin historiaa, ja liitti yhdeksi kuvaksi napalmitytön. Egeland sai alastonkuvan vuoksi väliaikaisen käyttökiellon Facebookiin, ja tapauksesta uutisoinut norjalainen sanomalehti Aftenposten määräyksen joko poistaa tai sumentaa valokuvan. Pian tämän jälkeen FB poisti myös lehden julkaiseman kuvan.

Tapauksen jälkipuinnin seurauksena Facebook vaikuttaisi päivittäneen alastomuutta koskevaa ohjeistustaan. Guardianin mukaan palvelu sallii nyt poikkeuksia, joilla on uutisarvoa, mutta ei edelleenkään hyväksy holokaustiin liittyviä kuvia alastomista lapsista. Sen sijaan muut juutalaisvainoihin liittyvät kuvat alastomista uhreista ovat sallittuja, jos kuvat on otettu esimerkiksi keskitysleireiltä.

Vielä vaikeammaksi menee, jos kuvat ovat luonteeltaan seksuaalisia. Medialle vuodetun ohjeistuksen mukaan kuvissa sallittua seksuaalista toimintaa ovat esimerkiksi vaatteet päällä tapahtuva seksin näytteleminen ja suu auki suuteleminen. Myös aikuisten keskenään harrastamaa seksiä voidaan näyttää, jos kriittiset kohdat on kunnolla peitetty.

Kiellettyä on muun muassa eritteiden tai paljaiden tai verhoiltujen sukuelinten esittely, seksi­lelujen kanssa tapahtuvan aktin näyttäminen ja naisten paljaat rinnat. Miesten nänneihin ei puututa. Facebookin sisäiset ohjeet ovat näiltä osin varsin yksityiskohtaiset, jotta tulkinnanvaraa jäisi mahdollisimman vähän. Muun muassa sallittu ja kielletty hyväily sekä epäsiveellinen kielenkäyttö on määritelty monin esimerkein.

Erityisesti taiteellisen alastomuuden määrittelyssä Facebook piirtelee viivoja veteen. Tiukkoja normeja on hieman höllennetty, mutta digitekniikka tuottaa päänvaivaa. Kaikki piirretty, maalattu tai veistetty sekä digitaalisesti luotu alastomuus on nykyisin sallittua, samoin ei-digitaalinen seksi maalauksissa ja piirroksissa, mutta digitaalisesti luotu seksuaalinen toiminta pitää poistaa palvelusta. Facebookin mukaan syynä on yhä hurjemmaksi käyvä digitaalisesti tuotettu seksi, joka on ilmeisesti liian aidon oloista.

Amerikkalaisten ohjeet ja esimerkit Facebookissa kielletystä seksuaalisesta sisällöstä olivat niin ronskeja, ettei niitä kaikkia voinut julkaista brittiläisessä sanomalehdessä.

Kansainvälisen sananvapausjärjestön PENin hallituksen johtoryhmäläinen Jarkko Tontti on juristina perehtynyt ihmisoikeus- ja sananvapauskysymyksiin.

”Minua on alusta alkaen häirinnyt Facebookissa se, että on olemassa sääntöjä, jotka eivät ole julkisia mutta joita ihmisten pitäisi noudattaa”, Tontti kommentoi medialle vuodettua aineistoa.

Häntä askarruttaa, miksi Facebook ei julkaise itse omia ohjeistuksiaan.

”Onko ongelma siinä, että he muuttelevat omia sääntöjään palautteen perusteella? Avoimuus olisi kuitenkin tärkeää.”

Facebookin sisäiset ohjeistukset, joita Tontti kutsuu itsesääntelyksi, ovat hänen mielestään joskus ristiriidassa tehtyjen ratkaisujen kanssa. Tällöin itsesääntely ei hänen mielestään toimi, ja voidaan tarvita lainsäädännöllisiä toimia. Sananvapauden rajoitusten pitäisi kuitenkin koskea vain selvästi vakavia tilanteita.

Tontin mielestä rikosoikeudellinen seuraus voi olla paikallaan, jos selvästi rikollinen aineisto on verkossa pitkään.

”Jos terroristit kannustavat murhaamaan ihmisiä, se pitää tietenkin poistaa. Epäselvissä raja­tapauk­sissa kallistuisin sananvapauden puolelle.”

Tontin silmään pisti Facebookin ohjeistuksissa se, että lapsiin kohdistuvaa kaltoinkohtelua ja kiusaamista ei välttämättä poisteta näkyviltä sen vuoksi, että epäkohtaan voitaisiin puuttua.

”Tämä ei tunnu kestävältä perustelulta, etenkin kun Facebook on myös bisnestä. Julkisuuden tuoma häpeä on kiusatulle lisäkärsimys. Tällaisen hyväksyminen on merkki siitä, että jollain tavoin Facebook pitäisi ottaa sääntelyn piiriin.”

Facebookin haluttomuus kertoa avoimesti sisältölinjauksistaan voi liittyä siihen, että yh­tiö tapaa puhua itsestään teknologiayhtiönä ja julkaisualustana eikä sisältöpäätöksiä tekevänä mediayhtiönä. Jos palvelu myöntäisi olevansa media, sen pitäisi kantaa myös julkaisijan vastuu sisältöjensä laillisuudesta ja tekemistään ratkaisuista.

Sen puolesta, että Facebook on media, puhuu moni seikka.

Ensinnäkin Facebook saa tulonsa mainonnasta ja toimii samoilla mainosmarkkinoilla kuin perinteinen media, jolta se on myös kaapannut merkittävän osan tuotoista. Facebookin tavoin osa kaupallisesta mediastakin toimii pelkästään mainonnasta saatavan rahoituksen varassa.

Facebook on palkannut tuhansittain ihmisiä moderoimaan sisältöä eli tekemään saamiensa ohjeiden perusteella nopeita päätöksiä siitä, mikä saa jäädä, mikä ei. Tämä on samanlaista toimituksellista editointia kuin mediatalojen nettikeskustelujen jälkimoderointi.

Facebookilla on hallussaan yksityiset valo­kuvamme ja videomme, joista FB tehtailee lupaa kysymättä hauskoja animaatioita ja koosteita vuoden loppuessa ja vuosipäivinä. Mitä tämä on, jos ei sisällön toimittamista?

Systeemin sydän on uutissyöte, jossa näkyviä asioita säätelee algoritmi. Uutissyöte on käyttäjälle automaattisesti luotu kooste hänen seuraamiensa kohteiden ja henkilöiden tuottamasta sisällöstä, mutta algoritmi tekee etukäteisvalinnan, mitä käyttäjälle näytetään ja mikä suodatetaan runsaudenpulan vuoksi pois.

Algoritmi ja sen toimintaperiaate ovat salaisia. Muutokset algoritmissa näkyvät käyttäjälle yleensä tuttujen asioiden katoamisena ja uusien aiheiden korostumisena. Voi olla, että kaikkia muutoksia ei tiedosteta ollenkaan.

Algoritmitkaan eivät toimi ilman ihmisen tekemiä valintoja ja painotuksia. Syksyllä 2016 Facebook irtisanoi lähestulkoon kaikki Trending Topics -toiminnoistaan vastanneet työntekijät eli kuraattorit, jotka Gizmodo-verkkojulkaisun paljastuksen mukaan sorkkivat palvelun ”trendaavia” uutisaiheita ja estivät konservatiivilukijoita kiinnostavien poliittisten aiheiden nousun listoille. Heidän oli myös käsketty poimia käsin uutisia ja sijoittaa niitä suosittujen aiheiden osioon, vaikka niillä ei olisi ollut sinne vaadittua nostetta. Työntekijät kertoivat Gizmodolle, että Facebookia itseään koskevat uutiset piti jättää osiosta kokonaan pois.

Kuraattorien tehtävänä oli kirjoittaa otsikoita ja tiivistelmiä uutisaiheista sekä liittää mukaan linkkejä uutissivustoille. Perinteisessä mediassa tällaista kuraattoria kutsuttaisiin toimittajaksi, mutta koska Facebook ei ole media, se ei tee nin.

Keitä sitten kuuluu tähän salaseuraan, jotka valvovat nuhteettomuuttamme? Osaavatko moderaattorit suomea? Missä FB:n ylläpito sijaitsee? Onko siellä ylipäätään oikeita ihmisiä? Yhteystietoja ei löydy kenellekään, ja ylläpidosta tulevat viestit vaikuttavat automaattisesti luoduilta.

Oikeita facebookilaisia ovat tavanneet monet liike-elämässä ja mediassa työskentelevät suomalaiset. Kyselykierros osoittaa, että kontaktit ovat kuitenkin yleensä Facebookin myynti-, pr-, tutkimus- tai lakiosaston puolella.

Suuria mainostaja-asiakkaita ja yhteistyökumppaneitaan Facebook tapaa säännöllisesti myös Suomessa. Sen sijaan tavallista, tuntematonta Facebook-moderaattoria ei kukaan tiedä tavanneensa.

Facebookin sisällön arvioijien armeija on sijoitettu eri puolille maailmaa, mutta yhtiö ei kerro minne. Suurin osa moderaattoreista työskentelee alihankkijoina, mutta yhtiöllä on myös pieni talon sisäinen moderointiosasto. Moderaattorit saavat kahden viikon koulutuksen ja avukseeen Kalifornian-pääkonttorissa laaditut manuaalit.

Todennäköisesti joukossa on myös suomenkielisiä työntekijöitä. Ylläpito ei vain esiinny nimillään, mihin lienee myös turvallisuussyitä.

Moni on turhautunut siihen, ettei ylläpito reagoi selvästi loukkaavaan tai jopa laittomaan sisältöön. Yksi Facebookin myyttisen ylläpidon kasvottomuuteen törmännyt on helsinkiläinen Laura Huurtola, jonka kokemuksista Helsingin Sanomat kertoi kesällä. K-kauppiaana työskentelevää Huurtolaa oli jo kahden vuoden ajan kiusannut Facebookissa kiertänyt nettikasinon mainos, johon oli otettu luvatta Huurtolan kuva ja nimetty hänet nettipelissä yli 600 000 euroa voittaneeksi ”Jasmiina Ruunaksi”.

Valeuutisia vastaan kamppailuun käynyt Facebook ei kuitenkaan nähnyt mitään ongelmaa Huurtolan identiteetin varastamisessa kasinon mainoskasvoksi. Yhteyttä oikeaan Facebook-ihmiseen Huurtola ei saanut ensin ollenkaan.

”Kesko oli sinne sitten yhteydessä. Jossain vaiheessa sieltä tuli lopulta sähköpostia joltain oikealta ihmiseltä englanniksi”, Huurtola kertoo.

”Ne vaativat hirveän tarkasti ip-osoitteet ja kellonajat, milloin tämä mainos oli ilmestynyt, mutta minä en ollut niitä nähnyt vaan kaverini. Rikosilmoitusta en lopulta tehnyt.”

Viime aikoina Huurtola ei ole saanut ilmoituksia Jasmiina Ruunasta, joten kenties sinnikäs yhteydenottaminen ylläpitoon tuotti sittenkin toivotun lopputuloksen.

Facebookin seulottava sisältömassa paisuu kuin hulluksi tullut pullataikina. Avuksi tarvitaan lisää ihmistyövoimaa ja uutta tekniikkaa. Tavallisen teksti- ja kuvasisällön tunnistamisen lisäksi pitäisi pystyä reagoimaan live-lähetyksiin.

Facebookin luoja Mark Zuckerberg ilmoitti viime keväänä, että yhtiö suunnittelee 3 000 uuden moderaattorin palkkaamista entisten 4 500 lisäksi. Syynä oli yhtiöön kohdistunut kova paine, kun thaimaalainen mies murhasi tyttövauvansa suorassa Facebook Live -lähetyksessä ja lähetys saatiin pois vasta vuorokausi teon jälkeen.

Guardianin paljastamista dokumenteista selviää myös, että Facebook on perustanut viranomaisia varten vasteyksikön, joka käsittelee poliisin ja turvallisuuspalveluiden pyyntöjä.

”Siinä työssä ei ollut mitään nautinnollista. Menin töihin joka aamu kello 9, avasin tietokoneen ja katsoin, kuinka ihmisiltä leikataan pää irti. Joka päivä, joka minuutti tätä samaa – päiden leikkaamista”, tilitti yksi Guardianin haastattelema nimetön mies, joka oli työskennellyt Facebookin moderaattorina.

Osa ilmiantojen seulonnasta tapahtuu koneellisesti. Facebook kertoi Guardianille käyttävänsä tietokoneohjelmistoa erityisesti lasten seksuaalisen hyväksikäytön ja terrorismin tunnistamiseen ja torjuntaan jo ennen kuin tällaista sisältöä päästetään julki.

Moderaattori kertoi tienanneensa koulutusjakson jälkeen vajaat 13 euroa tunnilta terroristien tuottaman sisällön poistamisesta. Murhien lisäksi tarjolla oli eläimiin sekaantumista ja lasten seksuaalista hyväksikäyttöä. Työntekijän mukaan sisällön katselu oli niin rankkaa, että monien työntekijöiden piti hakeutua terapiaan. Jotkut eivät saaneet unta tai näkivät painajaisia.

Facebookin mukaan työntekijöille tarjotaan psykologin tukea ja hyvinvointipalveluita, mutta lehden haastattelemat työntekijät eivät pidä tukea ollenkaan riittävänä.

Kauaksi on tultu siitä, kun vuonna 2003 Mark Zuckerberg suunnitteli Facebookin edeltäjän, FaceMashin, opiskelijakavereidensa ulkonäön vertailua varten. Mitähän hän olisi tehnyt, jos olisi aavistanut, että nuorukaisten harmittomasta viihdykkeestä kasvaisi vielä ihmismielen alitajunnan pimeimmistä syövereistä kurkottava hirviö, jota olisi mahdotonta pitää kurissa?

Oletko työskennellyt itse Facebookin moderaattorina tai tunnetko jonkun suomenkielisen FB-moderaattorin? Vinkkaa toimitukselle osoitteeseen mikrobitti@almamedia.fi – teemme juttua!

Kiellettyä vai sallittua väkivaltaa?

Ok

Ihmisten väkivaltaista kuolemaa (murhat, onnettomuudet, itsemurhat) esittävät videot, joihin ei liity ilkamointia. Videot estetään alle 18-vuotiailta, automaattinen käynnistys poistetaan ja aikuisille lisätään varoitus sisällöstä.

Kuolemanrangaistuksen kannattaminen.

Kuolemaantuomitun rangaistuksesta riemuitseminen.

Kuvat silpomisista voivat joskus liittyä hirmutekojen dokumentoimiseen ja ovat silloin ok.

Lääketieteellinen leikkely.

Aborttivideot, jos ne eivät sisällä alastomuutta.

Ei ok

Kuvat ja videot, joissa ihmiset kuolevat tai ovat loukkaantuneita ja kuviin liittyy myös sadismia tai ilkamointia.

Yksityiskohtainen väkivalta: kärsimyksestä ja nöyryyttämisestä nauttiminen, seksuaaliset reaktiot kärsimykseen.

Silpomisvideot poistetaan aina, kuviin lisätään varoitukset.

Lähde: Facebookin sisäiset ohjeistukset/Guardianin Facebook Files

Vihapuheen vaikea rajaus

Vihapuhetta ei hyväksytä, mutta sen rajaaminen on vaikeaa. Kiellettyjä ovat yksilöiden tai ryhmien hyökkäykset FB:n suojatuiksi määrittelemiä kategorioita vastaan. Vihapuheelta suojattuja kategorioita ovat yksilöt, ryhmät ja kansalaiset. Maahanmuuttajat (siirtolaiset, pakolaiset, turvapaikanhakijat) ja maahanmuutto ovat vain osittain suojattuja, koska FB pitää aihetta tärkeänä poliittisen keskustelun kannalta.

Suojattuja

Uskonnon kannattajat eli esimerkiksi muslimeihin yksilöinä tai ryhmänä ei voi kohdistaa vihapuhetta, mutta islaminuskoa saa vihata.

Homoseksuaalit ja muut seksuaaliset orientaatiot, mutta esimerkiksi homoksi kutsuminen on sallittua.

Maahanmuuttajiin kohdistuvat väkivaltaiset ja ihmisarvoa alentavat kommentit poistetaan.

Holokaustin kieltäminen johtaa ip-osoitteen blokkaamiseen.

Ylemmyyden osoittaminen samalla, kun toista suojattua kategoriaa pidetään alempiarvoisena (”Irlantilaiset ovat parhaita mutta ranskalaiset ovat todella syvältä”).

Ei suojattuja

Instituutiot, valtiot, ajattelutavat ja uskomukset.

Uskonnot, yhteiskuntaluokat ja poliittiset ideologiat. Esimerkiksi rikkaita tai kommunisteja voi arvostella kärjekkäästikin.

Ihmisen ulkonäkö.

Maahanmuuttajiin ja maahanmuuttoon kohdistuva arvostelu, yleistykset, kiroaminen ja vaatimukset maasta poistamiseksi ovat sallittuja. Maahanmuuttajia saa kutsua esimerkiksi varkaiksi.

Lähde: Facebookin sisäiset ohjeistukset / Guardianin Facebook Files

Eläimiin kohdistuva julmuus

Ok

Eläinten kaltoinkohtelua esittävät kuvat ja videot yleensä sallitaan, jotta epäkohta saisi huomiota. Erittäin järkyttävään sisältöön saatetaan lisätä varoituksia yleisölle.

Kuvat ruhjotuista tai hakatuista eläimistä.

Kuvat sairaista tai nääntyneistä eläimistä.

Metsästykseen, kalastukseen sekä ruoanvalmistukseen ja -prosessointiin liittyvät eläinten leikkelykuvat.

Ei ok

Kuvat ja videot, joissa eläimet kuolevat tai ovat loukkaantuneita ja kuviin liittyy myös sadismia tai ilkamointia.

Lähde: Facebookin sisäiset ohjeistukset/Guardianin Facebook Files

Saksa otti tiukan linjan some-vihaan

Saksan uusi tiukka laki netin vihapuheen suitsimisesta on herättänyt kuohuntaa. NetzDG-niminen laki määrää jopa 50 miljoonan euron sakot rasistisesta some-kommentoinnista sosiaalisen median alustoja ylläpitäville yrityksille, jos ne eivät poista laitonta sisältöä vuorokauden kuluessa tiedon saamisesta. Lievemmissä tapauksissa riittää viikon reagointiaika.

Tammikuun alussa Twitter blokkasi oikeistopopulistisen kansanedustajan, joka oli suuttunut Kölnin poliisin arabiankielisestä uudenvuodentoivotuksesta Twitterissä. Pian tämän jälkeen Twitter blokkasi myös saksalaisen satiirilehti Titanicin, kun se tviittasi samasta aiheesta.

Jälkimmäisen tapauksen vuoksi Saksan journalistiliitto on vaatinut lain kumoamista. Ongelmallisena on pidetty muun muassa sitä, että tulkinnat sananvapaudesta ja valeuutisista ulkoistetaan nyt oikeusistuimilta suurille some-yhtiöille.

NetzDG-laki koskee Facebookin, YouTuben ja Twitterin kaltaisia some-alustoja mutta myös pienempiä julkaisijoita, kuten Redditiä, Flickriä ja Vimeota, jos niillä on Saksassa yli kaksi miljoonaa käyttäjää. Sakkoja on voinut saada tämän vuoden alusta lähtien, mutta vielä ei ole tullut julkisuuteen yhtään sakotettua tapausta. Lakia valvomaan on varattu viidenkymmenen henkilön työpanos.

Facebook on joutunut Saksassa myös kilpailuviranomaisten hampaisiin. Kilpailuvirasto ilmoitti joulukuussa, että se aloittaa tutkinnan Facebookin epäillystä markkina-aseman väärinkäytöstä. Viranomaiset epäilevät Facebookin keräävän lainvastaisesti tietoja internetin ja sosiaalisen median käyttäjistä kaikkialla verkossa ja hyödyntävän tietoja myydessään verkkomainontaa.