Tajné dokumenty: Zdá se, že Facebook přináší funkce a zvyšuje bezpečnost uživatelů

Facebook, 13letý monstrum s 1,23 miliardami aktivních uživatelů, generuje tržby přes 8 miliard $ za čtvrtletí - z toho 3 miliardy $ je čistý příjem (např. Zisk).

Ale s tolika uživateli se zdá, že Facebook odsunul bezpečnost uživatelů na druhořadý problém. Až do začátku tohoto roku zaměstnával Facebook na kontrolu obsahu pouze 4 500 lidí. Což zní jako spousta lidí, dokud si neuvědomíte, že těch 1,23 miliardy aktivních uživatelů sdílí miliardy obsahu každý den s miliony stížností uživatelů na obsah Facebooku každý den.

Má Facebook vážný problém s bezpečností uživatelů? Právě zveřejněno Strážce kontrola tajemství, interní dokumenty naznačují, že se jeho problém vymkl kontrole.

Facebook uznal, že má nějaký problém, když počátkem letošního roku souhlasil s téměř dvojnásobným zdvojnásobením svých zaměstnanců na kontrolu - na 7 500 - kvůli obviněním, že společnost prostě nedělá (nebo se o to vůbec nestará?), Když se na její platformě obchoduje s potenciálně škodlivým obsahem. . Nezdvojnásobíte svůj moderátorský štáb, pokud je vše podivné.

Nyní, The (UK) Guardian zveřejnil úžasné podrobnosti pokynů pro moderování obsahu Facebooku, vyřazené z více než 100 tajných, interních výcvikových příruček a dokumentace. Je trochu znepokojující, že všechny tyto důležité věci nejsou obsaženy v jediné příručce poskytované moderátorům Facebooku, když jsou najati.Místo toho se zdá, že jde o částečný přístup k politice, což má za následek to, co se jeví jako protichůdné informace, nerovnoměrné umírněnost a velmi malá spolehlivost ve způsobu, jakým jeho moderátorské politiky skutečně fungují v reálném světě.

"Facebook si nemůže udržet kontrolu nad svým obsahem," uvedl jeden zdroj. "Stala se příliš velká, příliš rychle."

Mnoho moderátorů má obavy z nekonzistence a zvláštnosti některých zásad. Například o sexuálním obsahu se říká, že jsou nejsložitější a nejasnější.

Články uvádějí pouze jeden malý příklad toho, kolik obsahu Facebook moderuje, „Jeden dokument uvádí, že Facebook týdně kontroluje více než 6,5 milionu zpráv týkajících se potenciálně falešných účtů - známých jako FNRP (falešná, ne skutečná osoba).“ A to jen pro falešné účty. Představte si, kolik milionů dalších přehledů je pro skutečný obsah.

Funkce před myšlenkou

Než se začne uvažovat o tom, jak by lidé mohli použít (a zneužít) novou funkci, zdá se, že Facebook upřednostňuje postupování věcí a zjišťuje, jak to moderovat. Podívejte se na Facebook Live, službu streamování videa, která lidem umožňuje natáčet, co se v jejich životě právě děje. K čemu si mysleli, že to lidé nakonec využijí?

"Současně byla funkce živého vysílání Facebooku použita k vysílání vražd a sebevražd, přičemž společnost zjevně nebyla schopna preventivně zastavit streamy." Duh! Většina společností by si pravděpodobně před spuštěním něčeho takového myslela: „Hele, potřebujeme způsob, jak okamžitě nahlásit tak problematická videa a nechat je přerušit.“ Zjevně ne Facebook.

To ukazuje na důsledný nedostatek přemýšlení o problémech a jejich proaktivním řešení dříve, než nastanou. Nebo se mýlí na straně: „Hej, pojďme se s tím vypořádat a uvidíme, jaký rozruch se to stane, než s tím něco uděláme.“ (Vše ve jménu „svobody projevu“, samozřejmě, bez ohledu na to, že Facebook je globální platforma.) 1

Kam jsem dal ten moderátorský pokyn znovu?

Zajištění bezpečí vaší komunity začíná tím, že se najme dostatek moderátorů, aby byla jejich práce příjemná a ne ohromující. Je zřejmé, že Facebook to nedokázal a zároveň si užíval rekordního růstu uživatelů, výnosů a zisků. Ale také to zahrnuje mít zmocněné vedení moderování komunity, které zajistí, že vše, co potřebují k výkonu své práce, je na jednom místě. Facebook až nyní zjevně hlouběji přemýšlí o potřebě lepších nástrojů, tvrdí jejich mluvčí: „Kromě investic do více lidí budujeme také lepší nástroje, abychom udrželi naši komunitu v bezpečí,“ řekla The Guardian. "Usnadníme nám hlášení problémů, rychleji pro naše recenzenty, aby určili, které příspěvky porušují naše standardy, a pro ně bude snazší kontaktovat donucovací orgány, pokud někdo potřebuje pomoc."

A možná je všechny dát do jediného manuálu? Moderátoři tedy vědí, kde hledat, a aby byly všechny pokyny konzistentní?

Videa o sebepoškozování jsou ve světě Facebooku naprosto v pořádku, protože osoba je „v nouzi“. Stejně tak týrání zvířat (možná proto, že je zvíře v nouzi?). „Pomsta porno“ je také v pořádku, pokud moderátor nemůže potvrdit nedostatek souhlasu obou stran (což si myslím, že by mohlo být docela těžké udělat včas).

"Některé fotografie sexuálního zneužívání a šikany dětí nemusí být mazány nebo" činěny ", pokud v nich není sadistický nebo slavnostní prvek." Dokud ze svých násilných snímků a videí nebudete mít sadismus a oslavy, zřejmě jim to Facebook umožní.

Podle dokumentů „Videa násilných úmrtí jsou znepokojující, ale mohou pomoci zvýšit povědomí. U videí si myslíme, že nezletilí potřebují ochranu a dospělí si musí vybrat. Označujeme jako „znepokojující“ videa násilných úmrtí lidí. “ Není jasné, kam spadá sebevražedný obsah - například živá videa nebo hrozby - do zásad moderování Facebooku, ale zdá se, že je to povoleno.

Facebook musí upřednostňovat bezpečnost uživatelů

Někteří požadují přísnější regulaci Facebooku, protože je strážcem veškerého tohoto obsahu (podobně jako televizní hlasatel je strážcem obsahu ve své síti):

Ve zprávě britských poslanců zveřejněné 1. května se uvádí, že „největší a nejbohatší společnosti v oblasti sociálních médií jsou hanebně daleko od přijetí dostatečných opatření k řešení nelegálního nebo nebezpečného obsahu, k zavedení vhodných komunitních standardů nebo k zajištění bezpečnosti svých uživatelů“.

Chyba na straně „svobody projevu“ se může zdát jako dobrý nápad, zejména pro americkou společnost. Ale sociální sítě jsou primárně online komunity - nejsou moc podobné novinám. Primárním účelem Facebooku je spojovat lidi navzájem. Z toho vyplývá, že jejich pokyny by více odrážely tuto rozmanitost a byly navrženy pro bezpečnost této komunity, spíše než nějaký druh mantry pro vydávání zpráv nebo prázdná ideologie.

Chtěli bychom, aby byl Facebook transparentnější, pokud jde o způsoby, jak každý den moderuje miliony lidí a obsahu. Vrhání většího světla na tyto problémy pomáhá poukázat na problémy a dává Facebooku příležitost zlepšit bezpečnost své komunity. A rádi bychom viděli, jak Facebook orazí mnohem více svých příjmů, aby zajistil, že má dostatek zaměstnanců, aby udržel svoji platformu v bezpečí. Pro všechny uživatele.

Pro další informace

Poznámky pod čarou:

1. A všimněte si, že pokud máte na Facebooku dalších 100 000 následovníků, v jejich očích z vás uděláte „veřejnou postavu“ - a nepodléhá soukromí ani jiné ochraně obyčejných lidí. [↩]