Jak je Squishy etika Facebooku dostala do potíží
To je to, co „datový vědec“ Facebooku Adam D.I. Kramer dělal v neděli, když zveřejnil aktualizaci stavu na své vlastní stránce na Facebooku a snažil se vysvětlit, proč Facebook provedl špatný experiment a manipuloval - více než obvykle - s tím, co lidé viděli ve svém zpravodajském kanálu.
Pro humor v úterý ráno se podívejme na to, co Kramer řekl v neděli, oproti tomu, co napsal ve studii.
Začněme zkoumáním proklamované motivace ke studiu, kterou nyní Kramer odhalil:
Cítili jsme, že je důležité prozkoumat společnou obavu, že vidění přátel zveřejňovat pozitivní obsah vede k tomu, že se lidé budou cítit negativně nebo vynecháni. Zároveň nás znepokojovalo, že vystavení negativitě přátel může vést lidi k tomu, aby se vyhnuli návštěvě Facebooku
K čemu? Manipulovali byste s novinkami ještě dále, aby se zdálo, že život každého člověka je třešničkou na zmrzlinovém poháru, a omezujete zobrazování negativního obsahu?
Nemá smysl, aby se o to neziskové společnosti staralo, ledaže by mohla mít nějaký přijatelný výsledek. A jakýkoli proveditelný výsledek této studie by způsobil, že se Facebook bude zdát ještě méně propojený se skutečným světem, než je tomu dnes.2 Ve studii (Kramer et al., 2014) vědci tvrdili, že jejich experiment byl široký a manipulativní:
Ukážeme prostřednictvím masivního (N = 689 003) experimentu na Facebooku…
Experiment manipuloval s tím, do jaké míry byli lidé (N = 689 003) vystaveni emocionálním projevům ve svém kanálu News Feed. […] Byly provedeny dva paralelní experimenty zaměřené na pozitivní a negativní emoce: Jeden, ve kterém byla snížena expozice pozitivním emočním obsahem přátel v jejich News Feed, a jeden, ve kterém byla expozice negativním emocionálním obsahem v jejich News Feed
snížena.V těchto podmínkách, když si člověk načetl svůj News Feed, příspěvky, které obsahovaly emocionální obsah příslušné emoční valence, měl každý emocionální příspěvek mezi 10% a
90% šance (na základě jejich ID uživatele), že budou vynecháni z jejich News Feed pro konkrétní zobrazení.
Pokud jste byli součástí experimentu, příspěvky s emocionálním obsahem obsahovaly až 90 procentní šanci, že budou z vašeho zpravodajského zdroje vynechány. V mých a v knihách většiny lidí to tak je docela manipulativní.
Nyní se podívejte, jak Kramer (aka Danger Muffin) minimalizuje dopad experimentu ve svém vysvětlení zveřejněném na Facebooku:
Pokud jde o metodologii, náš výzkum se snažil prozkoumat výše uvedené tvrzení velmi minimálním zrušením priority malého procenta obsahu v News Feed (na základě toho, zda v příspěvku bylo emocionální slovo) pro skupinu lidí (asi 0,04% uživatelů, nebo 1 v 2500)…
Ah, přejdeme od „až k 90 procentní šanci“ k „velmi minimálnímu upřednostnění malého procenta obsahu“. Není to úžasné, jak kreativně lze charakterizovat přesně stejnou studii dvěma prakticky protichůdnými způsoby?
Bylo to významné nebo ne?
Samotná studie uvádí několik tvrzení a závěrů o významu a dopadu jejich zjištění (navzdory absurdně malým velikostem účinků). Všechny tyto nepříjemné, nepřesahující tvrzení nějakým způsobem prošly recenzenty deníků PNAS (kteří museli spát, když tento papír orazítkovali) a bylo jim umožněno bez kvalifikace stát.
V Kramerově vysvětlení zveřejněném v neděli naznačuje, že jejich data stejně nenalezla nic, čeho by se lidé měli obávat:
A na konci dne bylo skutečným dopadem na lidi v experimentu minimální množství, které jej statisticky zjistilo… 3
Což je v přímém rozporu s tvrzeními učiněnými v samotné studii:
Tyto výsledky naznačují, že emoce vyjádřené přáteli prostřednictvím online sociálních sítí ovlivňují naši vlastní náladu a představují podle našich znalostí první experimentální důkaz masové emoční nákazy prostřednictvím sociálních sítí […]
Online zprávy ovlivňují naše prožívání emocí, které mohou ovlivnit celou řadu offline chování.
Podívejte se - v těchto prohlášeních nejsou žádné kvalifikátory. Neříkám: „Ach, ale to by skutečně nemělo vliv na emoce jednotlivce.“ Podle mého názoru není úplný rozpor s tím, co nyní tvrdí jeden z výzkumníků.
Ale bylo to etické?
Spousta polemik je obklopen, zda tento druh další manipulace s vaším zpravodajským zdrojem na Facebooku je etická a zda je v pořádku vložit formulář globálního souhlasu s výzkumem do smlouvy o podmínkách služby na webu. (Facebook již pomocí svého algoritmu manipuluje s tím, co vidíte ve svém zpravodajském kanálu.)
Nejprve pojďme vyloučit argument červeného sledě ze způsobu, jakým tento výzkum není stejný jako interní výzkumné společnosti pro použitelnost nebo testování designu. Tento druh výzkumu není nikdy publikován a nikdy se neprovádí k prozkoumání vědeckých hypotéz o emočním chování člověka. Je to jako srovnávat jablka s pomeranči a naznačit, že jde o totéž.
Výzkum na lidských subjektech obecně musí být podepsán nezávislou třetí stranou zvanou Institucionální kontrolní výbor (IRB). Ty jsou obvykle umístěny na univerzitách a přezkoumávají veškerý výzkum prováděný vlastními výzkumníky univerzity, aby se zajistilo, že neporušuje věci jako zákon, lidská práva nebo lidská důstojnost. Ziskové společnosti, jako je Facebook, obecně nemají přesný ekvivalent IRB. Pokud studie na lidských subjektech nebyla přezkoumána IRB, zůstává otázka, zda byla etická nebo morální, otevřenou otázkou.
Zde je „datový vědec“ 4 Kramerova obrana designu výzkumu, jak je uvedeno ve studii:
[Data byla zpracována takovým způsobem], že vědci neviděli žádný text. Bylo to tedy v souladu se zásadami používání dat Facebooku, s nimiž všichni uživatelé souhlasí před vytvořením účtu na Facebooku, což představuje informovaný souhlas s tímto výzkumem.
Kašmír Hill však naznačuje, že politika používání údajů na Facebooku byla změněna 4 měsíce po provedení studie, aby výslovně umožnila „výzkumné“ využití údajů na Facebooku.
Také se zdálo, že se snažili získat souhlas IRB univerzity pro studium. Hill dříve uvedl, že Cornellův IRB tuto studii neposoudil.5 Žádný z výzkumníků nepokročil, aby vysvětlil, proč zjevně řekli editoru PNAS, že jej spustili univerzitním IRB.
Chris Chambers z britského Guadadu nabízí toto shrnutí smutné situace:
Tato situace je upřímně směšná. V jaké verzi roku 2014 je přijatelné, aby deníky, univerzity a vědci nabízeli lasičká slova a zahmlení v reakci na jednoduché otázky týkající se etiky výzkumu? Jak je přijatelné, aby etická komise rozhodla, že stejní autoři, kteří pomáhali Facebooku při navrhování intervenční studie ke změně emočního stavu více než 600 000 lidí, se nějak „přímo nepodíleli na výzkumu člověka“?
Třešnička na dortu: Neomluva
Kramer se neomluvil za provedení výzkumu bez informovaného souhlasu uživatele. Místo toho se omluvil způsob, jakým napsal výzkum:
Chápu, proč se o to někteří lidé obávají, a mně spoluautorům je velmi líto, jak tento článek popsal výzkum a jakoukoli úzkost, kterou způsobil.
Lidé vás naštvali, že jste provedli výzkum, naštvali jste, že jste provedli výzkum na nich bez jejich vědomí nebo souhlasu. A promiň Facebook, ale pohřbívání „souhlasu“ v tisících slov legálního mumbo-jumbo vás může legálně chránit, ale nechrání vás před zdravým rozumem. Nebo reakce lidí, když zjistí, že jste je používali jako morčata.
Lidé prostě chtějí smysluplný způsob, jak se odhlásit z vašich prováděných experimentů na nich a jejich zpravodajských zdrojích bez jejich vědomí nebo souhlasu.
Facebook to dnes nenabízí. Mám ale podezření, že pokud chce Facebook pokračovat v průzkumu této povahy, brzy nabídne tuto možnost svým uživatelům.
Případová studie etiky za celou dobu
Tato situace je dokonalým příkladem toho, jak neprovádět průzkum údajů vašich uživatelů bez jejich výslovného souhlasu. Na hodinách etiky se bude vyučovat po celá léta - a možná i desetiletí -.
Bude také fungovat jako případová studie toho, co jako sociální síť nedělat, pokud si chcete zachovat důvěru uživatelů.
Facebook by měl všem uživatelům nabídnout skutečnou omluvu za provedení tohoto druhu výzkumu bez jejich výslovného vědomí a svolení. Měli by také změnit své interní požadavky na výzkum, aby všechny studie prováděné na jejich uživatelích procházely externím univerzitním IRB.
Další čtení
Fiasko na Facebooku: Byla Cornellova studie „emoční nákazy“ porušením etiky?
Facebook přidal „průzkum“ ke smlouvě s uživatelem 4 měsíce po studii manipulace emocí
Odkaz
Kramer, ADI, Guillory, JE, Hancock, JT. (2014). Experimentální důkazy masové emoční nákazy prostřednictvím sociálních sítí. PNAS. www.pnas.org/cgi/doi/10.1073/pnas.1320040111
Poznámky pod čarou:
- Což nám již řekli ve studii: „Test, zda jsou příspěvky s emotivním obsahem poutavější.“ [↩]
- Facebook se zdá být méně spojen s mým skutečným životem, protože můj vlastní zpravodajský kanál se zdá být z velké části od příspěvků o životě lidí k „odkazům, které považuji za zajímavé“ - i když na tyto odkazy nikdy neklikám! [↩]
- Což je vědecký způsob, jak říci: „Náš experiment ve skutečnosti nenašel žádnou pozoruhodnou velikost účinku. Ale budeme troubit na výsledky, jako bychom to udělali (protože jsme skutečně našli deník, PNAS, dost na to, abychom ho publikovali!). “ [↩]
- K tomuto názvu používám uvozovky, protože všichni vědci a vědci jsou datoví vědci - to je to, čím se badatel odlišuje od vypravěče. [↩]
- Ve skutečnosti berou na vědomí, že Hancock, pojmenovaný autor článku, měl přístup pouze k výsledkům - dokonce ani ke skutečným datům! [↩]