Ani Facebook nerozumí algoritmům Facebooku

Po tom všem, co vycházelo z ukázky „falešných zpráv“, s laskavým svolením zpravodajského zdroje Facebooku - obsahu, který vidíte, když se přihlásíte na Facebook ze svého telefonu nebo notebooku - je jedna věc naprosto jasná. Ani Facebook nerozumí Facebooku.

A to je problém spoléhání se na algoritmickou umělou inteligenci (AI), kterou v průběhu let vytvářely (nebo přesněji skládaly) stovky různých vývojářů a programátorů.

To vše mi bylo jasné během několika posledních dní, když jsem přemýšlel nad tím, co jsem se naučil na poslední konferenci HealtheVoices 2017, a poté, co jsem si přečetl vynikající článek o Facebooku od Farhada Manjoo v New York Times Magazine.

Na konferenci čelil zástupce Facebooku poněkud frustrovanému (a někdy téměř nepřátelskému) dotazujícímu se davu o tom, proč se věci, které napsali jako aktivisté a obhájci zdraví, zdálo jen zřídka na povrch na zpravodajských kanálech jiných lidí na Facebooku. Jediným způsobem, jak se zdálo, že je zapojení, řekli lidé v publiku ten den, bylo jeho zakoupení prostřednictvím Facebooku (prostřednictvím placeného mechanismu známého jako „posílení“ příspěvku).

Zástupce Facebooku na tyto otázky neodpověděl, proč se v jejich novinkách nezobrazuje zdánlivě kvalitní a dobrý obsah. Přesto každý účastník, s nímž jsem mluvil - vášniví a angažovaní obhájci zdraví - to viděl jako problém s Facebookem. Ale ani Facebook nedokázal vysvětlit, jak to opravit.

Není divu. Článek v časopise Times osvětlil „proč“. Algoritmus zdroje zpráv na Facebooku však třídí v průměru 2 000 kusů možného obsahu pokaždé, když si člověk načte Facebook poprvé a při každém obnovení.

Existuje tolik proměnných, které vstupují do tohoto složitého, temného a proprietárního algoritmu třídění, že ani Facebook nedokáže odpovědět, proč se něco bude nebo nebude zobrazovat v něčím zpravodajském kanálu. Je to do značné míry stejný druh bolesti, který webmasteři již dlouho pociťují při jednání s Google a jejich algoritmem indexování vyhledávání.

Skutečnost, že algoritmus lze snadno obejít pouhým zakoupením přístupu k novinkám lidí, není žádným překvapením. Je to velká část důvodu, proč Facebook rok co rok vydělává tolik peněz. I ten nejhorší obsah se může dostat do vašeho údajně přizpůsobeného zdroje zpráv.

News Feed: Stále nedokončená práce

Myslíte si, že po tolika letech tvrdé práce, pozornosti, hodin vývojářů a výzkumu tohoto algoritmu by to napravilo některé základní věci. Ale dvě nedávné anekdoty mi ukazují, jak daleko ještě musí být chválená AI společnosti Facebook.

Prvním z nich je koncertní mem, který se koncem dubna 2017 ujal zpravodajského zdroje Facebooku. V tomto konkrétním memu účastníci vypsají 10 koncertů, kterých se během svého života zúčastnili, ale jeden z nich je falešný. Je na přátelích dané osoby, aby si všimli falešného koncertu, kterého se nezúčastnili, a okomentovali jej.

Moje první myšlenka, když jsem poprvé viděl toto vyskakovací okno, byla: „Koho to zajímá?“ protože upřímně je mi jedno, jaké koncerty moji přátelé navštívili. Kdybych byl zapojen do skutečného rozhovoru se svými přáteli na téma „koncertů, které jsme viděli“, mohlo by to být v pohodě. Ale jako spouštěč konverzace mi to připadalo nesmyslné, protože je out-of-the-blue - společensky napojeno na nic. Takže jsem stiskl „Skrýt tento příspěvek“ od prvního, který jsem viděl ve svém zpravodajském kanálu.

Pomohlo to v příštích několika dnech zastavit příliv tohoto obsahu na můj zpravodajský kanál? Ani jeden jota. Viděl jsem ne méně než tucet takových otázek v příštích dvou dnech, které zaplavily můj zdroj (i po kliknutí na „Skrýt tento příspěvek“ alespoň na dalších dvou). To vše mě vůbec nezajímalo. Tolik k tomu, aby umělá inteligence Facebooku fungovala.

Druhým je Bloom County. Jsem velkým fanouškem a radoval jsem se, když Berkeley Breathed začal znovu kreslit. Těším se na každý den, kdy se v mém krmivu objeví jeho nový komiks. Přesto o tom Facebook záhadně nemá ponětí. Přestalo mi to před pár týdny ukazovat jeho komiksy, i když jsem na většinu z nich pilně klikal, abych je snáze přečetl v jejich zvětšené podobě.

Jak může tolik kliknutí vést ke značce „nemám zájem, přestat to uživateli zobrazovat“? Facebook by na tuto otázku nemohl odpovědět, kdyby chtěl, protože nemá tušení, jak jeho algoritmus zpravodajských kanálů ve skutečnosti funguje - nebo nefunguje - pro jednotlivé uživatele. To by byla legrace, kdyby to nebyl tak velký problém. Podle Pew Research Center více než polovina Američanů získává své zprávy z Facebooku.

Formuláře zpětné vazby, které uživatelům poskytují jen malou zpětnou vazbu

Facebook tvrdí, že může posoudit (a opravit) mnoho problémů, pokud uživatelé právě častěji používají své formuláře pro zpětnou vazbu. Existuje však důvod, proč uživatelé neradi dávají zpětnou vazbu Facebooku - jen jejich systém zpětné vazby naštve.

Formuláře zpětné vazby na Facebooku poskytují uživatelům jen velmi malou zpětnou vazbu a místo toho si cení toho, aby je uživatelé vedli o řadu otázek typu „Tady je způsob, jak to opravit sami, idiote“, které zjevně vždy naznačují, že většina problémů, se kterými se setkáte, je na vás opravit - ne Facebook. Na konci těchto forem není žádný člověk a žádná lidská odpověď, kterou byste kdy dostali. Toto je samotná definice nelidského. Ironické pro společnost, která sama vidí „budování globální komunity“, která spojuje každého více společensky. Jak to může společnost udělat, když se vyhýbá jakémukoli lidskému kontaktu se svými uživateli? 1

AI je tak složitá, lidé potřebují pomoci

Mnoho vývojářů si říká, že AI může do značné míry vyřešit jakýkoli lidský problém, pokud dostane dostatek proměnných, datových sad a vylepšení. Facebook však jasně ukázal, že ať dělá cokoli, aby pomohlo vyřešit problém se zpravodajstvím, jeho AI nefunguje dobře pro mnoho, mnoho lidí.

Nikdo nemá pocit, že by Facebook dokonce poslouchal. Jak jsem již uvedl dříve, obhájci zdraví a aktivisté, se kterými jsem na konferenci hovořil, uvedli, že nejsou vyslechnuti. Zdá se, že společnostem sociálních médií, jako je Facebook, je to jedno. A na uzavřené facebookové skupině pro vydavatele zpráv denně slyším frustraci ohledně toho, kolik respektovaných zpravodajských organizací má své hluboké, investigativní žurnalistické články, které na Facebooku chradnou, aniž by platily za podporu. Breezy „5 Amazing, Quick, and Easy Ways to a Summer Tan“ shoaway article gets more hits than Trump's Google searches “How do I fix…” queries.

Dělicí střely na dnešní AI

Chválený Siri od společnosti Apple je často považován za užitečný příklad AI, která funguje v dnešním moderním světě. Ale když jsem psal tento článek, řekl jsem: „Hej, Siri, řekni Nancy, že ji miluji.“

Siri ve své nekonečné moudrosti dostala příjemce zprávy správný (naštěstí, protože znám jen jednu Nancy). Ale text, který poslala, byl: „Miluji ji.“ Siri zjevně nechápala skutečný význam mé věty, a místo toho použila primitivní filtry, aby zjistila, že chci poslat text osobě v mých kontaktech s doslovnou zprávou: „Miluji ji.“

To je úroveň AI, se kterou dnes pracujeme napříč velkými technologickými společnostmi, jako je Facebook, Google a Apple - poněkud užitečná, ale frustrující nerovnoměrná v její kvalitě a implementaci.

Opravdu doufám, že to Facebook zjistí, protože každý den ho používám stále méně a méně, protože se pro mě stává čím dál méně relevantním. skutečné zájmy a každodenní život. Možná jsem dnes v menšině, ale domnívám se, že se to změní, pokud Facebook tyto problémy relevantnosti a zájmu brzy nevyřeší.

Poznámky pod čarou:

1. To je jeden z důvodů, proč přednášející Facebooku na konferencích často dostávají tolik otázek - je to jediný lidský kontakt, který většina z nás s tímto technologickým gigantem kdy měla. [↩]