Összetett folyamatok

A Journal belsős információkra és a cégnél dolgozó, nevük elhallgatását kérő informátorok tájékoztatására alapozta a cikkét. Mielőtt belemennénk a részletekbe, nézzük meg, hogyan moderálja a Facebook a platformon megjelenő tartalmakat.

A vállalat, teljesen érthető okokból rengeteg energiát és pénzt fektet az oldal moderálásába. A moderálást alapvetően a cég mesterséges intelligenciája végzi, illetve az a sok ezer munkavállaló, akik szerződéses megbízatásban, többnyire alvállalkozóként dolgoznak a vállalatnak. A módszer egyszerű. Ha az egyik „őrszem" olyan tartalomba fut, ami sérti a közösségi irányelveket, törli a posztot. Durvább, vagy sokszor ismétlődő kihágás esetén pedig a felhasználói fiókot is. A Journal azt derítette ki, hogy a moderálásnak van egy másik szintje is. Egy program, amely az XCheck, más néven a „keresztellenőrzés" nevet viseli. Az Xcheck program kifejezetten a VIP felhasználók igényeire lett szabva, akikkel jóval megengedőbb a tech-óriás, mint a mezei felhasználókkal.

Biztonsági háló

A lap belső dokumentumokra hivatkozva azt írta, hogy 2020-ban minimum 5,8 millió VIP felhasználó volt a Facebook-on. Az is kiderült, hogy a cég teljesen máshogy kezeli a VIP felhasználók tartalmait. Ha az algoritmus, az egyik moderátor, vagy épp egy felhasználó jelzi, hogy egy „nagyon fontos személy" kifogásolható tartalmat osztott meg, akkor az ügy átkerül az XCheck szakembereihez. Az XChecknél profibb, képzettebb tartalommoderátorok dolgoznak, akik ráadásul teljes munkaidős alkalmazásban állnak. Ők azok, akik végül eldöntik, hogy egy poszt maradhat, vagy sem. Tehát a VIP felhasználó konkrétan bármit közzétehet, egy bizonyos ideig biztosan elérhető lesz a posztja. És hogy miért óriási probléma ez? Nézzük meg a profi futballista, Neymar példáját.

Pro és kontra

Neymar VIP felhasználó. 2019-ben meztelen fotókat posztolt egy nőről, aki szexuális zaklatással vádolta. Az ilyen típusú tartalmakat jellemzően azonnal törlik, de az XCheck megvédte Neymar fiókját, így a moderátorok sokáig nem tudták eltávolítani a képeket. Mire a szakemberek kapcsoltak, addigra már több mint 56 millió felhasználó látta a sokak szemében példaképnek számító sportoló posztját.

Andy Stone, a Facebook politikai kommunikációs vezetője Twitteren reagált a riportra. Kifejtette, hogy valóban működik egy ilyen program a cégnél, amelynek az a célja, hogy megvédje a sűrűn látogatott, nagy követői bázissal rendelkező felhasználói fiókokat, és ne töröljenek le olyan posztokat, amelyek semmilyen irányelveket nem sértenek. Ez az álláspont is érthető, de az ismertetett példa remekül mutatja a rendszer sebezhetőségét. Ha kíváncsi vagy a moderátorok életére, KATTINTS IDE! Andy Stone hosszas okfejtése pedig itt található:

WSJ today published a report about a FB system to give a second layer of review to content from high-profile Pages or Profiles to ensure correct application of our policies. If this secret program sounds familiar, it should. Here's what we said in 2018: https://t.co/eqErosKOrR.

— Andy Stone (@andymstone) September 13, 2021