_ Cum am expus partea întunecată a Facebook : FRANCES HAUGEN angajată să polițiască știrile false de pe site

Sediul Facebook la 1 Hacker Way, pe malul Golfului San Francisco, arăta cândva ca strada principală a Disney World din SUA. Vitrinele stilizate ofereau o gamă de servicii fermecătoare asemănătoare desenelor animate, multe fără costuri.

La o plimbare de cinci minute, treceai pe lângă un magazin de înghețată, un mecanic de biciclete, o bucătărie mexicană, o bucătărie veche. - frizerie la modă și alte elemente de bază ale unui oraș mic tipic american. Dar când compania a depășit acel campus, a pus în funcțiune o clădire monolitică cu posturi de securitate la fiecare intrare. Mai mult o fortăreață decât un sat.

Undeva între nașterea sa ca site web pentru evaluarea atractivității colegilor și ascensiunea sa pentru a deveni internet pentru miliarde de oameni, Facebook s-a confruntat cu o alegere: să abordeze direct provocările care au venit odată cu noua lor realitate sau se întorc spre interior. Chiar și în prima mea zi petrecută în campus, a fost clar că au ales-o pe cea din urmă.

După mai mult de doi ani de lucru pentru Facebook, în încercarea de a expune unele dintre acele pericole emergente, am decis să devin avertizor. . Chiar și rolul în care am pășit a fost în sine o recunoaștere a deficiențelor Facebook. În ciuda faptului că a atras atenția mass-media asupra „verificarii independente a faptelor” a știrilor false și a blocării dezinformării răspândite de „actorii răi”, rețeaua Facebook de jurnalişti terți a atins doar două sau trei duzini de țări și a scris în cel mai bun caz mii de verificări ale faptelor. lună pentru cei trei miliarde de utilizatori Facebook din întreaga lume.

Am fost însărcinat să găsesc o modalitate de a reduce dezinformarea în locuri pe care verificatorii de fapte nu le-ar putea ajunge - cu alte cuvinte, restul lumii. La câteva zile de la sosirea mea, era clar că rolul meu nu era altceva decât un simbol, un sop. Facebook a vrut să pară că abordează problema cu seriozitate, când de fapt avea un stimulent activ pentru a permite minciunilor să se răspândească nestingherite.

Ca dovadă a ceea ce se întâmplă cu adevărat, am copiat în secret 22.000 de pagini. de documente pe care le-am depus la U.S. Securities and Exchange Commission și le-am furnizat Congresului S.U.A. Am depus mărturie în fața a peste zece congrese și parlamente din întreaga lume, inclusiv în Marea Britanie și Parlamentul European și Congresul SUA.

Sute de jurnalişti au petrecut luni de zile raportând adevărul șocant pe care Facebook l-a ascuns de ani de zile. Aceste descoperiri s-au dovedit cataclismice pentru companie. Prețul acțiunilor sale, în săptămâna înainte de intrarea în bursă în 2021, a fost de 378 USD. Până în noiembrie 2022, acesta a scăzut la 90 de dolari, o scădere de peste 75 la sută.

La scurt timp după audierea din Congres, Facebook și-a schimbat în grabă numele Meta, proclamând că viitorul companiei va fi „în Metaverse”. . Părea a fi o recunoaștere că marca lor devenise prea toxică pentru a fi păstrată. Nu am fost surprins. În cei doi ani petrecuți acolo, securitatea corporativă ni s-a spus că tricourile, pălăriile sau rucsacuri care poartă sigla Facebook ne făceau ținte pentru furia publicului și eram mai în siguranță dacă nimeni nu știa că lucrăm acolo.

M-am mirat de disonanța cognitivă necesară pentru a considera un astfel de mod de viață acceptabil.

Nu mi-am propus să devin avertizor. Nu mi-am dorit niciodată să fiu în centrul atenției – în toată viața mea de adult, am avut doar două petreceri de naștere și, când m-am căsătorit cu primul meu soț, am fugit la o plajă din Zanzibar pentru a evita lumina reflectoarelor.

Inițial, nu aveam nicio intenție de a-mi dezvălui identitatea. Obiectivele mele erau simple: îmi doream să pot dormi noaptea, fără povara de a purta secrete despre care credeam că riscă milioane de vieți în unele dintre cele mai vulnerabile locuri din lume. Mi-a fost teamă că calea Facebook va duce la crize care ar fi mult mai îngrozitoare decât primele două curățiri etnice majore promovate de Facebook în Myanmar și Etiopia.

Apariția a fost soluția la o dilemă care mi-a afectat pe mine și pe mulți. dintre colegii mei care s-au luptat cu conștiința lor tulburată. Nu am fost un outlier - departe de asta. Dar mi s-a părut că ne confruntăm cu toții cu trei opțiuni, fiecare dintre ele proaste:

Până când am devenit denunțător, mă abonasem la Opțiunea 3. Simțeam că progresez, pur și simplu a făcut-o. nu simt că a fost suficient.

Când Facebook m-a abordat în 2018, lucram în industria tehnologiei de mai bine de un deceniu – făcând parte dintr-un grup select de designeri de experiență care creează experiențe pentru utilizatori din algoritmi . Cu o diplomă de la Harvard Business School, lucrasem la Google, Pinterest și Yelp.

Dar prima mea întâlnire cu partea întunecată a Facebook-ului nu a fost una profesională. A venit prin intermediul asistentului meu, Jonah.

L-am întâlnit în martie 2015, când locuia cu fratele meu într-o cameră închiriată în Silicon Valley, cu aproximativ o duzină de colegi de casă bărbați, toți încercând să ajungă în tehnologie. Casa lor era un garaj industrial transformat, plin de paturi supraetajate și birouri, cu o baie și o bucătărie îmbrăcată.

Prima mea căsătorie se terminase și mă recuperam de o boală gravă care mă lăsase uneori în imposibilitatea de a face deplasați-vă fără un plimbător. Așa că i-am oferit lui Jonah un schimb. În schimbul a 20 de ore pe săptămână ca asistent, el putea folosi apartamentul meu ca birou în timp ce eram la serviciu. Jonah era inteligent, empatic și un spectator dedicat la sală. Dar, pe măsură ce alegerile din SUA din 2016 se profilau, am început să observ schimbări alarmante în personalitatea lui. Fusese un susținător entuziast al stângaciului Bernie Sanders și a luat-o prost când Hillary Clinton a apărut ca candidat democrat în schimb.

Numărul lui de nemulțumire a crescut pe măsură ce se pierdea online în rețelele sociale. Această furie a fost alimentată de algoritmi, software-ul care i-a îndreptat atenția către povești, știri și oameni care au servit doar la exacerbarea sentimentului său de nedreptate. În timp ce America se pregătea să voteze, Jonah mă bombarda cu e-mailuri lungi care detaliau teoriile conspirației întortocheate. Am încercat să raționez cu el, dar el nu-mi stătea la îndemână.

Văzand realitățile noastre depărtându-mă mai departe, m-a făcut să fiu foarte conștient de dezinformarea pe care o vedeam de fiecare dată când mă conectam la Facebook. O privire a fost suficientă pentru a mă avertiza că prea puțini oameni țin în spate acest val de minciuni, propagandă și narațiuni false răuvoitoare. Când Jonah a citit o dezgustă despre modul în care Sanders a fost jefuit de nominalizarea democrată, Facebook a găsit mai multe ca ea și i-a oferit. Când a urmărit un activist delirante, i-au fost recomandate alții. Fusese absorbit într-o cameră de ecou, ​​unde fiecare voce care țipă spunea același lucru.

La două săptămâni după alegeri, Jonah s-a mutat - făcându-și împachetarea pentru a locui cu niște oameni pe care îi întâlnise pe internet . Camera de ecou devenise lumea lui reală.

Așa că, când un recrutor Facebook m-a abordat la sfârșitul lui 2018, nu am fost entuziasmat. Compania suferea deja de o reputație proastă, iar toți cei din Silicon Valley peste un anumit nivel de vechime erau plini de e-mailuri de la vânătorii de capete ai companiei.

Aceasta a fost epoca imediat după ce Facebook a fost dezvăluit de un denunțător, Christopher Wylie. El a dezvăluit că au lăsat Cambridge Analytica să fure informațiile personale a 87 de milioane de utilizatori. Am fost impresia că luarea unui concert la Facebook nu ar adăuga valoare CV-ului meu. Dacă ceva, ar lăsa o adâncime.

I-am spus recrutorului că voi fi interesat doar de un rol care se ocupă de combaterea știrilor false. A revenit rapid o invitație, de a aplica pentru o poziție deschisă ca „manager de produs de dezinformare civică”.

Am echivoc luni de zile. În cele din urmă, ceea ce a decis pentru mine a fost să mă gândesc la experiența de a-l fi văzut pe Jonah pierzându-și legătura cu realitatea. Dacă un tânăr inteligent din punct de vedere emoțional, curios din punct de vedere intelectual s-ar putea desprinde de realitate din cauza minciunilor pe care i-a dat internetul, ce șansă aveau oamenii cu mult mai puține avantaje?

În prima mea zi pe Facebook, în iunie 2019, am a început un curs introductiv de două săptămâni despre cum să fii eficient pe Facebook. Trei zile mai târziu, managerul meu mi-a spus să renunț la antrenament și să încep să lucrez la planul echipei mele pentru următoarele șase luni. Acesta a fost primul meu semnal roșu că ceva nu era profund în neregulă. Ne-au spus clar, la începutul campului de pregătire, că aceste două săptămâni au fost rezervate pentru a ne pune la curent, deoarece puțini manageri de produs și-au dat seama cum să aibă succes la Facebook doar sărind în picioare pe cont propriu.

Dar aici eram indiferent. O echipă complet nouă. Managerul meu de inginerie se alăturase cu șase săptămâni mai devreme, iar cercetătorul nostru de date era un recrut la fel de proaspăt. Nu știam prea multe, sau chiar deloc, despre modul în care funcționează algoritmii Facebook sau care sunt cauzele dezinformării.

Șase dintre noi am alcătuit echipa civică de dezinformare. În mod confuz, noi nu eram ceea ce probabil vă gândiți când vă gândiți că Facebook luptă împotriva dezinformării. Aceasta era echipa principală, separată, de dezinformare, cu 40 de angajați. Sarcina lor a fost să încredințeze jurnaliștilor independenți să verifice un număr mic de „povestiri hiper-virale” – adică știri care se răspândeau ca focul, care ar putea fi sau nu adevărate. Directorii de top ai Facebook nu au vrut ca platforma să fie un arbitru al adevărului. Aceștia au delegat acest rol jurnaliştilor care ar oferi judecăţi cu privire la articolele care ar trebui eliminate (sau retrogradate din) fluxul de știri.

În ianuarie 2020, o declarație Facebook a declarat cu mândrie că lucrează cu peste 50 de verificări ale faptelor. parteneri în 40 de limbi din întreaga lume. Matematica simplă mi-a spus că asta a fost ca și cum ai încerca să curăți o explozie de baraj cu o mână de șervețele. Majoritatea partenerilor au putut verifica un maxim lunar de 200 de povești. Dar să presupunem că este o subestimare și că toți cei 50 au fost cumva capabili să descopere adevărul despre 1.000 de știri false în fiecare lună.

Acestea sunt cel mult 50.000 de postări, pentru întreaga lume cu trei miliarde de utilizatori Facebook.

În realitate, șapte dintre cei 50 de parteneri în 2020 s-au concentrat pe S.U.A., lăsând majoritatea celorlalte țări, dacă aveau un verificator de fapte, doar cu unul. Mi s-a părut evident că o țară instabilă din Asia, Africa sau America de Sud, înclinată spre violența etnică, trebuie să aibă o nevoie și mai mare de bugete pentru verificarea faptelor - dar Facebook este o corporație din SUA și nu alocă resurse de siguranță în funcție de nevoi. . Mai degrabă, ea alocă pe baza fricii de reglementare în Statele Unite.

Factorii politici de la Washington DC au puterea, la urma urmei, de a limita activitățile Facebook. Guvernele din lumea în curs de dezvoltare cu siguranță nu. Deoarece principala echipă de dezinformare se concentra pe știrile false în mare parte în SUA și Europa, a revenit unității mele de șase persoane să descopere cum să acopere restul lumii fără a utiliza verificatori de fapte. Dacă nu a fost suficient de farsă, ne-am dat seama că la Facebook nu există dezinformări decât dacă ar fi fost cercetată și denunțată în mod specific de un verificator de fapte terță parte.

Prin definiție, având în vedere focalizarea. al echipei noastre, nimic investigat de echipa civică de dezinformare nu ar putea fi dezinformare în ochii Facebook.

Acum am început să înțeleg cât de periculoasă era strategia Facebook de a-și oferi serviciul gratuit.

Pentru a asigura nimic în afară de dominație, Mark Zuckerberg adoptase o strategie de a-și face platforma disponibilă chiar și în cele mai sărace națiuni, pentru a face dificilă (chiar imposibilă) apariția concurenților.

p>Până în 2022, programul, denumit Free Basics, a deservit 300 de milioane de oameni în țări precum Indonezia, Filipine și Pakistan. În lumea în curs de dezvoltare, majoritatea datelor au un preț. Free Basics a deschis ușa către internet pentru unii dintre cei mai săraci oameni din lume. În țările în care câștigurile medii sunt de un dolar pe zi, Facebook este alegerea naturală.

De asemenea, operațiunea este foarte neprofitabilă. În al patrulea trimestru din 2022, compania a câștigat 58,77 USD (47,20 GBP) anual de la fiecare utilizator american și 17,27 USD (13,87 GBP) per utilizator european. Dar în Asia Pacifică, această sumă a scăzut la 4,61 USD (3,70 GBP), iar în restul lumii, un utilizator mediu valora doar 3,52 USD (2,83 GBP) pe an pentru Facebook.

În consecință, Facebook a decis că nu dispune de buget pentru a preveni dezinformarea sau pentru a construi sisteme de siguranță echivalente pentru o gamă largă de pericole în țările cu pierderi. Majoritatea oamenilor care citesc acest articol nu realizează cât de mai curată și mai strălucitoare este experiența lor cu Facebook în engleză. Un nivel minim de siguranță a utilizatorilor este disponibil doar pentru câțiva.

Consecințele în lumea reală ale acestor lacune lingvistice ar putea fi observate în Myanmar, cunoscută anterior sub numele de Birmania. În 2014, țara avea mai puțin de jumătate de milion de utilizatori Facebook. Dar doi ani mai târziu, alimentat de date subvenționate Free Basics, avea mai mulți utilizatori decât orice altă țară din Asia de Sud-Est. Utilizarea a crescut într-un ritm exponențial – la fel și dezinformarea letală.

Myanmarul este predominant budist, cu o minoritate musulmană, rohingya. În 2017, guvernul din Myanmar și-a dezlănțuit forțele de securitate într-o campanie brutală de curățare etnică.

Facebook a servit ca o cameră de ecou a conținutului anti-rohingya. Trolii propagandiști cu legături cu armata din Myanmar și cu grupuri naționaliste budiste radicale au inundat Facebook cu conținut anti-musulman, promovând în mod fals ideea că musulmanii plănuiau o preluare. Postările exprimau fără încetare comparații între musulmani și animale, cerând „înlăturarea” „întregii rase”, pornind un furtun de incendiu de minciuni inflamatorii.

Anchetatorii au estimat că 24.000 de rohingya au fost masacrați și mai mult de un milion au fost forțați să-și părăsească casele. Dezinformarea răspândită pe rețelele de socializare a jucat un rol foarte important în acest măcel.

Majoritatea oamenilor din S.U.A. au fost doar vag conștienți de asta, dacă chiar deloc – în parte pentru că știrile care au circulat prin știrile lor de pe Facebook furajele au evidențiat rar situația rohingya. Nu era în algoritm.

Același lucru este valabil și astăzi. Nu putem vedea în marea încurcătură de algoritmi – chiar dacă aceștia necesită un cost zdrobitor, incalculabil, cum ar fi influențarea nedreptă a alegerilor naționale, răsturnarea guvernelor, fomentarea genocidului sau provocarea scăderii stimei de sine a unei adolescente, ducând la o altă moarte prin sinucidere. Facebook a scăpat cu atât de multe pentru că rulează pe software închis în centre de date izolate, aflate la îndemâna publicului.

Directivii seniori și-au dat seama devreme că, deoarece software-ul său a fost închis, compania ar putea controla narațiune despre orice probleme pe care le-a creat.

În nenumărate moduri, Facebook a eșuat în mod repetat să avertizeze publicul despre probleme la fel de diverse și îngrozitoare precum amenințările la adresa securității naționale și internaționale, propaganda politică și știrile false.

Nu a contat dacă activiștii au raportat că Facebook permite exploatarea copiilor, recrutarea terorismului, o mișcare neo-nazistă sau dezlănțuirea algoritmilor care au creat tulburări de alimentație și au provocat sinucideri. Facebook a avut o apărare infailibil de falsă: „Ceea ce vezi este anecdotic, o anomalie. Problema pe care ați găsit-o nu este reprezentativă pentru ceea ce este Facebook.

Am început să înțeleg că aveam acces la documente, mii dintre ele, care ar putea dovedi ce este cu adevărat Facebook. Pur și simplu nu știam încă ce să fac cu ele.

(Fluierul)