Leucoplast pe un picior deja amputat

Pe 5 octombrie, Frances Haugen, fostă angajată a Facebook, a fost audiată în Senatul american în legătură cu modul în care funcționează algoritmii celebrei platforme. Audierea a fost precedată de o serie de dezvăluiri de presă cu privire la caracterul dăunător al acestor algoritmi și, mai ales, la faptul că este vorba despre lucruri știute de către managementul companiei, dar ținute departe de investitori și de public.

Dosarele Facebook, mai palpitante decât Dosarele X

Audierea inginerei Frances Haugen (data scientist și manager de produs) nu a venit din senin, ci a fost precedată de dezvăluiri dramatice, făcute în special în Wall Street Journal inițial sub semnul anonimatului. Organizate sub denumirea de „the Facebook files”, dezvăluirile au avut în vedere subiecte/ controverse, precum: eșecul companiei Facebook de a opri valurile de dezinformare cu privire la vaccinare sau de a da jos de pe platformă conturile care promovează pornografia, traficul de organe sau traficul de persoane (în special în zona Orientului Mijlociu); sau faptul că managementul companiei era la curent cu cercetările care indicau că postările de pe Instagram sunt toxice pentru adolescente, predispundându-le la anorexie și depresie; sau că unele conturi de influenceri se bucură de anumite privilegii în ciuda faptului că promovează conținut violent sau denigrator, deci încalcă ceea ce Facebook numește standardele comunității, valabile pentru „restul lumii”.

Într-o derulare destul de precipitată a evenimentelor, pe care, sincer, nu o anticipam, Frances Haugen, „martorul sub acoperire” al Wall Street Journal, a fost de acord să iasă de sub condiția anonimatului, să participe la câteva emisiuni de televiziune și chiar să fie audiată în Senatul american. Mesajul principal din timpul audierii este că, în mod sistematic, Facebook a dat prioritate profitului în detrimentul siguranței utilizatorilor și că „produsele Facebook sunt dăunătoare pentru copii, alimentează dezbinarea și șubrezesc democrația”.

Soluția pusă de Haugen pe masa senatorilor: crearea unei agenții de reglementare în domeniul digital, transparență în ceea ce privește utilizarea datelor utilizatorilor, interzicerea unor practici privind amplificarea conținutului și plasarea publicității pe bază algoritmică, regândirea newsfeed-ului astfel încât acesta să fie constituit din punct de vedere cronologic și nu pe baza ierarhizării create de algoritmi. Cu alte cuvinte, soluția propusă este aceea de a schimba fundamental modelul de business al Facebook și Instagram, acela de amplificare, ierarhizare și filtrare a conținutului pe baza algoritmilor.

Dar ce sunt, totuși, acești magici algoritmi?

Așa cum explicam într-un material video, noțiunea de algoritmi Facebook se referă la un sistem automat de filtrare a conţinutului, pe baza căruia se ia decizia automatizată ce postări vedem sau nu în newsfeed-ul nostru, respectiv în ce ordine. Pe Facebook, postările nu intră în newsfeed în ordine cronologică (vezi mai sus obiecția lui Haugen referitoare la această funcționalitate), ci pe baza unui „scor de interes” calculat de către algoritmi pentru fiecare utilizator în parte. Scorul de interes este calculat/ prezis pe baza unor factori precum: noutatea, popularitatea (reacțiile previzibile ale prietenilor), timpul necesar pentru parcurgerea unei postări, existența conținutului video, frecvența interacțiunilor în rețeaua de prieteni. De exemplu, Facebook „ştie” că postările de tip video antrenează cel mai mult timp petrecut platformă, prin urmare, le acordă, din start, un scor mai mare. Un video cu pisici va ajunge mult mai repede în newsfeed-ul unui utilizator despre care Facebook „ştie” că a mai vizionat astfel de videoclipuri decât în newsfeed-ul unui utilizator care are, în mod constant, reacţii la videoclipuri cu bebeluşi. Scorul de interes creşte şi mai mult dacă postarea vine de la un prieten digital cu care utilizatorul primar intră frecvent în contact (comentează la postările sale, îl etichetează în fotografii etc).

Butonul „love” are ponderea cea mai mare în calcularea scorului de interes, în timp ce butonul „like” are ponderea cea mai mică. Și tot așa, până se ajunge la un total de aproximativ 100.000 de factori pe care algoritmii Facebook îi iau în calcul pentru a determina, instantaneu și personalizat și, pentru fiecare utilizator în parte, scorul de interes. Scor care decide pentru noi, în locul nostru, ce informație accesăm, în ce ordine, când, de la cine. Curat asimetrie între utilizatorul obișnuit și o uriașă mașinărie pusă în mișcare pentru a-i detecta pattern-urile de atenție, preferințele, reacțiile exprimate explicit sau implicit (apropo de reacții implicite, cel mai mult m-a impresionat faptul că, în alcătuirea profilului, algoritmii Facebook iau în calcul inclusiv dacă apăsăm sau nu pe butonul read more, dacă respingem sau ignorăm anumite cereri de prietenie, dacă nu dăm like unei postări).

O problemă (serioasă) legată de algoritmi, sau o problemă (și mai serioasă) legată de concentrarea puterii?

Severitatea acestui episod și a propunerilor de interzicere, practic, a amplificării algoritmice, a externalizării deciziilor privind filtrarea și ordonarea conținutului către algoritmi, nu este de ignorat. Audierea de săptămâna trecută nu seamănă deloc cu alte audieri din Congresul american, când Mark Zuckerberg era nevoit să răspundă la întrebări de genul „cum reușiți să oferiți Facebook pe gratis?”. Și când chiar răspundea, aproape abținându-se să nu râdă: „rulăm publicitate” („we run ads”).

Chiar și așa, unele reacții la această audiere unică au subliniat că nu a fost suficient de dură, că soluțiile, oricât de curajoase și de radicale ar părea, nu se adresează problemei centrale a Facebook și a giganților digitali, dacă tot veni vorba: concentrarea incredibilă a puterii financiare, politice, simbolice, mai ales a puterii simbolice, capacitatea de a decide cine intră și cine nu în spațiul public, capacitatea de a se transforma în ceea ce Azeem Azhar numește companie nelimitată. De aici și verdictul dur pus de Daniel Hanley, analist juridic în cadrul grupului Open Markets Institute, care activează împotriva monopolurilor: măsurile de reformare a Facebook-ului sunt ca un „leucoplast aplicat pe un picior deja amputat”. Rămâne ca fiecare dintre noi să mediteze la înțelesul metaforei privind piciorul amputat: ce am amputat, ca indivizi și, mai ales, ca societate, pentru a primi „facebook pe gratis”. Cu precizarea, mai ales ca urmare a studierii spațiului public românesc, că ar fi hazardat să transformăm Facebook în țap ispășitor, într-un simbol al propriilor noastre neputințe și eșecuri.