Algoritmul este mesajul

Pe 8 noiembrie, Frances Haugen, fostă angajată Facebook devenită celebră în urma audierii sale în Congresul american și a dezvăluirilor care au precedat audierea, a fost invitată în Plenul Parlamentului European. Audierea a stârnit interes în contextul în care legislativul european se pregătește de adoptarea pachetului de reglementare cunoscut sub denumirea de Digital Services Act (DSA), ale cărui dominante sunt tocmai transparentizarea modului de funcționare a algoritmilor și moderarea conținutului pe rețelele sociale.

Manipularea conținutului sau manipularea contextului în care acesta circulă?

În depoziția sa din Parlamentul European, Haugen a readus în discuție practicile Facebook de micro-targetare a conținutului pe baza colectării datelor personale (a amprentei digitale), de clasificare a conținutului în funcție de capacitatea acestuia de a genera mai mult engagement. Urmând linia de argumentație din celelalte dezvăluiri, fosta ingineră de la Facebook a subliniat, și în acest context, că „Facebook a dat prioritate profitului în defavoarea utilizatorilor, a periclitat sănătatea și siguranța acestora și a devenit o amenințare la adresa democrației”.

În acest context, Digital Services Act (DSA) are, potrivit lui Haugen, potențialul de a deveni un „standard de aur la nivel mondial“, de a inspira și alte țări „să adopte reglementări menite a proteja sistemele democratice”, cu precizarea că eventualele reglementări ar trebui să vizeze atât conținutul ilegal sau cel considerat dăunător („harmful content”), cât și modul de funcționare a algoritmilor. În fapt, principala problemă pe care a scos-o la suprafață Haugen este tocmai cea referitoare la algoritmi, la funcționarea opacă a acestora și la deciziile pe care ajung să le ia, în locul oamenilor, al liderilor de opinie sau al editorilor de presă, cu privire la ce conținut să fie văzut, accesat, apreciat, redistribuit.

În aceasta constă, după părerea mea, valoarea dezvăluirilor lui Haugen, din Senatul american și din Parlamentul european deopotrivă: atrag atenția asupra faptului că Facebook și, în general, platformele digitale bazate pe algoritmi, big data, privilegierea sau retrogradarea conținutului în funcție de comportamentul digital anterior, de preferințele anterior manifestate, au o problemă cu amplificarea dezinformării sau a informațiilor eronate, cu polarizarea, radicalizarea sau proliferarea hate speech. Dar problema principală nu este atât conținutul, cât mecanismul de propagare a acestuia.

Cu alte cuvinte, dacă e să ne oprim doar asupra dezinformării, aceasta nu este în mod necesar sau nu primordial o „fraudă” cu „adevărul”, mai precis cu informațiile de natură factuală; ci mai ales o „fraudă” cu engagement-ul nostru, cu reacțiile noastre emoționale la un anumit conținut mai mult sau mai puțin factual. Manipularea contemporană, cea hrănită, alimentată de platformele digitale, este o manipulare/ distorsionare a conținutului informațional, ȘI o manipulare/ distorsionare a contextului în care acesta circulă.

Mai mult, această distorsionare a contextului poate fi realizată atât de către actori care apelează la fabrici de troli, de click-uri și de like-uri, la servicii de închiriere a urmăritorilor și a mulțimilor de adoratori, cât și de către mecanisme non-umane, adică de algoritmii care, pe baza amprentei digitale a utilizatorilor, fac deducții și extrapolări și selectează ce conținut să vadă aceștia pe platformele digitale. Cum ar spune un McLuhan care ar asista la acest gigantic spectacol al “dezordinii informaționale”, „the algorithm is the message”.

„O oportunitate ce apare o dată la o generație de a armoniza viitorul democrației cu cel al tehnologiei”

Francis Haugen avertizează că reglementarea trebuie să fie severă mai ales în ceea ce privește transparența, eliminarea sau măcar atenuarea sistemului opac în care funcționează algoritmii și mecanismele de selecție a conținutului. Transparență și acces la ceea ce se află în spate, în măruntaiele Facebook-ului și ale altor platforme digitale; inclusiv pentru a avea o conversație solidă cu privire la magnitudinea dezinformării pe care platformele digitale au găzduit-o, asigurându-i trasee pe care să circule; și vorbim despre Facebook, Instagram, dar și despre YouTube, Google, ca să nu menționăm și platformele nou venite, Telegram, TikTok, Rumble. Este dezinformarea din perioada pandemiei și a campaniei de vaccinare – ambele fenomene transnaționale – o problemă pe platformele digitale, o problemă A platformelor digitale – tot transnaționale? Răspuns: „nici o platformă digitală nu permite cercetătorilor să calculeze, în mod precis, cât de proeminent este un anumit conținut în întregul ecosistem creat de respectiva platformă”.

Dacă vom da „vălul” deoparte, este posibil să descoperim că „it’s us”, că pur și simplu așa ar funcționa natura umană și societățile mai puțin reziliente: pe bază de dezbinare, polarizare, de zvon, încadrări retorice nepotrivite, limbaj virulent sau chiar vulgar. Dar pare mult mai posibil să descoperim, în plus, că o comunitate online densă, inițial marginală și de mici dimensiuni, reușește să afecteze integritatea conversațiilor online, apoi chiar integritatea conversațiilor din întreg spațiul public și, în felul acesta, să deturneze deciziile. Decizii personale sau decizii la nivelul comunității/ al întregii societăți, decizii privind sănătatea ca problemă individuală și ca problemă publică, decizii de natură politică, din ce în ce mai mult chiar de natură geopolitică. Și face acest lucru „ajutată”, pe de o parte, de algoritmi, big data, inteligență artificială, criterii opace de filtrare a conținutului și de adevărați maeștri ai viralizării, pe de alta. Evident, fără a neglija în vreun fel ceea ce recent lansatul raport al Comisiei Institutului Aspen privind dezordinea informațională a subliniat din capul locului: dezinformarea “toarnă gaz pe focul divergențelor (al controverselor și disfuncționalităților) care există în orice societate”.

Fie că alegem să studiem „gazul”, fie că alegem să studiem „focul”, accesul la mecanismele opace din spate care le fac pe cele două să se întâlnească, să se caute, chiar, este imperativ: aceasta este concluzia audierii lui Frances Haugen în Parlamentul European. Altfel, „vom rata o oportunitate ce apare o dată la o generație de a armoniza viitorul democrației cu cel al tehnologiei”. Și vom oscila, confuzi, între a blama, într-o schemă binară, incompletă și înșelătoare, fie tehnologia, fie democrația.