Suntem pregătiți pentru a începe o discuție despre reglementarea mediului digital?

Pe 4 februarie, Centrul pentru Etică şi Inovaţie în domeniul datelor (Center for Data Ethics and Innovation), organismul consultativ al guvernului britanic pe probleme legate de Inteligenţa Artificială şi tehnologiile bazate pe meta-date a dat publicităţii un raport referitor la publicitatea personalizată în mediul online (online targeting), la utilizarea datelor culese din mediul digital în scopuri publicitare. Raportul trebuie plasat în contextul conversaţiei care prinde contur la nivel global cu privire la reglementarea mediului digital și a giganţilor tehnologici, fiind cu atât mai interesant cu cât provine din Marea Britanie, deci dintr-un mediu cultural puţin deschis ideii de reglementare. Sperăm că acest raport este de interes şi pentru publicul din România, oricâtă exuberanţă necritică ar manifesta acesta faţă de explozia şi răspândirea platformelor digitale.

Sunt câteva motive pentru care raportul ar merita să nu treacă în totalitate neobservat. În primul rând, prezintă un excelent inventar al practicilor prin care amprenta noastră digitală (constituită pe baza comportamentului digital – fie că vorbim de postări pe Facebook, căutări pe Google, plăţi online, şi, în general, de orice utilizare a unui dispozitiv smart) este astfel exploatată încât orice conţinut nou este condiţionat, filtrat, dacă vreţi, de respectiva amprentă digitală, de preferinţele anterior exprimate. Raportul conferă greutate tezei potrivit căreia ceea ce numim cu toţii şi mult prea frecvent fake news nu reprezintă atât o fraudă cu adevărul, oricât de puri şi de moralişti ne-am simţi atunci când am apela la o astfel de încadrare; ci, mai curând, o fraudă cu engagementul nostru pe platformele digitale; o fraudă cu emoţiile, atenţia şi identitatea noastră digitală. În sfârșit, raportul relevă faptul că opinia publică din Marea Britanie pare pregătită pentru o astfel de conversație, chiar intervenție: „oamenii nu își doresc ca publicitatea personalizată și utilizarea datelor în scopuri publicitare să înceteze; oamenii își doresc ca sistemele bazate pe aceste practici să opereze în condiții de responsabilitate și de transparență; și oamenii doresc să dețină controlul efectiv asupra modului în care sunt targetați în mediul online”.

Profilarea în mediul digital, o combinație între o radiografie, un RMN, un computer tomograf şi o analiză de sânge

Noutatea absolută în ceea ce privește interacţiunile de pe platformele digitale este următoarea: principalul factor de amplificare a conţinutului digital este chiar comportamentul nostru pe aceste platforme. Prin comportament digital înţelegând timpul petrecut pe platforme, istoricul navigării pe Internet, frecvența și intensitatea interacțiunilor, engagement-ul cu un conținut digital (like, comment, share).

Posibilitățile tehnice practic nelimitate de arhivare, agregare şi prelucrare a comportamentului tuturor utilizatorilor (ceea ce este cunoscut sub denumirea de big data) permit segmentarea de precizie, generarea algoritmică a engagement-ului, aplicarea tehnicilor de propagandă și persuasiune computaționale, profilarea psihografică, publicitatea algoritmică.

Big data sunt, şi ele, de mai multe categorii: first level data (adică informaţiile, indiciile pe care le lăsăm în mod explicit, posibil conştient, pe platformele digitale); second level data (datele care sunt automat colectate, mergând de la tipul de telefon folosit în momentul în care încărcăm o fotografie, până la frecvenţa cu care citim o postare întreagă pe Facebook sau, dimpotrivă, ne oprim, obosiţi, în faţa opţiunii read more; de la lista prietenilor şi a preferinţelor acestora până la – mult mai interesant – lista pretendenţilor cărora nu le acceptăm cererile de prietenie); şi third level data, date care pot fi deduse pe baza primelor două.

Profilarea – adică alcătuirea unui profil care reprezintă o garanţie cu privire la disponibilitatea noastră de a accepta un mesaj persuasiv (din zonă comercială, civică, politică – mai puţin important) – se face pe baza tiparelor ce pot fi deduse din identitatea noastră digitală, din felul în care ne manifestăm în mediul digital.

Asimetria evidentă dintre utilizatorul – „persoană fizică” – şi aceste „tehnologii remarcabile” este dată de faptul că primul este supus un adevărat „scan”, o combinaţie între o radiografie, un RMN, un computer tomograf şi o analiză de sânge; de faptul că rezultatul acestei analize complexe devine o simplă însemnare într-o imensă bază de date care înregistrează rezultatele tuturor celorlalţi „pacienţi”; şi de faptul că agregarea tuturor datelor – inclusiv a celor de nivel trei, deduse pe bază probabilistică – are loc în timp real, până ca noi să apucăm să facem un nou scroll, să apăsăm butonul like, să accesăm un site etc.

KitKat, tampoane şi divorţuri

Nu e de mirare, date fiind aceste tehnologii numite, cu îndreptățire, tehnologii predictive – că există mărturii ale unor analişti ai serviciilor de intelligence israeliene, care pretindeau că puteau prezice propensiunea unor actori de a îmbrățișa sentimente anti-israeliene pe baza preferinţei – exprimate pe platformele digitale – pentru reclama la ciocolata KitKat. Cum nu e mirare nici faptul că „fondatorii” Cambridge Analytica pretindeau că pot deduce dacă un adolescent provine dintr-o familie destrămată doar pe baza reacţiilor exprimate în mediul online. Sau – iertaţi-mi exemplul relativ frust – mărturii ale unor publicitari pe care i-am putut audia acum un an la celebra universitate americană MIT, potrivit cărora pot deduce opţiunile electorale ale unui grup de femei pe baza brandului de tampon preferat; cu condiţia ca respectivele femei să fie suficient de active în mediul digital.

Avem de-a face cu un adevărat arsenal de tehnici și instrumente folosit de toți actorii comerciali, politici și geopolitici ai momentului, indiferent de unde ar proveni şi indiferent care le-ar fi interesele. Nu este vorba doar despre Facebook, sau despre Google, ci despre toate companiile al căror model de funcţionare se bazează pe aceste „tehnologii remarcabile”, după cum le caracterizează chiar raportul analizat; adică pe Internet, reţele, algoritmi, motoare de căutare, big data, Inteligenţa Artificială şi învăţare computerizată automată (machine learning).

Segmentarea de precizie, profilarea psihografică, persuasiunea de precizie, generarea şi amplificarea algoritmică a reacţiilor fac parte din arsenalul de practici folosite în demersuri comerciale, civice, electorale, politice, geopolitice și au pătruns în toate aspectele vieții noastre: politică, diplomație, alegeri, artă, cultură, divertisment, dating, sănătate, alegeri vestimentare.

Acestea sunt practicile vizate (cât pe ce să spun targetate) în documentul dat publicităţii de organismul britanic. Practici care, în opinia autorilor, au produs şi o serie de efecte benefice (cum ar fi monitorizarea datelor biometrice pentru a ne menține sănătoși), dar şi foarte, foarte mult pagube: „erodarea autonomiei şi a libertăţii de a alege; exploatarea vulnerabilităţilor ființei umane; subminarea democraţiei şi a societăţii; accentuarea discriminării”.

Libertatea de exprimare se aplică oamenilor sau boților?

Amplificarea digitală se face și prin recursul la boți și rețele de boți (boți însemnând, pe scurt, aplicaţii software care rulează scripturi automatizate), la conturi sau website-uri false, uzine de like-uri și de meme, la postaci, troli, follower-i, reviewer-i și influencer-i fake; la aplicații care alterează căutările pe Google (urcă anumite link-uri dezirabile în topul căutărilor sau, dimpotrivă, le coboară pe cele indezirabile până a deveni aproape invizibile). Vestea „proastă” – din păcate nu fake – este că metodele de generare algoritmică, artificială, a engagement-ului nu operează pe baza unei distincţii ambiţioase, de sorginte iluministă, între adevărat şi fals, ci pe baza impresiei, a semnalelor de popularitate.

Activitatea boţilor, a trolilor, a aplicațiilor care manipulează rezultatele căutărilor online creează impresia de popularitate – și ce impresie!, iar această impresie este receptată de către algoritmi ca fiind “reală”. Cu alte cuvinte, conținutul digital generat și amplificat în mod artificial/ automatizat este perceput de către algoritmi ca fiind legitim, aflat pe picior de egalitate cu conținutul sau engagement-ul generat în mod organic, de către persoane reale care nu apelează la servicii de tip „fabrici de conținut”, troli, „fake influencers”, sau “rent-a-crowd”.
Raportul agenției britanice identifică în mod corect miezul problemei, precum și noutatea sa (dacă nu ar fi ceva nou, de ce am vorbi acum despre reglementare?): posibilitatea practic nelimitată de culegere și agregare a datelor (la cele trei niveluri amintite), cuplată cu posibilitatea de amplificare automatizată a conținutului. Întâlnirea dintre aceste două posibilități tehnice fac din tehnologiile digitale un redutabil instrument de persuasiune, pentru descrierea căruia vocabularul de război pare adecvat: arsenal, noua cursă a înarmării, bombardament algoritmic. Reglementarea – „proporțională și eficientă” – nu ar avea în vedere conținutul, ci practicile prin care acesta este pus în circulație și amplificat. Cu alte cuvinte, nimeni nu ar atenta la libertatea de exprimare – un principiu sfânt al democrațiilor liberale – cu condiția să avem de-a face cu libertatea de exprimare aplicată oamenilor, iar nu cu „libertatea de amplificare” a boților.

De ce începem întotdeana cu utilizatorul final, dacă e final?

Raportul merită citite pe îndelete, nu între două like-uri, un video pe YouTube și câteva mesaje pe grupurile de Whatsapp. Recomandările nu au în vedere, în nici un caz, culpabilizarea utilizatorului final, demonizarea sa, pe considerentul că ar fi „needucat”, „neatent”, „fragil emoţional”.

Aceste posibile vulnerabilități ar merita puse în discuţie, dar numai după ce s-ar produce o reformă profundă şi cuprinzătoare („wholesale”) a felului în care sunt lăsate să funcţioneze tehnologiile bazate pe meta-date: „noi reglementări ale sistemelor de publicitate personalizată din mediul online”; „obligarea platformelor de a permite accesul cercetătorilor independenţi astfel încât aceştia să poată aduna dovezi cu privire la legăturile posibile dintre utilizarea social media şi declinul stării de sănătate mintală sau răspândirea dezinformării”; „obligarea platformelor de a găzdui şi a face publice arhive ale produselor publicitare de mare risc, care privesc zona politică, piaţa forţei de muncă, piaţa imobiliară, accesul la credite bancare sau produsele interzise minorilor”.

Să ne apărăm, aşadar!

Editorial semnat de profesor universitar doctor Alina BÂRGĂOANU