Avalanșa DEEP FAKE-urilor în „jungla” tehnologiei. Un expert digital explică până unde merge libertatea internetului: „Ar putea scăpa de sub control”

Informație fără limite, documentare, cunoaștere, curiozitate, inovare, pericole, deep fake, hărțuire, violență, înșelăciune, bullying sunt doar câteva dintre cuvintele în jurul cărora baleiază discursul specialiștilor în domeniu, dar și al oamenilor neavizați, în ceea ce privește siguranța sau nesiguranța din mediul online.

În 2024, an electoral cu mize uriașe, Alexandra Cernian, lector universitar la Facultatea de Automatică și Calculatoare, dar și expert evaluator în inovație digitală pentru Comisia Europeană, a vorbit, într-un interviu pentru GÂNDUL, despre pericolele tehnologiei, mărturisind că este nevoie, poate mai mult decât oricând, de o educație digitală care să plece de la părinți înspre copii. Altfel, susține expertul digital, situația ar putea scăpa de sub control.

Alexandra Cernian infirmă mitul copiilor care „se nasc cu telefonul în mână”, precizând că aceste lucruri țin foarte mult de mediul în care trăiește copilul respectiv, dar și de educația primită în tot ceea ce înseamnă zona online.

EXTERNE The Telegraph: China investește tot mai mult în domeniul sănătății în AFRICA. Ce scop are Beijingul

13:15

ACTUALITATE Crin Antonescu: „Îmi vor da DEMISIA din PNL și voi ajunge în turul doi”

13:11

Expertul digital susține că libertatea internetului permite oricui să spună tot ceea ce vrea, fără să fie, în cele mai multe dintre cazuri, tras la răspundere și obligat să dea vreo explicație despre afirmațiile tendențioase și uneori calomnioase, făcute într-un context anume.

Despre noua „găselniță” a internetului, care produce din ce în ce mai multă îngrijorare – deep fake-urile -, Alexandra Cernian recunoaște că acestea sunt greu de controlat, dar mai ales greu de blocat, în special atunci când sunt distribuite masiv de către utilizatorii care nu sunt învățați să filtreze informația și să stabilească ce este corect și ce este fals.

„Trebuie să trecem cu toții printr-un proces de educație digitală”

Alexandra Cernian susține că tehnologia trebuie integrată acum în educație, din formele cele mai incipiente, explicând cum îi poate ajuta acest lucru pe copiii care devin adulți și care vor ști cum să nu pice în plasa pericolelor din online.

Expertul în inovație digitală subliniază că trăim într-o eră super digitalizată, în care nu putem, nici dacă am vrea, să evităm tehnologia, precizând că este mult mai important să învățăm s-o gestionăm corect.

„Cred că situația va evolua în rău, dacă nu este cumva ținută sub control. Dacă vorbim despre copii, acest lucru trebuie să vină din partea părinților și pe urmă din partea sistemului educațional. În vremea copălăriei noastre, niște desene animate sau poate niște cărți erau tot ce aveam și ne refugiam acolo, dar acum pentru copii tentațiile sunt mult mai numeroase. Evident că ei nu au mecanisme de filtrare și capacitatea să discearnă între ce le este benefic. Aici este rolul principal al părinților, care trebuie să-i ghideze și să-i îndrume în procesul educațional.

Doar că părinții, probabil și dintr-o lipsă de educație digitală – despre care noi știm că există în România – dar și din comoditate, aleg să-i lase cu tableta sau cu telefonul în mână, pe termen nelimitat și fără să controleze aproape deloc ce fac copiii. Ei se nasc cu telefonul în mână pentru că așa îi lasă mediul înconjurător să fie și să se dezvolte, dar în final asta nu este o formă de educație, ci una de a lăsa copilul să facă ce vrea, ca să nu plângă și să nu facă gălăgie.

Cred că tehnologia trebuie integrată în educație, din formele cele mai incipiente, pentru că trăim într-o eră super digitalizată, iar soluția nu este să ne distanțăm și să ne comportăm ca și când această evoluție tehnologică nu este parte din viața noastră. Cred că trebuie să trecem cu toții – și mă refer aici la nivel de populație – printr-un proces de educație digitală, din care lumea să înțeleagă în masă care este potențialul, care sunt pericolele cu care vine tehnologia, cum o folosim corect și cu simț de răspundere”, explică Alexandra Cernian.

De ce tehnologia în exces dăunează grav sănătății

Expertul evaluator în inovație digitală a atras atenția că, în privința copiilor, unde tentația este mult mai mare, consecințele abuzului de tehnologie sunt mult mult mai grave, au un impact negativ asupra formării mecanismelor cognitive și pot duce chiar la forme de anxietate și depresie.

„Este important ca părinții să conștientizeze riscurile și pericolele cu care vine acest abuz de tehnologie la care-i lasă pe copii să se expună. Soluția nu este să lăsăm copilul cu telefonul ore în șir și să ne vedem de treabă. Rolul părinților și cel al educației este să ghideze copilul și să-l ajute să-și formeze niște mecanisme sănătoase de funcționare. Cred că sunt și multe povești cu adulți care au fost păcăliți, sub diverse forme în online, poate nu neaparat tehnologia în sine, dar tehnologia a facilitat foarte mult tot felul de păcăleli, de fake-uri.

În privința copiilor, clar este și mai periculoasă tentația asta, pentru că ei sunt în plin proces de dezvoltare. Cred că la acest moment este deja dovedit – prin diverse studii realizate – că tehnologia în exces are un impact negativ asupra formării mecanismelor cognitive, inclusiv duce la aceste forme de anxietate și depresie. Asta se poate întâmpla numai prin acest abuz de stat foarte mult cu ochii în telefon, tabletă etc.

Pe de altă parte, sunt și riscurile care vin din ce consumă ei când folosesc tehnologia, pentru că, dacă nu este gestionată din partea adulților treaba asta – mai exact, să controleze puțin la ce se uită copiii sau ce fac ei când sunt pe telefon în online -, duce în final la tot felul de forme, deoarece de multe ori copiii vor să imite și ajung la dezechilibre, depresie și la diverse forme de anxietate”, explică Alexandra Cernian.

„Internetul dă libertate oricui să spună orice”

Expertul susține că mediul online a devenit locul în care utilizatorii își permit, mai mult decât oriunde, să se ducă spre bullying, să facă niște comentarii răutăcioase, dar și să își manifeste simpatiile sau antipatiile, mergând pe principiul „acolo nu te vede nimeni.”

Internetul permite democratizarea utilizării tehnologiei, este locul unde oricine poate deveni creator de conținut, dar și mediul prin care se pot transmite deep fake-uri în care apar, fără voia lor, diverse personalități publice și care ajung să fie distribuite de sute de mii de persoane. Aceste situații nu fac decât să-l deruteze pe utilizator, care nu mai știe să aleagă între informația corectă și cea propagată pe canale false.

„Uneori, este plin internetul de comentarii fără nicio noimă și nu știu dacă acele persoane, la o discuție față în față, s-ar mai comporta la fel și nu ar discerne puțin mai mult ceea ce spun. Internetul permite oricui să fie ascuns în spatele unui nickname și nu știe nimeni cine emite părerile respective sau răutățile pe care le postează acolo. Evident, ăsta este unul dintre pericole, pentru că internetul dă libertate oricui să spună orice.

S-au postat deep fake-urile acelea cu cântăreața Taylor Swift – care au ajuns la nu știu câte milioane de vizualizări în postările de pe Instagram și a durat 17 ore, până când platforma a blocat filmulețele respective –  timp în care ele au tot fost diseminate, distribuie, comentate etc.

În momentul de față, pentru că internetul permite această democratizare a utilizării tehnologiei și faptul că oricine devine un creator de conținut, acuma, pe internet, oricine poate să fie critic de orice, analizează orice, își dă cu părerea despre orice și asta poate să ducă în cascadă la probleme în societate, pentru că nivelul educației, din păcate, cred că scade la nivel mondial, pentru marea masă de oameni, iar  capacitatea de a filtra și de a verifica informația scade și ea”, mai spune Alexandra Cernian.

„Va deveni din ce în ce mai greu pentru omul de rând să-și dea seama dacă ceva este adevărat sau nu”

Alexandra Cernian atrage atenția că, în situația în care nu se vor aplica niște reglementări clare și exacte în privința internetului, există riscul ca lucrurile să scape de sub control.

„La modul că lumea nu va mai identifica ce este real și ce este fake, ce să creadă, ce să nu creadă și o să fie așa un fel de junglă. Probabil că spre asta tindem, mai ales de când cu deep fake-urile, problema a intrat într-un nou nivel de accelerare cu lucrurile false care se distribuie pe internet. Va deveni din ce în ce mai greu pentru omul de rând să-și dea seama dacă ceva este adevărat sau nu. Educația este primordială și ea trebuie să plece de la adulți și să ajungă și la copii.

Ar trebui să luăm adulții, părinții, profesorii și să îi pregătim în privința a ceea ce înseamnă online-ul și tehnologia. La fel cum, la un moment dat, învățam niște reguli de bună purtare în viața socială, acum există o viață socială și pe internet, pentru care la fel trebuie să învățăm cum să ne comportăm acolo, ce să facem, ce să nu facem, să ne păzim de informațiile răuvoitoare care vin către noi.

Este o avalanță de deep fake-uri care încurajează oamenii să investească în niște lucruri care nu există, care sunt, de fapt, păcăleli. Astfel, lumea trebuie să învețe să selecteze cumva la ce dă crezare și la ce nu pe internet. De asta este important să învățăm cu toții să nu credem orice la prima vedere sau orice auzim și vedem. Să învățăm să verificăm din mai multe surse informația. Tehnologiile de creare a deep fake-urile avansează foarte mult, iar platformele nu reușesc să le detecteze pe toate cu succes, înainte ca ele să fie postate”, recomandă expertul în inovație digitală.

„Pe online, sistemul legislativ nu a fost pregătit pentru avântul pe care l-a luat acum tehnologia”

Expertul digital susține că este nevoie, la nivel mondial, ca autoritățile să gândească legi și strategii clare pe tot ceea ce înseamnă zona de online și să găsească alternative fiabile care să diminueze pericolele internetului, respectiv ale inteligenței artificiale.

„Mergând pe zona asta de proprietate intelectuală, de copyright, în momentul de față, legislația nu este pregătită pentru povestea asta cu online-ul. Pe parte civilă, există tot felul de legi care protejează intimitatea, viața privată, datele personale, însă pe online, este evident că sistemul legislativ nu a fost pregătit pentru avântul ăsta pe care l-a luat acum tehnologia, cu toate aceste instrumente, dar mai ales cu inteligența artificială.

Nu este clar ce va păți cel care folosește aceste filmulețe în care apar persoanele publice, în scopuri de deep fake. La fel, după ce au fost postate, este destul de greu să fie găsit autorul, chiar dacă se încearcă acum să se dea legi care să penalizeze, inclusiv cu închisoare, pe cei care crează astfel de conținuturi online. 

Se accelerează cumva tendința asta la nivel de UE, pentru că devine o problemă din ce în ce mai acută. Autoritățile au înțeles că trebuie să fie cumva reglementate aspectele astea, ca să nu scape de sub control, dar nu sunt suficienți specialiști, nu există un acord comun în privința reglementărilor”, a conchis Alexandra Cernian.

59% dintre părinţi se tem că victime ale infracțiunilor pe internet ar putea fi chiar copiii lor

Una dintre cele mai răspândite probleme în mediul online, mai ales pe rețelele de socializare, este hărțuirea online (cyberbullying-ul).

În plus, o treime dintre adolescenţii de 16 – 17 ani (34%) petrec o perioadă considerabilă de timp navigând pe Internet, fiind online între 4 şi 6 ore pe zi, iar 14% depăşesc acest prag, relevă cercetarea sociologică „Internetul în familie”, lansată în februarie de organizaţia „Salvaţi Copiii.”

Totodată, aproximativ 75% dintre părinţi au declarat că cea mai mare îngrijorare a lor, legată de utilizarea Internetului de către copii, este expunerea acestora la conţinut nepotrivit sau posibilitatea ca aceştia să fie contactaţi online de persoane pe care nu le cunosc în viaţa reală.

Potrivit studiului, vizionarea de conţinut video de către copii şi jocurile sunt principalele activităţi indicate de părinţi.

„Vizionarea de conţinut video are incidenţa maximă la copiii cu vârsta sub 5 ani de aproximativ 80% şi scade spre 50% în cazul adolescenţilor. Utilizarea reţelelor de socializare creşte semnificativ odată cu vârsta, cu un accent deosebit pentru Instagram şi WhatsApp, accesate de 86% dintre adolescenţi, urmate de TikTok (70%). (…) Adolescenţii de 16-17 ani petrec o perioadă considerabilă de timp navigând pe Internet, 34% dintre ei fiind online între 4 – 6 ore pe zi şi 14% depăşind şase ore pe zi”, conform studiului, care a fost realizat în rândul a 2.000 de părinţi care au copii între 7 ani şi 17 ani.

România, în așteptarea unei legi împotriva deep fake, a celor care generează conținut AI fals

Ministrul Cercetării, Inovării şi Digitalizării, Bogdan Ivan, spunea, în urmă cu două luni, că legea împotriva materialelor de tip „deep fake”, generate de Inteligență Artificială, este dezbătută în Parlament, iar „până în aprilie (n.r. – până acum, nu există o astfel de lege împotriva deep fake), o să avem această lege.”

Oficialul din Guvern afirmă că acele persoane care au inițiat astfel de conținut „pot să ajungă inclusiv la pedepse cu închisoare până la 2 ani”.

Este, cred, cea mai spinoasă discuție a momentului. Sunt patru miliarde de oameni care își aleg viitorul în 2024, iar acest fenomen este și în România, și în toată lumea. Încă de anul trecut am demarat strategia României de Inteligență Artificială și o lege împotriva deep fake-ului, care vine cu niște reglementări foarte clare pentru acele persoane, companii sau alte entități care generează conținut AI fals.

În mod normal, va trebui votată în cel mai scurt timp, pentru că este în dezbatere la Camera Deputaților, până în aprilie o să avem această lege. Vine cu amenzi pentru cei care produc conținut deep fake, între 600 și 90.000 de lei aici, iar în situația în care o instanță de judecată din România constată că vorbim despre o încălcare foarte gravă a legii, atunci acele persoane care au inițiat astfel de conținut pot să ajungă inclusiv la pedepse cu închisoare până la 2 ani”, spunea ministrul Digitalizării.

Mai mulți politicieni, implicați în cazuri de deep fake

Imaginea mai multor politicieni, printre care Marcel Ciolacu și Sebastian Burduja, a fost folosită în cazuri de deep fake.

De fapt, Sebastian Burduja a fost și primul oficial român care a depus o plângere penală, după ce fața și vocea lui au fost folosite pentru un deep fake. Filmulețul a fost distribuit masiv pe rețelele sociale, iar în imagini, Sebastian Burduja pare că îi încurajează pe oameni să facă investiții. În realitate, era doar o strategie de a-i lăsa pe oameni fără bani, folosindu-se de imaginea ministrului.

Și premierul Marcel Ciolacu a apărut într-un videoclip editat în care pare că îndeamnă oamenii să investească în Hidroelectrica. Videoclipul cu primul-ministru a apărut în contextul în care și miniștrii Transporturilor și Energiei au fost victimele unor astfel de practici și au sesizat autoritățile pentru că imaginea lor este folosită pentru înșelăciune.

O altă postare de tip deep fake este cea în care este folosită imaginea lui Mugur Isărescu, guvernatorul Băncii Naționale a României, fiind distribuită pe mai multe platforme și rețele de socializare.

Banca Națională a României a infirmat atunci informația, transmițând că este o tentativă de fraudă financiară tip deep fake, care folosește imaginea guvernatorului BNR pentru a convinge publicul să facă investiții financiare pe o platformă inexistentă.

CITEȘTE ȘI:

EXCLUSIV| Inteligența artificială dă „restart” școlii românești? Expert: „Va fi un șoc mare! Profesorii nu vor dispărea, dar rolul lor se va schimba”

EXCLUSIV | Toți ochii pe inteligența artificială, într-un an electoral cu MIZE uriașe. Expert digital, despre trendurile AI în 2024: „O nouă etapă!”

EXCLUSIV| ChatGPT și inteligența artificială, speranță sau teamă pentru viitorul omenirii? ”Cei care au creat AI sunt înfricoșați de propria creatură”

EXCLUSIV | Cum va arăta prima lege din UE pentru controlul inteligenței artificiale. ”Recunoașterea biometrică, manipularea subliminală, interzise”

Autor

Mara Răducanu

Mara Răducanu este jurnalist de eveniment. A terminat Facultatea de Jurnalism și Științele Comunicării din București și a lucrat la mai multe publicații, precum Jurnalul național, Evenimentul ... vezi toate articolele