EXCLUSIV | Cum va arăta prima lege din UE pentru controlul inteligenței artificiale. ”Recunoașterea biometrică, manipularea subliminală, interzise”

Rapiditatea procesului de digitalizare și dezvoltarea inteligenței artificiale în multe dintre sectoarele pieței muncii, și nu numai, continuă să stârnească dezbateri aprinse, discuții și controverse. În timp ce modernizarea și accelerarea unor procese digitale sunt trecute la capitolul „partea plină a paharului”, există și aspecte care suscită îngrijorare, acestea venind cel mai mult din zona dezinformării, a manipulării, dar și a concepției – justificată sau nu – că mașinăriile automatizate vor înlocui cu brio oamenii, într-un viitor apropiat. De aproape doi ani, Uniunea Europeană lucrează la viitoarea Lege privind Inteligența Artificială (Artificial Intelligence – AI), care-și propune să reglementeze pârghiile de funcționare, dar și să crească încrederea oamenilor în procesul de transformare digitală.

Dragoș Tudorache, președintele Comisiei speciale pentru inteligența artificială în era digitală (AIDA) din Parlamentul European și raportor pentru AI Act, susține într-un interviu pentru Gândul că, dacă până acum, s-a funcționat pe bază de autodisciplină și principii, importanța și amploarea din ultima perioadă a digitalizării, respectiv a inteligenței artificiale, au dus la un nivel de conștientizare a faptului că este nevoie de mai mult decât principii și autodisciplină.

Europarlamentarul susține că este nevoie de reguli clare, de redactarea unui act normativ care să pună frână unor eventuale pericole și provocări venite la pachet cu dezvoltarea tehnologică, indiferent de palierele în care aceasta funcționează.

Dragoș Tudorache precizează că, în acest context, vor fi identificate foarte clar tipurile de aplicații de inteligență artificială pe mai multe paliere de risc.

Aplicațiile catalogate ca având riscul cel mai ridicat asupra intereselor noastre ca indivizi și ca societate vor fi interzise pe piața europeană, subliniază președintele Comisiei pentru Inteligența Artificială din Parlamentul European.

Europarlamentarul a vorbit și despre digitalizarea României, susținând că, în tot acest proces, este vital parteneriatul public-privat, sectorul privat fiind cel care deține, în mare parte, expertiza în acest domeniu.

Românii nu stau însă prea bine atunci când vine vorba despre abilitățile digitale. Potrivit clasamentului „Digital Economy and Society Index” al Uniunii Europene, România se află, în ceea ce privește competențele digitale, pe ultimul loc. Mai exact, potrivit cifrelor, doar 28-29% din populația României are competențe digitale de bază.

„Toate revoluțiile tehnologice au avut ca efect transformarea pieței muncii”

Reporter: Transformarea digitală și, respectiv, inteligența artificială au venit la pachet cu o serie de îngrijorări ale oamenilor. Cât de justificate sunt ele?

Dragoș Tudorache: Preocupările și chiar temerile oamenilor pentru orice evoluție tehnologică sunt cât se poate de firești și, atunci când vrem să înțelegem rolul inteligenței artificiale, trebuie s-o privim ca pe o nouă revoluție industrială. Când a apărut primul motor cu abur, lumea s-a temut de el. Și s-a temut nu doar pentru că nu înțelegea tehnologia din spatele acestui motor, ci și pentru că vedeau faptul că îi pot înlocui în multe din meseriile pe care le făceau până atunci.

Și, într-adevăr, toate revoluțiile tehnologice de până acum au avut ca efect, transformarea – într-o măsură mai mare sau mai mică – a pieței muncii. Însă, întotdeauna, dacă ne uităm la efectul net în piața muncii pentru fiecare revoluție industrială, nu a schimbat cu un rău, nu a dus la dispariția unor întregi categorii profesionale, ci le-a transformat, le-a adaptat.

Anumite tipuri de munci au devenit mai facile prin intervenția tehnologiei. Ceea ce se întâmplă acum cu transformarea digitală și cu inteligența artificială este o situație mai profundă decât toate celelalte, deoarece are un impact în absolut toate zonele de activitate umană. În următorii ani, vom vedea răspândirea acestei tehnologii în aproape toate produsele, în aproape toate serviciile digitale pe care le utilizăm, le accesăm, în interacțiunea noastră ca indivizi, în acțiunea noastră dintre stat și indivizi.

„Inteligența artificială este folosită și pentru a accelera dezinformarea. Să tratăm riscurile cu seriozitate”

În cazul aplicației ChatGPT, unele țări au decis interzicerea acesteia. „Oprim” tehnologia – care cu timpul va deveni omniprezentă – sau găsim antidotul pentru aceste provocări și riscuri care există și care pot apărea de-a lungul timpului, pe măsură ce crește și avântul tehnologic? 

Da, este o tehnologie care va deveni omniprezentă și tocmai prin omniprezența sa, riscurile pe care trebuie să le gestionăm, să le cunoaștem, să le vedem sunt serioase. De aceea, trebuie să le și tratăm cu toată seriozitatea.

Inteligența artificială este folosită și pentru a accelera anumite procese de dezinformare în spațiul public care erodează democrația, erodează încrederea oamenilor în instituțiile statului. 

Este adevărat, sunt foarte multe provocări pe care le ridică această tehnologie, dar noi suntem cei în măsură să ne asumăm responsabilitatea de a pune foarte rapid reguli. Și nu mă refer aici la reguli care să oprească tehnologia.

Este firesc și normal să fim preocupați și să ne punem semne de întrebare cu privire la efectele tehnologiei, însă firesc și normal este ca, pe baza unei analize responsabile, să vezi tipul de reguli de care ai nevoie.

Să fii pregătit politic și să ai curajul să-ți asumi adoptarea unor astfel de reguli, în așa fel încât evoluția tehnologică să se facă în condiții pe care tu, ca societate, le consideri corecte, legitime și proporționale cu interesele pe care vrei să le protejezi.

„Să fim asigurați că avem control asupra modului în care tehnologia este folosită”

Se lucrează la un act normativ la nivelul Uniunii Europene care stipulează reglementarea inteligenței artificiale. Ce se dorește prin această măsură și câtă nevoie este de așa ceva? 

Suntem primii la nivel global care facem lucrul ăsta. Cred că la nivel european s-a dat dovadă de această responsabilitate în a înțelege că acum este momentul de a veni cu aceste reguli care să redea societății încrederea în tehnologie.

Tehologia va fi omniprezentă, va fi parte din economiile noastre, din societățile noastre, iar pentru a avea încredere, trebuie să fim asigurați că avem un control asupra modului în care ea este folosită, dezvoltată și pusă pe piață. Și atunci, având încredere în ea, devine o forță a binelui și nu una a răului.

Până acum, s-a funcționat pe bază de autodisciplină și principii. A venit acest moment în care s-a realizat, la nivel societal, politic, că este nevoie de mai mult decât principii și autodisciplină, că este nevoie de reguli clare. Așadar, la nivelul Uniunii, în urmă cu doi ani, s-a luat această decizie de a se începe redactarea unui act normativ.

Legea UE asupra inteligenței artificiale, până la sfârșitul acestui an?

De la funcționarea AI pe bază de autodisciplină și principii la una cu legi și reguli clare și stricte. Care sunt palierele de risc atunci când vorbim despre inteligența artificială? 

Suntem cei mai avansați din lume, pentru că toate celelalte jurisdicții la nivel global sunt încă în faza în care-și pun întrebarea dacă este cazul să vină cu legi și reguli clare, stricte sau nu. Sper eu, spre sfârșitul acestui an, să avem deja legea în vigoare. Prin această lege se vor stabili foarte clar, pentru că legea nu reglementează tehnologia ca atare, ci utilizarea tehnologiei. În acest context, vor fi identificate foarte clar tipurile de aplicații de inteligență artificială pe mai multe paliere de risc.

Cele cu riscul cel mai ridicat sunt cele considerate a fi atât de dăunătoare prin efectele lor asupra intereselor noastre ca indivizi, ca societate, încât sunt interzise pe piața europeană. Vă dau un exemplu: utilizarea tehnologiei de recunoaștere biometrică în timp real, în spații publice, interzis. Doi: utilizarea inteligenței artificiale pentru a categorisi social indivizii, așa cum fac chinezii, interzis.

Exemplul numărul trei: manipularea subliminală prin tehnici de inteligență artificială, interzis. Sunt, la momentul ăsta, în propunererea Comisiei, vreo patru categorii. Noi, în Parlamentul European, am aprecia șase-șapte tipuri de utilizare de inteligență artificială pe care le considerăm interzise. Ele nu vor putea fi dezvoltate și puse pe piața europeană.

„Nu vrem să gâtuim, mai mult decât este necesar, utilizarea acestei tehnologii”

Urmează apoi etajul doi de risc, categoriile de aplicații de inteligență artificială cu risc ridicat, care nu sunt interzise, vor putea fi dezvoltate, vor putea fi puse pe piață, însă, înainte de asta, vor trebui să respecte anumite reguli. Mai exact, să treacă printr-un proces de verificare, și acolo ne uităm la partea de transparență, la robustețea aplicației în sine.

Sunt pagini de cerințe, toate ținând de capacitatea de a explica transparența cu privire la funcționarea algoritmului, în așa fel încât să ajungem la acel element de încredere. Nici nu vrem să gâtuim, mai mult decât este necesar, utilizarea acestei tehnologii, pentru că ea face parte integrantă din noua economie a datelor din noua transformare digitală a economiilor noastre.

Nici nu vrem să cădem în extrema cealaltă la nivel european, de a veni cu reguli stricte care să opresască inovația în acele domenii care nu comportă riscuri pentru noi ca cetățeni sau societate.

Practic, introducem și acest etaj european în guvernanță și un sistem de penalități, de sancțiuni, de amenzi foarte serios, în așa fel încât legea să nu fie doar o lege pe hârtie și să aibă și suficienți dinți.

„De profesioniști în zona digitalizării este nevoie peste tot”

Câtă nevoie de profesioniști în domeniul digitalizării există, mai ales în contextul în care – luăm aici și exemplul României – multe țări au început un proces de digitalizare accentuată? Ce este important când faci acest pas, de ce expertize, procese, strategii ai nevoie ca autoritate a statului?

Comisia Europeană a făcut în ultimii doi ani o analiză foarte serioasă asupra diferenței între nevoie și realitate, până în 2030, practic, pentru această decadă, și au ajuns la un număr impresionant, de ordinul undeva între 10 și 20 de milioane. Necesarul de experți în această zonă este uriaș și, repet, nu doar în România, ci peste tot.

De data aceasta, expertiza nu se află în zona autorităților statului, în domeniul public, ci se află în domeniul privat, poate cu mici poli sau centre de excelență la nivelul anumitor instituții ale statului. Dar, în general, expertiza vine mai degrabă dinspre mediul privat. Și atunci, statul, și dacă este să vorbim de România, aplicat, Guvernul României și guvernele viitoare vor trebui să înțeleagă nevoia unui parteneriat public-privat.

În acest domeniu, în materia transformării digitale prin care vom trece ca societate și ca economie, chiar este nevoie ca statul să învețe să lucreze împreună cu mediul privat, pentru că, în mare parte, acolo este expertiza.

Parteneriatul stat-privat în cazul digitalizării și inteligenței artificiale

Cum vedeți ideea de transformare digitală a României, realizarea cloud-ului guvernamental despre care am tot auzit în ultima perioadă? Ar putea funcționa?

Digitalizarea statului, crearea cloud-ului guvernamental, la momentul ăsta, este văzut ca un proces de sus în jos și practic aproape totul se duce către instituțiile statului. Chiar dacă este un cloud guvernamental, a crede că poți să-l faci într-o bulă, gestionată strict de stat, fără să înveți să lucrezi cu partenerii, din punctul meu de vedere esențiali din zona privată, este o eroare.

Repet, resursele pentru digital nu sunt în mâna statului. Și chiar dacă statul investește bani publici pentru a construi resurse, mă refer la capacitate de procesare, centre de date, va exista întotdeauna nevoia de a lucra cu mediul privat.

Cum va funcționa cloud-ul guvernamental și aplicarea principiului „o singură dată”

Guvernul a aprobat în ianuarie proiectul de hotărâre privind guvernanţa Platformei de Cloud Guvernamental.

Cloud-ul guvernamental – o investiţie de peste 560 de milioane de euro fără TVA – va funcționa ca o imensă bază cu date de identificare a tuturor românilor, scopul fiind acela de a oferi infrastructura necesară instituțiilor statului pentru digitalizarea activității și relației cu publicul.

Practic, cetățeanul nu va mai fi nevoit „să plimbe” documentele de la o instituție la alta, iar instituțiile ar fi legate între ele și ar face schimb de informații.

„Când datele românilor vor fi accesate, românii vor fi notificaţi, iar jurnalizarea accesului înseamnă că nimeni nu le va putea accesa datele şi să nu lase o urmă. Practic, românii vor şti de câte ori statul le va accesa datele şi vor fi notificaţi în acest sens în timp real”, spunea ministrul Cercetării, Inovării și Digitalizării, Sebastian Burduja.

CITEȘTE ȘI:

EXCLUSIV| ChatGPT și inteligența artificială, speranță sau teamă pentru viitorul omenirii? ”Cei care au creat AI sunt înfricoșați de propria creatură”

EXCLUSIV VIDEO | Profesorul Mircea Dumitru: Să nu ne speriem, ChatGPT nu va ajunge să imite această dimensiune unică a inteligenței umane naturale

EXCLUSIV | Sunt pregătiți oamenii pentru inteligența artificială? ”Se discută de un venit minim garantat, altfel, din ce ar trăi cohorte de șomeri”