Inteligenţa Artificială: regulation first?

În aprilie 2021, Comisia Europeană a publicat Planul actualizat privind Inteligenţa Artificială. Actualizarea are vedere schimbările produse de pandemia de Covid-19, în ideea de a accelera punerea în aplicare a strategiilor naţionale privind IA, de a elimina fărâmiţarea diverselor iniţiative şi de a răspunde, astfel, provocărilor din partea marilor jucători – statali sau non-statali.

Reglementarea IA – o preocupare mai veche la nivelul Uniunii Europene

Inteligența articifială (IA) este văzută drept „tehnologia viitorului”, un element definitoriu pentru modernizarea şi dezvoltarea unei societăți. Foarte pe scurt vorbind, IA reprezintă capacitatea unei mașini/ a unui computer de a imita funcții cognitive umane, cum ar fi raționamentul, învățarea, planificarea și chiar creativitatea. În prezent, sistemele de  IA se regăsesc în aplicații precum: asistenți personali virtuali, programe de traducere automată, motoare de căutare, sisteme de recunoaștere vocală și facială, roboți, automobile autonome, drone etc. IA este utilizată și în aplicațiile de identificare și combatere a atacurilor cibernetice și a altor amenințări cibernetice, precum și în anumite aplicații care pot detecta știrile false și dezinformarea prin extragerea de pattern-uri fie privind conţinutul propriu-zis, fie privind circulaţia respectivului conţinut pe reţelele sociale.

ACTUALITATE Vasile Bănescu omagiază martirii Revoluției, în contextul situației actuale: „România subminată educațional, în rânjetele populismului trădător”

18:04

ACTUALITATE Victor Ponta: „Angajații ROMÂNI de la Mar-a-Lago sunt cei mai buni ambasadori ai noștri”

18:00

Beneficiile IA se fac deja simţite în numeroase domenii,  însă procesele automatizate de luare a deciziilor pot crea și unele riscuri la adresa consumatorilor, mai ales acolo unde deciziile sunt luate în totalitate fără nici un input uman. Preocupările Comisiei Europene pentru o astfel de strategie care să încorporeze şi elemente etice datează din 2018 (vezi Strategia europeană privind IA, Planul coordonat privind IA. Iar Carta albă privind IA, publicată de Comisie în 2020, a creionat viziunea europeană în domeniu: un ecosistem bazat pe doi piloni, excelență și încredere.

Sistemele de IA care prezintă un risc inacceptabil – interzise

Recentul plan actualizat propus de Comisie propune, printre altele: măsuri privind partajarea datelor între statele membre, ştiut fiind faptul că datele reprezintă combustibilul pe baza căruia funcţionează Inteligenţa Artificială; investiţii în infrastructurile informatice critice; mobilizarea capacităților de cercetare, dezvoltare și inovare, inclusiv la nivelul administraţiilor publice şi al IMM-urilor; corelarea noii tehnologii cu Pactul Verde privind tranziţia către o economie sustenabilă sau cu reformele din domeniul sănătăţii.

De asemenea, Comisia propune instituirea Comitetului european pentru Inteligența Artificială, care să faciliteze aplicarea unor norme și standarde în domeniu. Sistemele care prezintă risc inacceptabil vor fi interzise; în această categorie, intră, de exemplu, sistemele sau aplicațiile de IA care manipulează comportamentul uman, împiedicând exercitarea liberului arbitru; sistemele care ar permite guvernelor să efectueze o evaluare a comportamentului social („social scoring”); sistemele de evaluare care ar influenţa accesul la educaţie (sisteme de notare în întregime automatizate); utilizarea algoritmilor pentru a crea un profil privind potenţialul comportament infracţional.

În special, documentul Comisiei consideră că toate sistemele de identificare biometrică la distanță prezintă un grad ridicat de risc, motiv pentru care ar trebui să facă obiectul unor reglementări stricte. Comisia propune ca utilizarea acestor sisteme pentru monitorizarea, în timp real, a ceea ce se întâmplă în spaţiile publice să fie interzisă, chiar şi atunci când s-ar putea invoca motivul de respectare a legii. Sunt prevăzute câteva excepții strict definite și reglementate (cum ar fi utilizarea lor pentru a căuta un copil dat dispărut, pentru a preveni o amenințare teroristă clară şi iminentă sau pentru a localiza persoane suspecte de infracțiuni grave); chiar şi în aceste cazuri, utilizarea sistemelor de identificare biometrică este condiționată de obținerea unui mandat, cu precizarea clară a acoperirii geografice, a condiţiilor de accesare a bazelor de date.

Arbitrii nu câştigă meciul

Propunerile Comisiei privind o abordare europeană în domeniul IA urmează să fie adoptate de Parlamentul European și de statele membre. Odată adoptate, regulamentele vor fi direct aplicabile pe tot teritoriul UE. Măsurile reprezintă o premieră la nivel global, având potenţialul de a avea un puternic impact economic la nivelul utilizatorilor/cetățenilor, al statelor membre şi al companiilor transnaţionale din domeniul tehnologic (cele mai multe de provenienţă americană sau chineză).

Este cunoscută suferinţa Uniunii Europene în ceea ce priveşte ritmul inovării, valorificarea comercială a rezultatelor inovării, atragerea capitalului de risc, numărul de patente, numărul de mari companii companii din domeniul tehnologic. De exemplu, în topul primelor companii big tech, evaluate în funcţie de capitalizarea de piaţă, nu se află nici o companie de provenienţă europeană.

În acest context, se pune întrebarea legitimă dacă această suferinţă cronică nu interferează cu dorinţa UE de a fi arbitru al cursei tehnologice dezlănţuite, fără nici un menajament, la nivel global. Cursă care are, în primul rând, implicaţii economice, dar şi serioase conotaţii în ceea ce priveşte prestigiul, soft power, puterea reală sau percepută. În orice caz, chiar şi în cazul în care UE ar reuşi să îşi adjudece acest rol, rămâne să reflectăm la o mai veche vorbă: „arbitrii nu câştigă meciurile”.

Autor

Alina Bârgăoanu

Alina Bârgăoanu este profesor universitar, decan al Facultății de Comunicare și Relații Publice (SNSPA); membru al consiliului consultativ al Observatorului European pentru Media Digitale (European ... vezi toate articolele