Inteligență artificială în loc de funcționari publici. Ce spun specialiștii: „Trebuie să își pună probleme de privacy și de data protection”

Ministerul Digitalizării vrea să introducă un nou sistem prin care vom putea adresa întrebări legate de proceduri unui chatbot. Exemplul dat de ministrul Bogdan Ivan se referă la eliberarea unei cărți de identitate. În lupta de a contracara cheltuielile cu angajații la stat Guvernul încearcă să introducă măsuri care să ducă la eficientizarea aparatului birocratic. Specialiștii spun însă că această măsură nu este deloc ieftină.

Gândul a stat de vorbă cu Tudor Galoș, consultant în Protecția Datelor Personale (GDPR), despre ce ar însemna o astfel de transformare. Acesta a punctat faptul că ideea nu este una neinspirată, dar costurile și perioada de training pentru un astfel de program presupun un efort demn de luat în seamă. Practic ar fi două posibilități pentru un astfel de software, fie să se înscrie pe platforma CHAT GPT, fie să se construiască ceva de la 0.

ION identifică topicul în social media, salariile sunt mici, taxele sunt mari, se creează niște arbori pe topicuri și se prezintă primului ministru. ION este foarte departe de a fi un chatbot, sau ceea ce dorește ministrul un LLM (large language modem), în care omul să vorbească cu algoritmul. Cred că a fost și dumnealui în eroare la fel cum mulți români au fost, de acel interviu cu prim ministrul la acea vreme, domnul Nicolae Ciucă. A fost o regie, ION face cu totul și cu totul altceva, spune specialistul.

Un propriu algoritm ar trebuie să treacă printr-o perioadă de training foarte complexă, dar se poate conecta un astfel de LLM care să furnizeze informațiile, însă acestea nu sunt întotdeauna corecte.

CHAT GPT nu știe să facă diferența dintre informații corecte sau incorecte, între updatat sau neupdatat.  Timpul de trainuire este destul de ridicat, de asemenea, resursele utilizate sunt mari, ai avea nevoie de servere, de bandă, de putere de procesare, open AI are niște costuri uriașe. Să spunem că implementează ceva propriu, trebuie să își pună probleme de privacy și de data protection. Cum să protejezi datele oamenilor, cum vezi cât timp sunt datele oamenilor ținute, cum sunt folosite. Este o chestie destul de periculoasă.

Specialistul mai spune că multe LLM-uri sunt inspectate în acest moment exact pe protecția datelor personale ale utilizatorilor.

Ce formă ar avea noua tehnologie?

Ideea ministrului a fost inspirată de IO însă acesta ar vrea ca tehnologia să fie folosită pentru a crea un chatbot care să furnizeze informaţii pe care le poate oferi statul.

Am avut o discuţie cu echipa care a creat acel robot ION. Sunt nişte oameni remarcabili, vizionari. În momentul de faţă, ceea ce le-am solicitat ca proiect foarte clar este cel în care putem să folosim parte din tehnologia care l-a creat pe ION pentru oferirea unor date foarte clare de model chatbot referitoare la informaţiile pe care le poate oferi statul. De exemplu, până când vom implementa sistemele noastre, dacă cineva vrea să vadă care sunt paşii pentru a îşi înnoi un document de identitate să poată la un moment dat, pe modelul chat GPT cum pot să mânuiesc buletinul şi atunci să primească paşii foarte clari din partea lui. (…) Vorbim despre un software, nu e vorba despre un format fizic pe care să pui mâna, ca să zic aşa, spune ministrul.

Acesta a adăugat că nu este vorba despre o replică a lui ION în fiecare instituție ci un software, nu despre un format fizic.