EXCLUSIV| ChatGPT și inteligența artificială, speranță sau teamă pentru viitorul omenirii? ”Cei care au creat AI sunt înfricoșați de propria creatură”

Dezvoltarea inteligenței artificiale și ChatGPT par să-i fi speriat chiar și pe mai marii planetei, cei care au girat, au creat și au pariat la un moment dat pe revoluția digitală. Elon Musk şi un grup de experţi în inteligenţă artificială şi de directori din industrie au cerut o pauză de şase luni în antrenarea unor sisteme mai puternice decât modelul GPT-4, recent lansat de OpenAI, invocând potenţiale riscuri pentru societate şi umanitate. Digitalizarea a devenit un deziderat pretutindeni în lume, însă reversul medaliei nu este ușor de gestionat. Deși nu ne situăm pe locurile fruntașe în clasamentul țărilor cu cetățeni bine instruiți digital, pandemia a accelerat și în România procesul de digitalizare.

Cât de etic sau de periculos este să folosim ChatGPT? Într-un viitor apropiat, ne vor lua roboții locurile de muncă? Cine decide, în cazul inteligenței artificiale, care este granița între informația de calitate și cea cu potențial de risc și fake news? Este inteligența artificială folosită exclusiv în scopuri care ajută omenirea?

Alexandra Cernian, lector universitar la Facultatea de Automatică și Calculatoare, dar și expert evaluator în inovație digitală pentru Comisia Europeană, a declarat, într-un interviu pentru GÂNDUL, că pericolul digital vine, de multe ori, din faptul că, în zona de inteligență artificială, folosirea informației nu este bine delimitată  și statuată printr-o lege clară, existând doar niște principii generale.

Adrian Sângeorzan, medic român la New York, susține că și în Statele Unite ale Americii, subiectul inteligenției artificiale stârnește discuții ample, iar imprevizibilul situației amplifică îngrijorarea utilizatorilor.

Medicul a subliniat că semnele de întrebare cu privire la AI sunt cu atât mai multe cu cât chiar cei care care au creat-o au ajuns să fie, la rândul lor „înfricoșați de propria lor creatură”, ceea ce nu face decât să accentueze și mai mult controversele legate de acest subiect.

Expert digital: „Din pandemie, procesul de digitalizare a fost accelerat”

Autoritățile și administrația au fost nevoite să digitalizeze o parte din procese și lucrul acesta nu a fost întotdeauna bine primit de populație.

Alexandra Cernian spune că va fi greu procesul, pentru că România este, din păcate, în continuare, pe ultimul sau penultimul lor în clasamentul care ne arată cât de instruiți digital suntem la nivel general ca nație.

”Până nu alfabetizăm oamenii de rând, până la urmă, cu ce înseamnă transformarea digitală, va fi greu să trecem prin procesul ăsta.

Este adevărat că există și o Românie a viitorului, există tineri care se orientează spre startup-uri noi, deschiși către zona asta de a inova și deschiși către tehnologiile noi. Dacă vorbim la nivel național, procesul este, cred, în urma timpurilor noastre și dacă nu se iau niște măsuri mai unitare la nivel național, va dura până când ajungem la obiectivul dorit.

Este ușor să duci o inteligență artificială în zona de discriminare, să dai informații fake news, reversul poate să fie foarte ușor scos la iveală, mai ales în contextul actual, când, încă nu avem niște reglementări, deși Comisia Europeană de ani de zile a făcut grupuri de lucru și tot felul de instituții care au rolul de a reglementa inteligența artificială.

Momentan, nu există niște directive clare, adică asta se face, asta nu se face. Suntem cumva într-o zonă gri, cine decide ce este bine și ce nu este bine. În momentul în care apare acest ChatGPT, există un pericol din punctul acesta de vedere, al faptului că informația nu este reglementată„, explică expertul digital.

„Odată cu Chat GPT, lucrurile au luat o amploare care nu fusese prevăzută”

Experul digital susține că tehnologia de acum ne permite să avem implementări pentru lumea reală. Mai exact, algoritmi aplicați în medicină, în descoperirea de tratamente, în ingineria genetică, care încep să rezolve cu succes probleme concrete cu aplicabilitate pentru lumea reală.

Alexandra Cernian atrage însă atenția că toate aceste dezvoltări digitale vin la pachet și cu reversul medaliei, mai exact atunci când algoritmii sunt folosiți în scopuri mai puțin etice.

„Conceptul nu este unul nou, adică noțiunea de inteligență artificială – care a plecat de la ideea de a construi o mașină sau a face în așa fel încât mașinile să ajungă să reproducă modul de gândire al experților pe anumite domenii. Ideea a început prin 1960-1970 și de atunci s-a tot dezvoltat, oarecum în valuri. Puterea de calcul și calculatoarele de la momentul acela nu permiteau o prelucrare foarte accelerată a datelor și atunci, abordarea principală a fost una mai simplificată.

S-au dezvoltat așa-numitele sisteme-expert, care aveau rolul să imite sau să reproducă modul de gândire al unui expert uman într-un domeniu, în așa fel încât să ofere un suport decizional omului. Au apărut astfel de sisteme pe zona medicală, care puteau să ofere, să spunem, tu introduceai niște simptome și în spate aveau multe seturi de reguli care făceau sau se dorea să facă o corelare foarte asemănătoare cu cea a medicului, ca să ajungă la o concluzie asemănătoare cu cea a medicului expert uman.

Odată cu dezvoltarea puterii de calcul, a început să ia amploare în această zonă de dezvoltare a algoritmilor «machine learning», cei care încep să învețe singuri, să aibă o putere de prelucrarea a datelor peste cea a oamenilor. Lumea și-a dat seama că se pot face lucruri spectaculoase cu puterea de calcul de care începem să dispunem și totodată cu volumul de date de care dispunem în omenire la acest moment.

Și acum cred că se atinge un nou punct de cotitură cu ChatGPT, pentru că, ați văzut, a fost aplicația cu cea mai rapidă atragere de utilizatori și, evident, cu toate discuțiile colaterale legate de problemele de etică, dacă este bine sau nu să-l folosim și ce impact are”, a explicat Alexandra Cernian.

„În viitor, tot ce înseamnă muncă de rutină, repetitivă va avea un întocuitor de tipul inteligenței artificiale”

Expert digital crede că, în timp, o parte din job-uri vor dispărea și că este important de văzut care va fi viziunea fiecărui stat în ceea ce privește pregătirea și reconsversia profesională a oamenilor.

„Cu siguranță, o parte din job-uri vor dispărea încet-încet. Aici, nu aș spune neapărat asta pe seama inteligenței artificiale, de tip ChatGPT. Ce face ChatGPT pe zona asta de asistenți virtual este una din nișele în care se aplică inteligența artificială, dar domeniul este foarte vast. Într-o anumită direcție, este clar că în viitor, tot ceea ce înseamnă muncă de rutină, muncă repetitivă va avea un întocuitor de tipul inteligenței artificiale.

Și aici este normal ca oamenii care au job-uri în zona asta să se simtă amenințați, cum au fost cazurile în care fabrici întregi au dat afară toți oamenii și au rămas cu cinci sau cu un singur angajat. Este adevărat că, în revers, inteligența artificială creează la pachet alte job-uri care, până în prezent, nu existau.

Ce facem însă cu acești oameni care sunt, în această fază, înlocuiți de inteligența artificială și care aveau job-uri de nivel mai jos, iar reconvertirea lor în job-uri care, să zisem, construiesc inteligența artificială este mult mai dificilă? Vorbim deja de alte competențe decât cele pe care le aveau oamenii care încep să fie înlocuiți. Aici rămâne un subiect deschis și vom vedea cum va fi abordat la nivel de fiecare stat, la nivel global, problema asta de reconversie și de reintegrare a oamenilor într-un context nou”, a adăugat Alexandra Cernian.

„Cei care au creat inteligența artificială sunt înfricoșați de propria lor creatură”

Adrian Sângeorzan, medic român la New York, a spus, pentru Gândul, că nici în SUA lucrurile nu sunt mai optimiste în privința funcționării ChatGPT.

Medicul susține că evoluția inteligenței artificiale este greu de prevăzut, iar pericolele acesteia, greu de gestionat pentru utilizatorul de rând.

Aici (în SUA – n.r.), unii renunța la ChatGPT pentru că li s-au furat datele. AI e doar la început și nu se știe cum va evolua. Cei care au creat-o sunt cam înfricoșați de propria lor creatură. Este ca un animal de curte care se poate sălbătici peste noapte. Va distruge foarte multe joburi și se va infiltra peste tot, inclusiv în zona health care system”, a precizat Adrian Sângeorzan.

Semnal de alarmă tras de un cercetător: „Închidem totul!”

Inteligența artificială, marele deziderat al omenirii, pare că dă bătăi de cap chiar și „creatorilor” săi. Eliezer Yudkowsky, cercetător în domeniul inteligenţei artificiale, a afirmat, într-un editorial publicat de revista Time, că ar trebui să „închidem totul.”

Lui Eliezer Yudkowsky i s-au alăturat și alți specialiști care susțin că, prin ChatGPT și AI, nu suntem în fața unui subiect pur tehnologic și că nu ar trebui să lăsăm dezbaterea pe mâna companiilor sau guvernelor.

Eliezer Yudkowsky, cercetător şi autor care lucrează la Inteligenţa Generală Artificială (Artificial General Intelligence, AGI) din 2001, a scris articolul ca răspuns la o scrisoare deschisă din partea mai multor nume mari din lumea tehnologiei, în care aceştia au cerut un moratoriu asupra dezvoltării inteligenţei artificiale (AI) timp de şase luni, relatează Business Insider.

Riscul menționat de cercetător este chiar distrugerea speciei umane.

Mulți cercetători implicați în aceste probleme, printre care mă număr și eu, se așteaptă ca rezultatul cel mai probabil al construirii unei inteligențe artificiale supraomenești, în circumstanțe cât de cât asemănătoare cu cele actuale, să fie că toată lumea de pe Pământ va muri”, a scris cercetătorul Eliezer Yudkowsky.

Insistând asupra faptului că omenirea e departe de a fi pregătită pentru astfel de sisteme, Yudkowsky avansează un interval de câteva decenii pentru ca o astfel de pregătire să fie considerată temeinică.

Nu suntem pregătiți. Nu suntem pe cale să fim pregătiți în niciun interval de timp rezonabil. Progresul, în ceea ce privește capacitățile de inteligență artificială, este cu mult, mult mai avansat decât progresul în ceea ce privește alinierea inteligenței artificiale sau chiar progresul în ceea ce privește înțelegerea a ceea ce se întâmplă în interiorul acestor sisteme. Dacă vom face acest lucru cu adevărat, vom muri cu toții.”, mai spune cercetătorul.

Elon Musk, speriat de amploarea inteligenței artificiale?

Elon Musk şi un grup de experţi în inteligenţă artificială şi de directori din industrie cer într-o scrisoare deschisă o pauză de şase luni în antrenarea unor sisteme mai puternice decât modelul GPT-4, recent lansat de OpenAI, invocând potenţiale riscuri pentru societate şi umanitate, potrivit time.com.

Scrisoarea detaliază riscurile potenţiale pentru societate şi civilizaţie pe care le pun sistemele de inteligenţă artificială competitive – în special perturbări economice şi politice – şi solicită dezvoltatorilor să colaboreze cu factorii de decizie politică în ceea ce priveşte guvernanţa şi autorităţile de reglementare.

Sistemele puternice de inteligență artificială ar trebui să fie dezvoltate numai după ce suntem siguri că efectele lor vor fi pozitive și că riscurile lor vor fi gestionabile. (…) Sistemele de inteligență artificială cu inteligență uman-competitivă pot prezenta riscuri profunde pentru societate și umanitate, după cum arată ample cercetări și după cum recunosc laboratoarele de vârf de inteligență artificială”, argumentează semnatarii.

În scrisoare sunt detaliate potențiale riscuri la adresa societății și civilizației din cauza sistemelor de inteligență artificială ce pot provoca dereglări economice și politice, documentul solicitând dezvoltatorilor de astfel de sisteme să colaboreze cu factorii de decizie politică și autoritățile de reglementare.

Toţi semnatarii solicită o pauză în dezvoltarea inteligenţei artificiale avansate până când protocoale de siguranţă comune pentru astfel de modele vor fi dezvoltate, implementate şi auditate de experţi independenţi.

Sistemele puternice de inteligenţă artificială ar trebui să fie dezvoltate numai după ce suntem siguri că efectele lor vor fi pozitive şi că riscurile lor vor fi gestionabile”, se arată în scrisoare.

Apelurile de a întrerupe a AI nu vor „rezolva provocările” viitoare, susține Bill Gates. Cofondatorul Microsoft considerp că ar fi mai bine să ne concentrăm asupra modului în care să folosim cel mai bine evoluțiile legate de sistemele AI, deoarece este greu de înțeles cum ar putea funcționa o pauză la nivel global.

Nu cred că a cere unui anumit grup să facă o pauză rezolvă provocările. Este clar că aceste lucruri au beneficii uriașe, ceea ce trebuie să facem este să identificăm zonele dificile”, a mai spus Bill Gates, citat de Reuters.

ChatGPT, blocat în Italia. Urmează Germania?

Germania ar putea să urmeze exemplul Italiei și să blocheze ChatGPT din cauza îngrijorărilor legate de securitatea datelor, a declarat Ulrich Kelber, comisar german pentru protecția datelor, potrivit Reuters.

”În principiu, o astfel de acțiune este posibilă și în Germania”, a spus Ulrich Kelber, fără să prezinte însă și un plan concret sau să avanseze un orizont de timp.

Totuși, Kelber a adăugat că Germania a cerut deja informații suplimentare în acest sens Italiei, prima țară europeană care a decis să blocheze temporar robotul susținut de Microsoft.

Autoritățile italiene au anunțat, în 31 martie, că ChatGPT va fi blocat pentru o perioadă nedeterminată, după acuzațiile că robotul conversațional încalcă legislația referitoare la datele personale și nu are un sistem de verificare a vârstei utilizatorilor minori. Mai mult, a fost criticată absența unei baze juridice care să justifice colectarea și stocarea în masă a datelor personale.

Ministrul Digitalizării, despre ChatGPT: „Este un drum lung până la interdicție”

Ministrul Digitalizării, Sebastian Burduja, spune că, momentan, nu se pune problema interzicerii de către Guvern a ChatGPT, robotul conversațional dezvoltat de compania OpenAI, așa cum s-a întâmplat în Italia, săptămâna trecută. Sebastian Burduja vrea să ceară o analiză, ale cărei rezultate să fie supuse discuției în Consiliul Operativ de Securitate Cibernetică.

„Nu consider oportun să interzicem o soluție pe bază de AI. Momentan, din perspectiva Ministerului Cercetării, Inovării și Digitalizării, nu se pune problema ca Guvernul să interzică românilor ChatGPT, dar instituțiile abilitate trebuie să facă analizele de specialitate care se impun, fiecare pe domeniul său de competență.

Sigur că există o întreagă discuție despre etica inteligenței artificiale, despre granița dintre libertatea în mediul online și protecția datelor personale. Este o graniță fină, care trebuie să fie permanent în dezbatere, tocmai pentru protecția libertăților fundamentale. Dar este un drum lung până la interdicție”, a precizat ministrul.

Ministerul Cercetării, Inovării și Digitalizării va înființa Comitetul Român pentru Inteligență Artificială, o structură nouă cu rolul de a susține domeniul IA din România. Acesta va avea o abordare incluzivă, cu reprezentanți din administrația publică, mediul privat, academic și societatea civilă.

„Este un domeniu despre care am discutat şi despre care am încercat să facem tot ceea ce ne stă în putinţă să putem să ne aliniem la celalalte state din UE. Avem prin POCIDIF deja 52 de milioane de euro, care au fost asigurate pentru crearea hub-ului pentru inteligenţa artificială.

Ca atare, trebuie să facem în aşa fel încât să folosim inteligenţa cercetătorilor noştri şi a celor care sunt preocupaţi şi îşi desfăşoară activitatea în domeniul cercetării şi inovării atât în ţară, cât şi peste hotare, să poată să se angreneze în acest hub la nivel naţional şi, de asemenea, să poată să se integreze în ceea ce s-a reuşit a se crea la nivelul Uniunii Europene”, a spus premierul Nicolae Ciucă.

Aplicația care ajută sau încurcă

ChatGPT este un chatbot lansat de OpenAI în noiembrie 2022, fiind construit pe baza familiei GPT-3 de modele mari de limbaj. Acesta a atras rapid atenţia și interesul utilizatorilor pentru răspunsurile sale detaliate şi articulate în multe domenii de cunoaştere.

Numele provine de la Chat Generative Pre-Trained Transformer, ceea ce înseamnă că aplicaţia poate răspunde la întrebări pe baza informaţiilor programate de către dezvoltatorii aplicaţiei şi poate face sinteza textului.

ChatGPT este creat de compania OpenAI, specializată în dezvoltarea soluţiilor de inteligenţă artificială. OpenAI este fondată în anul 2015, de către Sam Altman, Greg Brockman, Ilya Sutskever, Wojciech Zaremba şi Elon Musk.

CITIȚI ȘI:

Partea întunecată a ChatGPT: Noul motor de căutare de la Microsoft, bazat pe inteligență artificială, dă rateuri. Insultă utilizatorii, oferă informații false și are ”probleme existențiale”

OpenAI lansează o nouă versiune a ChatGPT: „La fel de bună ca OAMENII în multe contexte”

CHAT, CHAT, CHAT, cine a plagiat?