Prima pagină » Actualitate » Zack Kass, unul dintre „creierele” din spatele ChatGPT, despre PERICOLUL folosirii AI în scop malefic vs. potențialul imens de a schimba lumea în bine

Zack Kass, unul dintre „creierele” din spatele ChatGPT, despre PERICOLUL folosirii AI în scop malefic vs. potențialul imens de a schimba lumea în bine

Irina Petrescu

Publicat: 20/09/2024, 08:30

Trăim în timpul unei noi revoluții industriale, așa-numita „Industry 4.0”. Cea de-a patra Revoluție Industrială, care se petrece chiar acum, sub privirile și sub tastele noastre, completează trei etape din evoluția societății care au revoluționat modul în care ne raportăm la mediul înconjurător, dar și la noi înșine.

După prima Revoluție Industrială, generată de inventarea motorului cu aburi și de mecanizarea proceselor de producție, a venit rândul electricității, apoi secolul trecut a fost marcat de o automatizare continuă a proceselor de producție. Acum, inteligența artificială (AI – „artificial intelligence”, n.red.) pare de neoprit. Tot mai multe companii integrează AI în „motorul” lor de funcționare, tot mai mulți elevi provoacă sistemul educațional tradițional prin utilizarea diferitelor instrumente pe bază de AI, iar zeci de milioane de locuri de muncă par a fi în pericol. Vechea teamă a oamenilor că vor fi „înlocuiți de roboți” a reapărut în prim-planul surselor de anxietate la nivelul unor largi segmente ale societăților dezvoltate sau aflate în curs de dezvoltare.

Mai mult decât atât, inteligența artificială vine la pachet cu o serie de provocări care trec de etapa „înlocuirea omului în procesul de producție”. Vorbim despre puterea modelelor și despre capacitatea noastră de a le înțelege deciziile, despre o potențială exacerbare a inegalităților sociale, dar și despre o posibilă alterare (printr-o tendință către „dezumanizare”, „idiocrație” și „alterare a identității”) a modului în care noi, oamenii, ne manifestăm din punct de vedere psihologic și social.

AI are, însă, și o multitudine de beneficii, în special în domeniile sănătății, educației, schimbărilor climatice, transporturilor și finanțelor.

Pentru a afla ce înseamnă pentru noi inteligența artificială, am vorbit cu Zack Kass, fost șef al departamentului Go to Market din cadrul companiei OpenAI și unul dintre „creierele” din spatele ChatGPT, care va veni în România în luna octombrie pentru a participa la evenimentul Dare to Learn. În prezent, Zack Kass promovează potențialul AI în revoluționarea educației, precum și inteligența artificială ca un instrument care poate îmbunătăți semnificativ accesul la cunoaștere.

Zack Kass ne-a vorbit despre beneficiile AI, despre riscurile profunde ale implementării inteligenței artificiale, despre domeniile care vor avea cel mai mult de câștigat de pe urma AI, despre respectarea valorilor umane în dezvoltarea inteligenței artificiale și, mai ales, despre rolul AI în sistemul educațional al prezentului și al viitorului.

Care sunt principalele provocări și obstacole în dezvoltarea inteligenței artificiale? Care sunt perspectivele pentru viitor? Cum credeți că va evolua și se va dezvolta în următorii ani?

Una dintre provocările majore în dezvoltarea inteligenței artificiale este găsirea unui echilibru între puterea modelelor și capacitatea de a le înțelege. Pe măsură ce sistemele AI devin tot mai complexe, devine tot mai dificil să explicăm modul în care acestea ajung la anumite decizii. Această lipsă de claritate poate crea probleme legate de încredere și transparență în utilizarea acestor sisteme.

O altă provocare este abordarea prejudecăților în inteligența artificială, asigurându-ne că modelele sunt corecte și nu perpetuează sau exacerbează inegalitățile sociale.

Privind spre viitor, cred că inteligența artificială va continua să evolueze rapid, cu progrese în domenii precum învățarea prin întărire, procesarea limbajului natural și etica AI. Cheia va fi găsirea de modalități de a integra AI fără probleme în diferite aspecte ale vieții, gestionându-i riscurile și maximizându-i beneficiile.

Care sunt riscurile Revoluției Inteligenței Artificiale?

Implementarea inteligenței artificiale vine cu mai multe riscuri profunde pe care trebuie să le luăm în considerare cu atenție. Unul dintre acestea este riscul de „idiocrație”, unde o dependență excesivă de AI ar putea duce la un declin al rigorii intelectuale și al abilităților de gândire critică.

Pe măsură ce AI preia din ce în ce mai multe sarcini care necesită efort cognitiv, există pericolul ca oamenii să devină mai puțin implicați în rezolvarea problemelor și luarea deciziilor, ducând la o involuție intelectuală generală.

Un alt risc semnificativ este „dezumanizarea”. Pe măsură ce sistemele AI preiau roluri tradițional îndeplinite de oameni, cum ar fi îngrijirea, educația sau chiar compania, există o îngrijorare reală că am putea pierde calități umane esențiale precum empatia și conexiunea. Acest lucru ar putea duce la o societate în care interacțiunile umane sunt reduse și în care adâncimea relațiilor noastre și înțelegerea reciprocă suferă.

„Alterarea identității” este un alt risc potențial, pentru că oamenii ar putea începe să se bazeze pe AI pentru îndrumare în ceea ce privește deciziile personale și legate de identitate, ducând la o pierdere a individualității. Pe măsură ce algoritmii AI influențează mai multe aspecte ale vieții noastre – de la ceea ce consumăm până la modul în care ne prezentăm -, există pericolul ca identitățile noastre să fie mai mult formate de tehnologie decât de propriile noastre alegeri și experiențe.

Un alt risc important este cel legat de „nealiniarea” inteligenței artificiale, adică posibilitatea ca sistemele AI să se dezvolte sau să fie folosite într-un mod care nu se potrivește cu valorile și obiectivele umane. Dacă AI ajunge să evolueze într-un mod care contrazice interesele noastre fundamentale, ar putea reprezenta o amenințare gravă pentru viitorul umanității, ducând la situații pe care nu le putem controla sau corecta.

În ciuda acestor riscuri, AI are și un potențial imens de a schimba lumea în bine. În următorii ani, ne putem aștepta ca AI să revoluționeze domenii precum sănătatea, prin medicina personalizată și detectarea timpurie a bolilor, și să ajute în combaterea schimbărilor climatice, prin utilizarea eficientă a energiei și monitorizarea mediului.

Cheia va fi să valorificăm beneficiile AI, în timp ce gestionăm cu grijă riscurile, pentru a ne asigura că progresul tehnologic aduce avantaje întregii umanități.

Și pentru că vorbeați despre schimbarea lumii în următorii ani. Ce aplicații cu AI au acest potențial? Putem dezvolta puțin acest subiect și să ne dați câteva direcții?

AI are potențialul de a revoluționa mai multe sectoare în următorii ani, cu câteva aplicații deosebindu-se prin prisma impactul pe care îl pot avea:

Sănătatea: AI este pe cale să revoluționeze sectorul sănătății prin medicina personalizată, detectarea timpurie a bolilor și analiza predictivă. Algoritmii de învățare automată pot analiza cantități enorme de date medicale pentru a identifica modele pe care medicii le-ar putea rata, ducând la diagnostice mai precise și planuri de tratament personalizate. Instrumentele bazate pe AI pot, de asemenea, să eficientizeze descoperirea de medicamente, reducând semnificativ timpul și costurile asociate cu punerea pe piață a noilor medicamente.
Combaterea schimbărilor climatice: AI poate juca un rol esențial în combaterea schimbărilor climatice prin optimizarea consumului de energie, îmbunătățirea eficienței surselor de energie regenerabilă și modelarea schimbărilor de mediu. Sistemele AI pot examina date climatice complexe pentru a prezice tendințele viitoare, oferind guvernelor și organizațiilor informațiile necesare pentru a lua decizii mai bine fundamentate în privința gestionării resurselor și protecției mediului.
Educație: AI-ul are potențialul de a revoluționa educația, oferind experiențe de învățare adaptate nevoilor fiecărui student în parte. Sistemele inteligente de tutoriat pot ajusta materialele și feedbackul în funcție de stilul și ritmul fiecăruia, ceea ce ar putea îmbunătăți eficiența învățării și contribui la micșorarea diferențelor educaționale, în special în comunitățile defavorizate.
Transport și logistică: Vehiculele autonome și sistemele logistice bazate pe inteligența artificială sunt pe cale să schimbe radical modul în care ne deplasăm. Ele vor face transportul mai eficient, vor reduce accidentele și vor micșora emisiile. Inteligența artificială poate îmbunătăți lanțurile de aprovizionare, ceea ce înseamnă livrări mai rapide și costuri mai mici. În plus, în planificarea orașelor, AI poate contribui la crearea unor metropole mai inteligente, cu trafic mai fluid și transport public mai bine organizat.
Finanțe: În sectorul financiar, inteligența artificială își face deja simțită prezența în moduri variate, cum ar fi tranzacționarea automată, detectarea fraudei și oferirea de sfaturi financiare personalizate. AI poate analiza date financiare în timp real pentru a lua decizii de investiții, identifica activități suspecte și oferi consumatorilor soluții financiare adaptate nevoilor lor. Acest lucru ar putea face serviciile financiare mai accesibile și ar putea îmbunătăți eficiența întregii economii.
Agricultură: Aplicațiile AI în agricultură, cum ar fi agricultura de precizie, pot ajuta la maximizarea recoltei, reducerea risipei și micșorarea utilizării pesticidelor și fertilizanților. Dronele și senzorii echipați cu AI pot urmări starea culturilor, condițiile solului și prognozele meteo, oferind fermierilor informații de care au nevoie pentru a lua decizii bazate pe date, ceea ce duce la o producție mai eficientă și mai prietenoasă cu mediul.

Cum poate fi asigurat un echilibru între progresul tehnologic și respectarea valorilor umane în dezvoltarea inteligenței artificiale?

Pentru a găsi un echilibru între avansul tehnologic și respectarea valorilor umane, e nevoie de o abordare complexă. În primul rând, dezvoltarea inteligenței artificiale ar trebui să se bazeze pe principii etice clare, care să pună accent pe bunăstarea umană, echitate și transparență. Este important să implicăm diverse perspective în procesul de dezvoltare, inclusiv eticieni, sociologi și reprezentanți ai comunităților afectate, pentru a ne asigura că tehnologiile AI sunt aliniate cu valorile societății.

De asemenea, trebuie să avem cadre legale care să reglementeze utilizarea AI, pentru a ne asigura că este implementată responsabil. Monitorizarea și evaluarea constantă sunt esențiale pentru a identifica și gestiona orice efecte neprevăzute care ar putea apărea.

Să trecem la un alt aspect foarte discutat legat de inteligența artificială. Care sunt provocările etice? Cine își asumă responsabilitatea legală în cazul unei erori cauzate de un sistem de inteligență artificială?

Provocările etice în domeniul inteligenței artificiale sunt destul de complicate și necesită o atenție deosebită. Una dintre cele mai mari dificultăți este să facem procesele de luare a deciziilor ale AI ușor de înțeles. Pe măsură ce modelele de AI devin tot mai sofisticate, devine tot mai greu să înțelegem cum ajung la anumite concluzii. Chiar dacă nu putem elimina complet prejudecățile, este crucial să ne asigurăm că sistemele de AI sunt transparente și că deciziile lor pot fi explicate, pentru a construi încredere și responsabilitate.

O altă provocare importantă este alinierea. Aceasta înseamnă să ne asigurăm că sistemele de inteligență artificială respectă valorile și obiectivele umane. Dacă nu sunt aliniate, aceste sisteme ar putea acționa într-un mod dăunător sau contrar intereselor noastre, creând astfel probleme etice serioase.

Confidențialitatea este un aspect esențial de luat în considerare. Sistemele de inteligență artificială se bazează deseori pe cantități mari de date personale pentru a funcționa eficient, ceea ce ridică întrebări despre cum sunt colectate, stocate și folosite aceste informații. Este o responsabilitate importantă, atât pentru dezvoltatorii, cât și pentru utilizatorii de AI, să se asigure că datele sunt gestionate în mod responsabil și că intimitatea persoanelor este protejată.

Unul dintre cele mai mari pericole este folosirea incorectă sau abuzivă a sistemelor de inteligență artificială, care ar putea fi utilizate în scopuri malefice sau neetice. De exemplu, AI ar putea fi folosită pentru supraveghere abuzivă, manipularea informațiilor sau chiar crearea de arme autonome. Este esențial să ne asigurăm că tehnologiile de AI sunt bine protejate împotriva acestor riscuri și că există măsuri clare pentru cei care se implică în astfel de practici, pentru a menține standardele etice în dezvoltarea și utilizarea AI.

În ceea ce privește responsabilitatea legală, acest domeniu evoluează constant. Cred că este posibil ca guvernele să intervină și să preia o parte importantă din responsabilitatea legată de sistemele critice de AI, așa cum au făcut cu ipotecile pentru locuințe. Asta ar însemna crearea unor reguli și protecții care să garanteze responsabilitatea, dar să și sprijine inovația. O astfel de implicare ar oferi companiilor care folosesc AI în domenii critice o anumită siguranță, permițându-le să continue să inoveze, știind că există măsuri pentru a face față greșelilor sau eșecurilor.

Care credeți că este potențialul AI de a transforma educația? Care sunt cele mai mari provocări în implementarea AI în școli?

Inteligența artificială are un potențial extraordinar de a transforma educația prin furnizarea de experiențe de învățare personalizate, prin automatizarea sarcinilor administrative și prin oferirea unor perspective care pot ajuta profesorii să înțeleagă mai bine nevoile elevilor. De exemplu, AI poate adapta conținutul educațional la stilurile, la ritmul și la interesele individuale de învățare, făcând educația mai captivantă și mai eficientă.

Cu toate acestea, cele mai mari provocări în implementarea AI în școli includ asigurarea accesului echitabil la aceste tehnologii, protejarea confidențialității datelor elevilor și formarea profesorilor în utilizarea eficientă a instrumentelor AI.

În plus, există provocarea de a integra AI în curricula existentă într-un mod care să îmbunătățească procesul de învățare fără să înlocuiască elementele umane esențiale ale predării.

Cum se pot asigura profesorii că elevii nu profită de AI și nu încearcă să trișeze la anumite materii?

Pentru a împiedica studenții să folosească AI pentru a trișa, profesorii trebuie să dezvolte o abordare proactivă și cu mai multe fațete. Un pas important ține de elaborarea unor evaluări care provoacă gândirea critică a elevilor și abilitățile lor de rezolvare a problemelor, mai degrabă decât evaluarea memorării informațiilor sau cunoștințele de bază. Acestea pot include evaluări bazate pe proiecte, întrebări deschise sau examene orale, unde este mai puțin probabil ca instrumentele AI să ofere răspunsuri simple.

În plus, cred că profesorii ar trebui să înceapă să antreneze mințile elevilor și mai mult, încurajându-i să gândească profund și creativ. Aceasta presupune trecerea de la simpla dobândire de cunoștințe la dezvoltarea agilității și adaptabilității intelectuale. Profesorii ar trebui să fie responsabili cu dezvoltarea unor tineri adulți bine adaptați, capabili să gândească critic, să rezolve probleme și să se adapteze la situații noi, mai degrabă decât să fie capabili doar să „știe”.

Promovând o cultură a integrității academice și stabilind așteptări mari în privința dezvoltării intelectuale, profesorii pot îndruma elevii către o înțelegere mai profundă a materialului și a utilizării etice a AI în procesul de învățare.

Ce păreri aveți despre includerea din ce în ce mai accentuată a inteligenței artificiale în programa școlară? Aveți vreo îngrijorare legată de acest lucru?

Cea mai mare îngrijorare a mea legată de integrarea inteligenței artificiale în sistemul educațional este riscul de a reduce, fără să ne dăm seama, accentul pus pe gândirea critică.

Deși AI poate oferi experiențe de învățare personalizate și poate automatiza anumite sarcini, există pericolul ca elevii să devină prea dependenți de AI pentru a obține răspunsuri, în loc să își dezvolte abilitățile de a analiza, evalua și rezolva probleme în mod independent.

Dacă nu suntem atenți, confortul și eficiența aduse de AI ar putea muta atenția de la a învăța elevii cum să gândească profund și critic despre probleme complexe. Aceasta ar putea duce la formarea unei generații care este mai bine informată, dar mai puțin capabilă să gândească pe cont propriu. Pentru a diminua acest risc, este esențial ca AI să fie utilizată ca un instrument pentru îmbunătățirea învățării, nu ca o cârjă care să diminueze importanța dezvoltării rigurozității intelectuale și a gândirii independente.

Trebuie să ne asigurăm că integrarea AI în educație este echilibrată cu menținerea unui accent puternic pe cultivarea abilităților de gândire critică, astfel încât elevii să fie nu doar bine informați, ci și capabili să aplice acele cunoștințe într-un mod semnificativ și inovator.

Cum vedeți evoluția rolului inteligenței artificiale în educație în următorii 5-10 ani?

În următorii 5-10 ani, cred că inteligența artificială va deveni o parte esențială a educației, ajutând la crearea unor trasee de învățare personalizate pentru elevi și oferind profesorilor date utile pentru a-și îmbunătăți metodele de predare.

AI va putea identifica din timp eventualele dificultăți ale elevilor, facilitând intervenții rapide și eficiente pentru a-i sprijini. De asemenea, ar putea transforma procesul de învățare în unul mai captivant și interactiv, prin realitate virtuală sau jocuri educative.