Cercetătorii de la Universitatea Cambridge: Asistenții AI vor deveni capabili să îi INFLUENȚEZE pe cei care îi folosesc

Potrivit cercetătorilor de la Universitatea Cambridge, instrumentele de inteligență artificială (AI) ar putea fi utilizate pentru a manipula publicul online în procesul de luare de decizii – variind de la ce să cumpere la cu cine să voteze.

Un nou studiu al cercetătorilor de la Leverhulme Centre for the Future of Intelligence (LCFI) din Cambridge evidențiază o nouă piață emergentă pentru „semnalele digitale de intenție” – cunoscută sub numele de „economia pe bază de intenție” – în care asistenții AI înțeleg, prevăd și manipulează intențiile umane și vând aceste informații companiilor care pot profita de pe urma lor, conform The Guardian.

Economia pe bază de intenții ar fi succesorul economiei pe bază de atenție, în care rețelele sociale îi țin pe utilizatori conectați la platformele lor și le oferă reclame.

EXCLUSIV Cine a luat decizia executării soților Ceaușescu? Lavinia Betea: „Însuși Gorbaciov se arată oripilat, aceasta nu avea cum să fie o decizie sovietică”

12:18

EXTERNE 8000 de candidați pentru 187 de posturi la un singur examen, ținut pe o pistă de aterizare pentru avioane, în India

12:12

Motivațiile unei persoane, mai degrabă decât atenția sa, noua monedă de schimb

În economia pe bază de intenții, companiile de tehnologie cu inteligență artificială vând celui care licitează cel mai mult ceea ce știu despre motivațiile unei persoane, de la planuri pentru un sejur la un hotel la opiniile despre un candidat politic.

„Timp de decenii, atenția a fost moneda de schimb pe internet. Acordarea de atenție platformelor de social media, precum Facebook și Instagram, a fost motorul economiei online”, a declarat Dr. Jonnie Penn, istoric al tehnologiei la LCFI.

Jonnie Penn a adăugat:

„Dacă nu este reglementată, economia pe bază de intenții va trata motivațiile persoanei ca pe noua monedă. Va fi o goană după aur pentru cei care vizează, dirijează și vând intențiile umane. Ar trebui să începem să luăm în considerare impactul probabil pe care o astfel de piață l-ar avea asupra aspirațiilor umane, inclusiv alegeri libere și corecte, o presă liberă și o concurență loială pe piață, înainte să devenim victime ale consecințelor neintenționate.”

Studiul susține că modelele mari de limbaj (LLM), tehnologia care stă la baza instrumentelor de inteligență artificială precum chatbotul ChatGPT, vor fi utilizate pentru a „anticipa și orienta” utilizatorii pe baza „datelor intenționale, comportamentale și psihologice”.

Autorii afirmă că economia pe bază de atenție le permite clienților de publicitate să cumpere accesul la atenția utilizatorilor în prezent prin licitații în timp real pe bursele de publicitate, sau să cumpere atenția în viitor prin achiziționarea de spațiu pe un panou publicitar pe o perioadă de o lună.

Conversații „dirijate” spre beneficiul clienților de publicitate și al companiilor

LLM-urile vor putea accesa atenția utilizatorilor și în timp real, întrebând, de exemplu, dacă un utilizator s-a gândit să vadă un anumit film – „te-ai gândit să vezi Spider-Man în seara asta?” – precum și să facă sugestii legate de intențiile viitoare, cum ar fi întrebarea: „Ați menționat că vă simțiți suprasolicitat, să vă rezerv acel bilet la film despre care am vorbit?”

Studiul prezintă un scenariu în care aceste exemple sunt „generate dinamic” pentru a corespunde unor factori precum „urmele comportamentale personale” și „profilul psihologic” al unui utilizator.

„Într-o economie pe bază de intenție, un LLM ar putea, cu costuri reduse, să valorifice cadența, politica, vocabularul, vârsta, sexul, modul în care unui utilizator îi place să fie complimentat și așa mai departe, împreună cu ofertele intermediate, pentru a maximiza probabilitatea de a atinge un anumit obiectiv (de exemplu, vânzarea unui bilet la film)”, sugerează studiul.

Într-o astfel de lume, un model de inteligență artificială ar dirija conversațiile în serviciul clienților de publicitate, al companiilor și al altor părți terțe.

Potrivit raportului, clienții de publicitate vor putea utiliza instrumente generative de inteligență artificială pentru a crea anunțuri online personalizate.

Modelele de inteligență artificială își vor putea modifica rezultatele ca răspuns la „fluxurile de date generate de utilizatori”, a adăugat studiul, citând cercetări care arată că modelele pot deduce informații personale prin conversații obișnuite și chiar „dirija” conversațiile pentru a obține mai multe informații personale.

Deși există deja o industrie dedicată prezicerii și licitării pe baza comportamentului uman, potrivit raportului, modelele AI vor distila aceste practici într-un „format foarte cuantificat, dinamic și personalizat”.

Foto: Profimedia

CITIȚI ȘI: