Whisper, un instrument de Inteligență Artificială dezvoltat de OpenAI și folosit în spitalele din SUA, inventează texte și dă rețete medicale FALSE

Whisper, un instrument de Inteligență Artificială dezvoltat de OpenAI și folosit în spitalele din SUA, inventează texte și dă rețete medicale FALSE
Whisper, un instrument de Inteligență Artificială dezvoltat de OpenAI și folosit în spitalele din SUA, inventează texte și dă rețete medicale false
Publicat: 27/10/2024, 14:39

Gigantul tehnologic OpenAI, care deține ChatGPT, și-a prezentat recent noul instrument de transcriere, Whisper, bazat tot pe inteligență artificială. Whisper are, însă, un defect major: inventează bucăți de text sau chiar propoziții întregi, potrivit mai multor cercetători, scrie AP.

Când a fost lansat pe piață, acest instrument de IA era prezentat de OpenAI ca având o „ soliditate și o acuratețe apropiată de nivelul uman”.

Dezvăluiri șocante făcute de cercetători și ingineri IT

Cu toate acestea, se pare că Whisper este predispus să inventeze bucăți de text sau chiar propoziții întregi, conform interviurilor cu peste 10 ingineri de software, dezvoltatori și cercetători universitari.

Acești experți au declarat la unison că unele dintre textele inventate – cunoscute în industrie drept halucinații – includ comentarii rasiale, retorică violentă și chiar tratamente medicale imaginare.

Experții au declarat că astfel de invenții sunt problematice, deoarece Whisper este utilizat într-o serie de industrii din întreaga lume pentru a traduce și transcrie interviuri, a genera texte și a crea subtitrări pentru videoclipuri. Și mai îngrijorătoare este, de fapt, graba centrelor medicale de a utiliza acest instrument de inteligență artificială pentru a transcrie consultațiile pacienților cu medicii.

Potrivit AP, OpenAI a lansat o serie de avertismentel, arătând că Whisper nu ar trebui utilizat „în domenii cu risc ridicat”.

„Ar trebui să existe un standard mai ridicat”

Alondra Nelson, care a condus Biroul de politici științifice și tehnologice al Casei Albe pentru Administrația Biden, până anul trecut, a declarat că astfel de greșeli ar putea avea „consecințe foarte grave”, în special în mediul spitalicesc. „Nimeni nu își dorește un diagnostic greșit. Ar trebui să existe un standard mai ridicat”, a adăugat Nelson.

De asemenea, Whisper este utilizat pentru a crea subtitrări pentru persoanele surde și cu deficiențe de auz – o populație expusă unui risc deosebit de transcrieri greșite.

Peste 30.000 de medici și 40 de sisteme de sănătate (clinici și spitale, în primul rând), inclusiv Clinica „Mankato”, din Minnesota, și Spitalul de Copii din Los Angeles, folosesc Whisper.

CITEȘTE ȘI:

Bloomberg: Administrația SUA analizează posibilitatea LIMITĂRII exporturilor softurilor avansate de inteligență artificială

Școala viitorului, FĂRĂ TEME și toceală, cu inteligență artificială. Cum vor fi elevii peste 20 de ani. ”În lumea în care poți fi orice, fii curios!”

Zack Kass, unul dintre „creierele” din spatele ChatGPT, despre PERICOLUL folosirii AI în scop malefic vs. potențialul imens de a schimba lumea în bine

EXCLUSIV| ChatGPT și inteligența artificială, speranță sau teamă pentru viitorul omenirii? ”Cei care au creat AI sunt înfricoșați de propria creatură”

Urmărește Gândul.ro pe Google News și Google Showcase
Călin Georgescu, acuzat de un om de afaceri că l-ar fi păcălit cu un milion...
Elena Lasconi, mărturie tulburătoare: 'Mama, pe care o iubesc atât de mult, a votat PSD!'
Reacția incredibilă a lui Gigi Becali despre moartea lui Helmut Duckadam
Nepoata lui Putin a vorbit despre cifrele reale ale pierderilor Rusiei în Ucraina, provocând stupoare...
Ultima dorință a lui Helmut Duckadam! Ce se va întâmpla cu trupul său neînsuflețit?!
Cine sunt membrii POT: Partidul bagă în Parlament foști angajați MAI, rezerviști din MApN și...
Purtătorul de cuvânt al PSD, despre finala Lasconi-Georgescu: „Decizia este clară”
Prigoană s-a răzbunat crunt înainte de a muri! Ce lovitură decisivă i-a dat șoferului care...
Fost top model al anilor ’90, imagini incendiare la 40 de ani! Ce consumă zilnic...
Cât a crescut salariul mediu în România în ultimii 5 ani, comparativ cu inflaţia
De ce s-a împușcat în cap polițistul Ionuț Cobzaru. Problemele care l-au împins la gestul...
Imagini sfâșietoare cu soția lui Helmut Duckadam la priveghiul de pe Arena Națională. Alexandra este...
ULTIMĂ ORĂ! A murit o mare cântăreață și actriță. Adio, regina teatrului
Ce presiune trebuie să aibă anvelopele de iarnă?
Momente dramatice în Coreea de Sud. Are loc o luptă pentru putere între preşedinte şi...
Semnale CIUDATE din Cosmos, studiate cu un radiotelescop inactiv din 2020
Răsturnare de situație la Călin Georgescu. Anunțul fostului șef SRI: Oamenii nu se mai tem
Andreea Bălan a fost cerută de soție de Victor Cornea, în avion. Momentul emoționant când...
Anunț bombă după renumărarea voturilor. ”Mai sunt 2-3 județe de numărat. Nu s-a remarcat nicio...
VIDEO De câte ori a fost înșelată Emilia Ghinescu, dar și peste ce anume nu...
Mama Andreei Bălan, reacție surprinzătoare după ce fiica sa a fost cerută în căsătorie de...
BANCUL ZILEI. La ușa lui Bulă apare Poliția Termică: - Aveţi 21 de grade în...
Test de cultură generală. Ce sunt rechinii: pești sau mamifere?