BBC: Uigurii sunt folosiți drept cobai de către China pentru testarea sistemelor de supraveghere cu inteligență artificială care detectează stări emoționale

Un sistem de supraveghere bazat pe inteligența artificială (AI) și recunoaștere facială este testat pe uigurii din Xinjiang pentru a le verifica stările emoționale, relatează BBC.

Un inginer de software susține că a instalat astfel de sisteme în sediile poliției din provincia respectivă. Dovezile sunt șocante, potrivit unui activist ale drepturilor omului care le-a analizat. Ambasada Chinei la Londra nu a răspuns direct la aceste acuzații, însă afirmă că drepturile politice și sociale din toate grupurile etnice sunt garantate.

În Xinjiang locuiesc 12 milioane de uiguri etnici, dintre care majoritatea sunt musulmani. Cetățenii din provincie sunt supravegheați zilnic. În zona se regăsesc, de asemenea, „centre de reeducare” foarte controversate, numite lagăre de detenție de înaltă securitate de către grupurile de activiști pentru drepturile omului, unde se estimează că au fost reținute peste un milion de persoane.

Beijingul a susținut întotdeauna că supravegherea este necesară în regiune, deoarece spune că separatiștii care doresc să-și înființeze propriul stat au ucis sute de oameni în atacuri teroriste.

Inteligența articifială, folosită în secțiile de poliție – „Un detector de minciuni cu tehnologie mult mai avansată”

Inginerul de software a fost de acord să discute cu BBC sub anonimat deoarece se teme pentru siguranța sa. Nici numele companiei nu este dezvăluit. Inginerul a prezentat lși dovezi – cinci fotografii ale deținuților uiguri pe care a fost testat sistemul de recunoaștere a emoțiilor, potrivit acestuia.

„Guvernul chinez îi folosește pe uigurii ca subiecți pentru diferite experimente de parcă ar fi șoareci în laboratoare”, a declarat inginerul.

Acesta a vorbit și despre instalarea camerelor în stațiile de poliție din provincie.

„Am pus camera de detectare a emoțiilor la 3 metri de subiect. Este similară cu un detector de minciuni, dar cu o tehnologie mult mai avansată”, a explicat specialistul.

Scaunele de imobilizare, folosite pe scară largă

De asemenea, acesta a relatat că ofițerii de poliție au folosit „scaune de imobilizare” care sunt instalate la scară largă în secțiile de poliție din China.

„Încheieturile sunt puse în legături metalice și la fel și gleznele”, a descris inginerul „scaunele de imobilizare”.

Acesta a prezentat și dovezi despre cum sistemul AI este conceput să detecteze și să analizeze schimbări ale expresiilor faciale și ale porilor. Potrivit declarațiilor acestuia, sistemul crează un grafic circular, iar segmentul roșu reprezintă o atitudine negativă sau anxioasă. Inginerul a susținut că software-ul este destinat „judecății prealabile, fără nicio dovadă credibilă”.

„Oamenii sunt reduși la o diagramă circulară”

Ambasada Chinei la Londra nu a răspuns la întrebările referitoare la utilizarea software-ului de recunoaștere emoțională în provincie, dar a transmis: „Drepturile politice, economice și sociale și libertatea credinței religioase în toate grupurile etnice din Xinjiang sunt pe deplin garantate. Oamenii trăiesc în armonie indiferent de mediul lor etnic și se bucură de o viață stabilă și pașnică, fără restricții privind libertatea personală”.

Dovezile i-au fost arătate lui Sophie Richardson, directorul chinez al Human Rights Watch.

„Este un material șocant. Nu doar că oamenii sunt reduși la o diagramă circulară, sunt oamenii care se află în circumstanțe extrem de coercitive, sub o presiune enormă, bineînțeles că sunt agitați și acest lucru este considerat un incidiciu care arată vinovăția, și cred că este profund problematic”, a transmis aceasta.

Potrivit lui Darren Byler, de la Universitatea din Colorado, uigurii trebuie să ofere în mod regulat mostre de ADN oficialilor locali, să fie supuși scanărilor digitale și majoritatea trebuie să descarce o aplicație guvernamentală de telefonie, care colectează date, inclusiv agenda de contacte și mesaje text.

Viața uigurilor, redusă la generarea de date

„Viața uigură este acum despre generarea de date. Toată lumea știe că smartphone-ul este ceva pe care trebuie să îl porți, dacă nu îl ai la tine, poți fi reținut, ei știu că ești urmărit prin el. Și au impresia că nu există nicio scăpare”, a transmis Darren Byler.

Majoritatea datelor sunt introduse într-un sistem informatic numit Platforma Integrată de Operațiuni Comune, despre care Human Rights Watch susține că arată un comportament presupus suspect.

„Sistemul colectează informații despre zeci de tipuri diferite de comportamente perfect legale, inclusiv lucruri precum dacă oamenii ieșeau pe ușa din spate în loc de ușa din față, dacă puneau benzină într-o mașină care nu le aparținea. Autoritățile plasează acum coduri QR în afara ușilor caselor oamenilor, astfel încât să poată ști cu ușurință cine ar trebui să fie acolo și cine nu”, a explicat Sophie Richardson.

Sistemul „One Person, One File” – Toate informațiile despre o persoană

De multă vreme există semne de întrebare referitoare la cât de strâns legate sunt firmele de tehnologie chineze de stat. Grupul de cercetare IPVM din Statele Unite ale Americii (SUA) susține că a descoperit dovezi în brevetele depuse de astfel de companii care sugerează că produsele de recunoaștere facială au fost concepute special pentru a-i identifica pe uiguri.

Un brevet depus în iulie 2018 de Huawei și China Academy of Sciences descrie un produs de recunoaștere a feței care este capabil să identifice oamenii pe baza etniei lor. Huawei a transmis că „nu a acceptat utilizarea tehnologiei pentru a discrimina sau a asupri membrii oricărei comunități” și că este „independentă de guvern” oriunde a funcționat.

Grupul american a găsit, de asemenea, un document care pare să sugereze că firma dezvoltă tehnologie pentru așa-numitul sistem One Person, One File.

„Pentru fiecare persoană, guvernul îi stochează informațiile personale, activitățile sale politice, relațiile… orice ar putea să vă ofere o perspectivă asupra modului în care persoana respectivă s-ar comporta și ce fel de amenințare ar putea reprezenta”, a explicat Conor Healy, de la IPVM.

Orice potențială disidență, imposibilă

 „(n.r. Acest lucru) Face orice tip de potențială disidență imposibil și creează o predictibilitate adevărată pentru guvern în comportamentul cetățenilor lor. Nu cred că Orwell* și-ar fi imaginat vreodată că un guvern ar putea fi capabil de acest tip de analiză”, a mai susținut specialistul.

(*George Orwell – autor al distopiei sociale SF „1984”, care prezintă consecințele totalitarismului, supravegherii în masă și ale regimentării represive a persoanelor și comportamentelor în cadrul societății)

Cameră de supraveghere special concepută pentru detectarea uigurilor?

Huawei nu a abordat în mod specific întrebările legate de implicarea sa în dezvoltarea tehnologiei pentru sistemul One Person, One File, dar a transmis: „Huawei se opune discriminării de toate tipurile, inclusiv utilizării tehnologiei pentru a efectua discriminări etnice. În calitate de companie privată, Huawei este independentă de guvern oriunde operăm. Nu acceptăm utilizarea tehnologiei pentru discriminarea sau oprimarea membrilor unei comunități”.

Ambasada Chinei la Londra a declarat că nu are „cunoștință” despre aceste programe.

IPVM a susținut, de asemenea, că a găsit materiale de marketing de la firma chineză Hikvision, care promovează o cameră AI care îi detectează pe uiguri și un brevet pentru software dezvoltat de Dahua, un alt gigant tehnologic, care i-ar putea identifica de asemenea pe uigururi.

Cum se apără China

Dahua a declarat că brevetul său se referă la toate cele 56 de etnii recunoscute în China și nu a vizat în mod deliberat pe niciuna dintre ele. Compania a adăugat că a furnizat „produse și servicii care au scopul de a ajuta la menținerea în siguranță a oamenilor” și a respectat „legile și reglementările fiecărei piețe” pe care își desfășoară activitatea, inclusiv Marea Britanie.

Hikvision a transmis că detaliile de pe site-ul său web erau incorecte și „încărcate online fără o revizuire adecvată”, adăugând că nu a vândut sau nu are în gama sa de produse „o funcție de recunoaștere minoritară sau o tehnologie de analiză”.

Dr. Lan Xue, președintele comitetului național chinez pentru guvernarea AI, a declarat că nu este la curent cu brevetele.

„În afara Chinei există o mulțime de acuzații de acest gen. Multe nu sunt exacte și nu sunt adevărate. Cred că guvernul local din Xinjiang a avut responsabilitatea de a-i proteja cu adevărat pe oamenii din Xinjiang … dacă tehnologia este utilizată în aceste contexte, este destul de înțeles”, a transmis acesta.

Ambasada chineză din Marea Britanii s-a apărat susținând că „Nu există așa-numita tehnologie de recunoaștere facială care să conțină analizarea uigurilor”.

Mărturiile unui locuitor: „Am ieșit la cafenea cu prietenii, apoi m-a contactat cineva din guvern”

Se estimează că în China se află jumătate din aproape cele 800 de milioane de camere de supraveghere din lume. De asemenea, are un număr mare de orașe inteligente, cum ar fi Chongqing, unde AI este încorporat în bazele mediului urban.

Jurnalistul de investigație din Chongqing, Hu Liu, a făcut relatări pentru programul Panorama al BBC despre propria sa experiență.

„Odată ce pleci de acasă și pășești în lift, ești surprins de o cameră. Există camere peste tot. Când plec de acasă pentru a merge undeva, sun la un taxi, compania de taxiuri încarcă datele către guvern. Pot să merg apoi la o cafenea pentru a întâlni câțiva prieteni și autoritățile știu locația mea prin intermediul camerei din cafenea. Au fost ocazii în care m-am întâlnit cu niște prieteni și, la scurt timp după aceea, cineva din guvern m-a contactat. M-au avertizat: «Nu te mai întâlni cu acea persoană, nu face asta și asta». Cu inteligența artificială nu avem unde să ne ascundem”, a povestit jurnalistul.