Scenariu Orwellian cu Inteligența Artificială legat de China. Au ajuns sa monitorizeze emoțiile locuitorilor sfidand orce intimitate

• Tweet

Un sistem de camere care folosește inteligența artificială (IA) și recunoașterea facială menit să dezvăluie stările de emoție a fost testat pe uigurii din Xinjiang, informează BBC. Un inginer de software a susținut că a instalat astfel de sisteme în secțiile de poliție din provincie. Un avocat al drepturilor omului căruia i s-au arătat dovezile a descris-o ca fiind șocantă.

Ambasada Chinei la Londra nu a răspuns direct la reclamații, însă afirmă că drepturile politice și sociale din toate grupurile etnice sunt garantate. Xinjiang găzduiește 12 milioane de uiguri minoritari etnici, dintre care majoritatea sunt musulmani. Cetățenii din provincie sunt supravegheați zilnic. Zona găzduiește, de asemenea, „centre de reeducare" foarte controversate, numite lagăre de detenție de înaltă securitate de către grupurile pentru drepturile omului, unde se estimează că au fost reținute peste un milion de persoane. Beijingul a susținut întotdeauna că supravegherea este necesară în regiune, deoarece spune că separatiștii care doresc să-și înființeze propriul stat au ucis sute de oameni în atacuri teroriste.

Inginerul de software a fost de acord să discute cu BBC sub condiția anonimatului, pentru că se teme pentru siguranța sa. Nici compania la care a lucrat nu este dezvăluită. Dar el i-a arătat cinci fotografii ale deținuților uiguri despre care a afirmat că au testat sistemul de recunoaștere a emoțiilor. "Guvernul chinez folosește uigurii ca subiecți de testare pentru diferite experimente la fel cum șobolanii sunt folosiți în laboratoare", a spus el. Și-a subliniat rolul său în instalarea camerelor în secțiile de poliție din provincie: "Am plasat camera de detectare a emoțiilor la 3 m de subiect. Este similar cu un detector de minciuni, dar tehnologie mult mai avansată."

El a spus că ofițerii folosesc „scaune de reținere" care sunt instalate pe scară largă în secțiile de poliție din toată China. „Încheieturile tale sunt blocate la locul lor prin intermediul unor sisteme de reținere din metal, iar același lucru se aplică gleznelor". El a furnizat dovezi despre modul în care sistemul AI este instruit pentru a detecta și analiza chiar modificări minuscule ale expresiilor faciale și ale porilor pielii. Potrivit afirmațiilor sale, software-ul creează o diagramă circulară, segmentul roșu reprezentând o stare de spirit negativă sau anxioasă. El a susținut că software-ul este destinat „judecății prealabile fără nicio dovadă credibilă".

Ambasada Chinei la Londra nu a răspuns la întrebările referitoare la utilizarea software-ului de recunoaștere emoțională în provincie, dar a spus: „Drepturile politice, economice și sociale și libertatea credinței religioase în toate grupurile etnice din Xinjiang sunt pe deplin garantate. Oamenii trăiesc în armonie indiferent de mediul lor etnic și se bucură de o viață stabilă și pașnică, fără restricții la libertatea personală." Dovezile i-au fost arătate lui Sophie Richardson, directorul chinez al Human Rights Watch. „Este un material șocant. Nu doar că oamenii sunt reduși la o diagramă circulară, ci oamenii care se află în circumstanțe extrem de coercitive, sub o presiune enormă, sunt înțelegători nervoși și sunt considerați ca un indiciu de vinovăție și cred că este profund problematic."

Potrivit lui Darren Byler, de la Universitatea din Colorado, uigurii trebuie să furnizeze în mod obișnuit mostre de ADN către oficialii locali, să fie supuși scanărilor digitale și majoritatea trebuie să descarce o aplicație guvernamentală de telefonie, care colectează date, inclusiv liste de contacte și mesaje text. "Viața uigură este acum despre generarea de date", a spus el. "Toată lumea știe că smartphone-ul este ceva pe care trebuie să-l duci cu tine și, dacă nu îl poți purta, poți fi reținut, știu că ești urmărit de el. Și au impresia că nu există nicio scăpare", a spus el.

Majoritatea datelor sunt introduse într-un sistem informatic numit Platforma Integrată de Operațiuni Comune. "Sistemul colectează informații despre zeci de tipuri diferite de comportamente perfect legale, inclusiv lucruri precum dacă oamenii ieșeau pe ușa din spate în locul ușii din față, dacă puneau benzină într-o mașină care nu le aparținea. Autoritățile plasează acum coduri QR în afara ușilor caselor oamenilor, astfel încât să poată ști cu ușurință cine ar trebui să fie acolo și cine nu".

De mult timp s-a dezbătut despre cât de strâns legate de firmele de tehnologie chineze sunt de stat. Grupul de cercetare din SUA, IPVM, susține că a descoperit dovezi care sugerează că produsele de recunoaștere facială au fost concepute special pentru a identifica oamenii uiguri. Un brevet depus în iulie 2018 de Huawei și Academia de Științe din China descrie un produs de recunoaștere a feței care este capabil să identifice persoanele pe baza etniei lor. Huawei a spus ca răspuns că „nu a acceptat utilizarea tehnologiei pentru a discrimina sau a asupri membrii oricărei comunități" și că este „independentă de guvern" oriunde a funcționat. Grupul a găsit, de asemenea, un document care pare să sugereze că firma dezvoltă tehnologie pentru așa-numitul sistem One Person, One File.

"Pentru fiecare persoană, guvernul își stochează informațiile personale, activitățile sale politice, relațiile ... orice ar putea să vă ofere o perspectivă asupra modului în care persoana respectivă s-ar comporta și ce fel de amenințare ar putea reprezenta", a spus Conor Healy al IPVM. "Face orice tip de disidență potențial imposibil și creează o predictibilitate adevărată pentru guvern în comportamentul cetățenilor lor. Nu cred că George Orwell și-ar fi imaginat vreodată că un guvern ar putea fi capabil de acest tip de analiză", a mai spus acesta.

Ambasada Chinei la Londra a declarat că nu are „cunoștință" despre aceste programe. IPVM a susținut, de asemenea, că a găsit materiale de marketing de la firma chineză Hikvision care promovează o cameră AI care detectează uiguri și un brevet pentru software dezvoltat de Dahua, un alt gigant tehnologic, care ar putea identifica și populațiile uigure. Dahua a declarat că brevetul său se referă la toate cele 56 de etnii recunoscute în China și nu a vizat în mod deliberat pe niciuna dintre ele. Compania a adăugat că a furnizat „produse și servicii care au scopul de a ajuta la menținerea în siguranță a oamenilor" și a respectat „legile și reglementările fiecărei piețe" pe care își desfășoară activitatea, inclusiv Marea Britanie.

Hikvision a spus că detaliile de pe site-ul său web erau incorecte și „încărcate online fără o revizuire adecvată", adăugând că nu a vândut sau nu are în gama sa de produse cu „o funcție de recunoaștere minoritară sau o tehnologie de analiză". Dr. Lan Xue, președintele comitetului național chinez pentru guvernarea AI, a declarat că nu este la curent cu brevetele. "În afara Chinei există o mulțime de acuzații de acest gen. Multe nu sunt exacte și nu sunt adevărate", a declarat el pentru BBC. "Cred că guvernul local din Xinjiang a avut responsabilitatea de a proteja cu adevărat oamenii din Xinjiang ... dacă tehnologia este utilizată în aceste contexte, este destul de înțeles", a spus el.

Ambasada chineză a Marii Britanii a avut o apărare mai robustă, spunând BBC: „Nu există așa-numita tehnologie de recunoaștere facială care să conțină analize uigure". Se estimează că China găzduiește jumătate din aproape 800 de milioane de camere de supraveghere din lume. De asemenea, are un număr mare de orașe inteligente, cum ar fi Chongqing, unde AI este încorporat în bazele mediului urban. Jurnalistul de investigație din Chongqing, Hu Liu, a declarat pentru BBC despre propria sa experiență: "Odată ce pleci de acasă și pășești în lift, ești capturat de o cameră. Există camere peste tot".

"Când plec de acasă pentru a merge undeva, sun la un taxi, compania de taxiuri încarcă datele către guvern. Pot să merg apoi la o cafenea pentru a întâlni câțiva prieteni și autoritățile știu locația mea prin camera din cafenea.", dezvaluie jurnalistul. „Au fost ocazii în care am întâlnit niște prieteni și la scurt timp după aceea cineva din guvern mă contactează. M-au avertizat: 'Nu vezi acea persoană, nu face asta și asta'?! Cu inteligența artificială nu avem unde să ne ascundem", a mai spus acesta.