Tehnodictatura

Dictatura care va veni

Când artistul dizident chinez Ai Weiwei a descoperit câteva microfoane ascunse în atelierul său din Beijing în 2015, știrea a făcut înconjurul lumii. Măsura luată de autoritățile chineze era însă doar una dintre multele șicane și atacuri directe la care a fost supus în urma atitudinii sale sfidătoare la adresa guvernanților.

Iritate de reportajele sale critice despre cutremurul din Sichuan, în urma căruia au murit mii de studenți din cauza nerespectării standardelor în construcții, autoritățile chineze au făcut tot ce au putut ca să-i transforme viața artistului într-un iad.

Ai Weiwei a reușit în cele din urmă să plece în exil în Germania, lăsând în urmă o țară în care relativa liberalizare socială de la începutul anilor 2000 era ștearsă rapid cu buretele.

Între timp, tehnica de supraveghere a aparatului de stat chinez a depășit cu mult stadiul simplelor microfoane ascunse în casele dizidenților. Fiecare utilizator al principalelor rețele de socializare din China trebuie să se înregistreze cu numele real, toate platformele care prezintă știri, bloguri, forumuri sau alte modalități de socializare online sunt monitorizate de către oameni fideli Partidului, iar cenzura intervine imediat atunci când internetul chinez reacționează „nepotrivit” la una dintre știrile zilei.

Se estimează că aparatul de stat chinez utilizează circa 200 de milioane de camere video pentru a-și monitoriza cetățenii – una la fiecare al șaptelea chinez. Iar numărul acestora crește exponențial, pentru că guvernul are acum acces și la camerele video private. Treptat, nu va mai exista vreun colțișor din China care să nu fie accesibil prin intermediul unei camere video fixe.

Dar aceste camere nu mai sunt administrate de oameni – într-o proporție din ce în ce mai mare, ele sunt gestionate de softuri „inteligente”, care știu să identifice cu o acuratețe sporită un individ dintr-o mulțime. Identificarea facială este prezentată de autoritățile chineze ca fiind extrem de eficace în detectarea celor care încalcă legea: de exemplu, sunt orașe în care pietonii care traversează pe roșu sunt identificați imediat și afișați pe panouri video, pentru a fi făcuți de rușine.

China a mers chiar mai departe, experimentând un sistem de punctaj social bazat pe respectarea legii. Evident, nu doar cei care fură sau fac mici găinării sunt luați la țintă. Pierzi puncte atunci când încalci regulile sistemului, iar acestea pot fi modificate oricând de către Partid, indiferent că vorbim de respectarea unor tradiții religioase interzise, de critici aduse autorităților, de glume politice sau de apartenența la o minoritate aflată în dizgrație.

Efectele sunt devastatoare: nu mai ai voie să călătorești sau să cumperi anumite produse, figura ta poate fi afișată oricând în public alături de scorul care te transformă, de fapt, într-un paria, poți fi dat afară de la serviciu, copiii tăi pot fi dați afară de la școlile particulare etc. Cum sistemul se află abia la început, restricțiile pot atinge ulterior orice aspect al vieții private.

Oficialii chinezi spun că, de fapt, sistemul de punctaj social permite restabilirea încrederii între oameni și duce la o societate din care se elimină rapid hoția sau celelalte infracțiuni. Cei care au un scor mare au acces la credite mai bune, la școli mai bune, la servicii mai bune și, în general, nu au de ce să se teamă că ar putea fi în preajma unor răufăcători.

Totuși, pe lângă respectivii răufăcători, criticii onești ai sistemului pot fi reduși foarte ușor la tăcere printr-o combinație a acestor măsuri, iar intruziunea în viața privată amintește multora de anii negri ai regimului Mao. „Dosarul” cu care am fost obișnuiți în comunism este acum actualizat în timp real, iar efectele sunt și ele imediate.

Folosirea tehnologiei pentru a ține sub control cei aproape 1,4 miliarde de chinezi nu se oprește aici. De curând, gigantul tehnologic Alibaba a lansat o aplicație numită Xuexi Qiangguo (care ar putea fi tradusă prin „Învață despre Marea Națiune”), prin care chinezii se pot pune la curent cu ultimele discursuri ale președintelui Xi Jinping, precum și cu întreg progamul său de lucru.

Nimic deosebit pentru un aparat de propagandă, până când aflăm că zeci de milioane de chinezi au fost practic obligați nu doar să descarce și să instaleze aplicația, dar și să o folosească zilnic, parcurgând testele acesteia și obținând punctaje în funcție de cât de atenți au fost la ce au citit sau văzut.

În anumite zone din China, oficiali zeloși au și aplicat primele măsuri de pedepsire ale celor cu scoruri mici: angajați penalizați, studenți scoși în fața clasei și umiliți pentru că nu sunt la curent cu ultimele învățături ale aparatului de partid și de stat.

Folosirea tehnologiei pentru ținerea sub control a cetățenilor într-un sistem politic dictatorial precum cel din China este de-abia la început. Sistemele de detecție facială și de punctaj social vor fi combinate la orizontul anului 2020, iar pe parcursul următorului deceniu se vor adăuga și celelalte elemente de monitorizare audio, ba chiar și de forțare a cetățenilor, la scara întregii țări, să interacționeze din plin cu propaganda de partid și de stat, în fiecare zi.

Practic, cetățeanul chinez obișnuit va putea fi monitorizat 24/24, dar și obligat să-și manifeste recunoștința față de orice măsură pentru care Partidul vrea aplauze. Mai mult decât atât, tehnologia inventată de Occident poate fi folosită oricând pentru a se asigura că nimeni nu mișcă în front, nici măcar în sala de clasă. Sau de ședințe. Aceeași tehnologie inventată de americanii unui startup din Boston pentru monitorizarea gradului de atenție al elevilor poate fi folosită oricând pentru detectarea celor care nu ascultă cu atenție discursurile Marelui Lider.

Dar dacă ne imaginăm că doar China desfășoară un asalt asupra vieții private, ne înșelăm amarnic.

Utilizatorul ca produs

Un dicton care circulă în lumea de afaceri spune că, dacă un serviciu este gratuit, atunci produsul care este vândut ești chiar tu. Pentru că datele biometrice sunt noul petrol al economiei inteligente.

Avem astăzi nenumărate aparate care colectează date despre fiecare dintre noi, indiferent că vorbim de telefoane mobile, smart wearables de tipul brățărilor sau ceasurilor inteligente, computere, site-uri web sau chiar mașini.

E adevărat, suntem departe de dosarele individuale din sistemele totalitare, pentru că majoritatea datelor se colectează anonimizat (nu se face legătura între numele nostru și datele noastre intime), însă infrastructura este practic aceeași cu cea din China. Iar, la cererea autorităților sau prin eforturile hackerilor, aceste date pot fi scoase la iveală și legate de persoana noastră.

În decembrie anul trecut, poliția din Phoenix a arestat un suspect de crimă bazându-se pe datele înregistrate de Google de pe toate dispozitivele aflate în zonă la momentul comiterii infracțiunii, cu nouă luni mai devreme. Traseul suspectului se potrivea cu mașina din care se trăseseră focurile de armă, astfel încât cazul părea a fi rezolvat. Totuși, anchetatorii l-au eliberat pe suspect din lipsă de probe și au rezolvat crima abia după ce au aflat că mașina fusese folosită, de fapt, de amantul mamei sale.

Chiar dacă dezactivăm monitorizarea din partea aplicațiilor de pe telefon, acestea pot continua să strângă și să transmită date care pot fi folosite ulterior. Uneori, acestea chiar ne ascultă fără să ne prevină.

Un raport Bloomberg arăta că angajații Amazon (unii dintre ei chiar de la biroul din România) au recunoscut că ascultă frânturi de conversații ale utilizatorilor boxelor inteligente Alexa. Conversațiile sunt transcrise și apoi sunt folosite pentru a ajuta sistemul să înțeleagă mai ușor limbajul uman.

Însă se întâmplă ca angajații Amazon să audă și lucruri înspăimântătoare: copii care strigă după ajutor, violuri sau certuri violente. Nu există încă vreun sistem prin care să intervină, pentru că nu este făcută legătura între fragmentele de înregistrare și datele personale ale clientului înregistrat, care sunt criptate. Dar rămâne mereu posibilitatea ca sistemul să fie spart de un hacker care dobândește astfel acces la viața privată a celui vizat.

Cu alte cuvinte, e absurd să ne imaginăm că ne putem înconjura de camere video și de microfoane fără ca intimitatea noastră să aibă de suferit. Foarte curând, s-ar putea să nu mai avem de ales, tot la fel cum chinezii nu au de ales.

Dacă avem o cameră video la fiecare șapte chinezi, acest raport e doar puțin mai mic în America, unde avem o cameră video de supraveghere la fiecare opt americani. În România suntem mult în urmă, dar recuperăm rapid, pentru că primăriile cumpără mii de camere de luat vederi în fiecare an.

Dictatura ofensaților

O bună parte dintre noi am trecut de la interacțiunile personale la cele virtuale, prin social media. Iar asta a adus cu sine un fenomen nou: ofensații de serviciu. Dacă în China avem secretari de partid care aplică cenzura, în lumea occidentală avem comisarii corectitudinii politice care intervin și elimină treptat din social media acei indivizi care încalcă (sau par că încalcă) normele general acceptate, reușind deseori să-i lase și fără loc de muncă.

Ușurința cu care ne ofensăm este folosită și în lupta politică. Dacă un politician tânăr emite o opinie idealist-stupidă, valul de dejecții aruncat simultan în capul lui îl va determina să abandoneze, fără ca nimeni să se mai uite la istoricul luptei sale pentru democrație. În același timp, politicienii fără scrupule nu au nimic de pierdut din scandalurile virtuale, pentru că pur și simplu nu îi afectează.

Campaniile de boicotare a brandurilor care nu corespund așteptărilor au efect devastator asupra companiilor mici, iar rapiditatea cu care se poate cădea în dizgrație din cauza unui tweet este înspăimântătoare.

Nici nu avem nevoie de un tribunal controlat de partid, când social media este și procuror, și judecător, și executor. Iar lucrurile nu par să se modereze, ci dimpotrivă, se amplifică, pe măsură ce ne împărțim în tabere diametral opuse și folosim opțiunea de unfriend imediat ce vedem o opinie puternic diferită de a noastră.

Ajungem să credem că trăim într-o societate liberă, dar de fapt cenzurăm și ne autocenzurăm până la sufocare. Unii ar spune că o societate în care nu mai ofensezi pe nimeni este un progres, însă în realitate ofensele din online sunt cauzate deseori de lipsa de context specifică unei interacțiuni virtuale, care nu-ți permite să evaluezi interlocutorul în toată complexitatea sa, așa cum ai face-o la un pahar de bere.

Nu te poți ascunde

Cum va arăta intimitatea noastră la finalul următorului deceniu? Greu de spus. Dar putem fi siguri că ochelarii inteligenți dotați cu camere video, telefoanele mobile, brățările inteligente, asistenții personali de acasă și de la birou, camerele de supraveghere, ba chiar până și mașinile pe care le conducem sau care ne vor conduce în drum spre serviciu vor colecta și transmite încontinuu date despre noi.

De cele mai multe ori, acestea vor fi folosite doar pentru personalizarea unor servicii. Dar alteori, ele vor fi folosite pentru a ne ataca personal. Iar în dictaturile care prosperă economic pe termen scurt și mediu, nu va exista nicio limită tehnică pentru transformarea omului într-o simplă rotiță dintr-un mecanism bine uns.

Pericolul ca un algoritm să decidă nu doar ce ne afișează pe internet, ci și dacă suntem sau nu indezirabili va exista, însă, și în societatea democratică. Iar dacă societatea însăși va fi guvernată doar de algoritmi și de ofensarea instantanee din lumea virtuală, atunci nici democrația și libertățile cu care ne-am obișnuit nu vor mai rămâne pentru mult timp.

Într-o lume deja complet conectată, nu te vei mai putea ascunde. Rămâne de văzut dacă te vei mai putea regăsi.