Cercetătorii care analizează activitatea noastră de pe internet pot să afle mai multe despre un om decât știe acel om despre el însuși

Diferenţa dintre campaniile electorale „de altădată” şi cele de astăzi e ca diferenţa dintre motorul cu aburi şi motorul cu reacţie, este de părere Chris Sumner, alias The Sugg Meister, specialist în cercetare comportamentală şi fondatorul unui ONG pe nume Online Privacy Foundation (OPF).

Şi asta deoarece partidele şi candidaţii folosesc aşa-numita targetare psihografică, ceea ce înseamnă formularea de mesaje personalizate pe baza datelor şi a preferinţelor pe care fiecare dintre noi le oferă gratuit pe internet.

La cea mai mare convenție din lume a hackerilor, DEF CON, care are loc anual la Las Vegas, Online Privacy Foundation a prezentat rezultatele unei cercetări care demonstrează cum pot fi folosite rețelele de socializare, în special Facebook, pentru propagandă politică și pentru influențarea rezultatelor unui scrutin electoral.

Am luat legătura cu Chris Sumner și i-am cerut să ne explice, într-un interviu, cum funcționează social media în interesul anumitor partide și de ce informațiile despre noi înșine pe care le postăm online sunt o mină de aur pentru brokerii de putere.

− Care sunt liniile majore ale proiectului dumneavoastră?

− În 2016 am început şase studii cu 11.000 de participanți, studii centrate pe trăsăturile de personalitate și preferințele de vot în timpul referendumului din Marea Britanie privind apartenența la Uniunea Europeană.

În trei dintre cele şase studii, i-am rugat pe votanți să menționeze în ce măsură sunt de acord cu fraza: „Dacă nu ai nimic de ascuns, nu ai de ce să te temi”. Am descoperit, astfel, că britanicii care au votat pentru ieșirea din UE erau mai degrabă de acord cu această afirmaţie în comparaţie cu aceia care voiau rămânerea în UE.

Asta nu înseamnă că toți cei care au votat Leave cred că „dacă nu ai nimic de ascuns, nu ai de ce să te temi” și nici invers, că toți votanții Remain cred că afirmația asta este falsă. Distribuțiile se suprapun, dar nu sunt egale. Acesta este subiectul iniţial pe care am intenționat să îl explorăm pentru convenţia DEF CON.

Pe la sfârșitul lui 2016 şi începutul acestui an, au apărut mai multe articole despre importanţa targetării psihografice, capabilă să influenţeze rezultatele electorale, atât în cazul Brexit, cât și în cazul alegerilor prezidențiale din SUA.

În presă au început să fie discutate mai ales cazurile a două companii, Cambridge Analytica și AggregateIQ. În februarie, compania online The Scout publica un articol în care introducea un termen pentru acest gen de strategii: Weaponized AI Propaganda Machine − dispozitiv militarizat de propagandă prin Inteligență Artificială.

Așa am ales și noi titlul prezentării noastre de la DEF CON.

Revenind la cercetarea noastră: am decis să folosim teza „nimic de ascuns, nimic de care să te temi” ca bază pentru a examina eficienţa targetării psihografice în campaniile politice.

Ca să putem răspunde la întrebarea „Ce tactici folosiți fie pentru a profita de propaganda AI, fie pentru a evita folosirea lor împotriva dumneavoastră?”, ne-am gândit că e important să înțelegem un factor-cheie, care divide oamenii în climatul actual, și anume autoritarismul. Și acesta a fost punctul nostru de plecare.

Am studiat apoi ce anume din social media influențează opiniile votanților. Ce determină alegătorii să susțină sau să respingă o politică pro-supraveghere? Odată ce am înțeles care sunt diferențele dintre oameni și ce le influențează opiniile și comportamentul, am căutat să vedem cât de eficientă e targetarea pe baza personalității lor.

Am văzut că este posibil să îi grupăm pe acești oameni și să îi punem pe liste specifice pentru o viitoare targetare − în acest caz, prin publicitate pe Facebook.

Pe scurt, iată ce am obţinut:

1) În cazul referendumului pentru rămânerea în UE: raportarea la autoritarism joacă un rol central în atitudinea față de supravegherea online. Astfel, putem identifica și targeta utilizatorii cu atitudini diferite pe scala autoritarismului.

2) Rezultatele la care am ajuns sunt că, dacă oamenii percep că amenințarea teroristă este ridicată, chiar și cei care au punctat minim la autoritarism vor susține politici autoritare.

3) Targetarea audienței pe baza autoritarismului este o investiție de marketing bună; se poate ajunge la audiențe cu diferite atitudini. Am grupat oamenii în două categorii: autoritarism-scăzut și autoritarism-ridicat și am luat în considerare vârsta, sexul, orașul în care locuiesc și interesele lor de pe Facebook.

4) Am creat reclame care făceau apel fie la autoritarism-scăzut, fie la autoritarism-ridicat, cu referire la pro sau anti-supraveghere online. Am creat și reclame care să îmbunătățească poziționarea către autoritarism-scăzut sau autoritarism-ridicat, spre exemplu reclame care să sporească interesul pro-supraveghere în rândul celor cu autoritarism-scăzut.

− Oamenii nu înțeleg cât de prețioase sunt informațiile pe care le oferă pe internet pentru cei care operează cu data mining. De ce credeți că dispare linia confidențialității?

− Sunt multe motive pentru care oamenii distribuie informații personale atât online, cât și offline. Printre ele se numără:

* distracția; pur și simplu se amuză folosind o platformă de social media și nu se concentrează pe niciun aspect negativ.

* statutul social; își arată simboluri ale statutului social, cum ar fi bunăstarea, realizările și oamenii cu care se întâlnesc.

* efectul de grup; oamenii împărtășesc lucruri fiindcă și prietenii lor o fac, deci se tem să nu rămână în afara grupului.

* curiozitatea; oamenii sunt băgăcioși şi vor să vadă, de exemplu, ce mai fac foștii lor colegi de clasă.

* singurătatea; au puțini prieteni în viața reală și se folosesc de platformă pentru a rămâne conectați.

Am scris despre asta într-un articol denumit „Economia confidențialității online. Beneficiile de a fi măcar puțin îngrijorat de problemele confidențialității online”.

Ce spuneam acolo?

„În economie, această problemă se numește externalitate. Asta înseamnă niște costuri ascunse ale unor tranzacții, care vor afecta și prețul. Nici vânzătorul, nici cumpărătorul nu știu cât costă cu adevărat; sau vânzătorul știe, dar cumpărătorul nu.

Pe internet, noi plătim cu bani și/sau cu informații pentru a avea acces la un serviciu. Probabil că am plăti mai puțin sau chiar nimic dacă am ști că tranzacția vine și cu un risc crescut să ni se întâmple ceva rău ca urmare a folosirii acestui serviciu.

Dar există și cazuri și mai rele, în care noi cumpărăm serviciile internetului cu informații personale și considerăm, cel mai adesea, că e gratuit.

Copiii și tinerii adulți ne îngrijorează cel mai mult. Volumul şi profunzimea informațiilor personale pe care le pot publica pe internet în timpul vieții lor sunt incredibile.

În orice alt domeniu ar fi necorespunzător să lași asemenea grupuri de populație să investească nelimitat fonduri, după bunul-plac, într-o marfă al cărei viitor este încă necunoscut și plin de riscuri.

Atât economia, cât și istoria ne avertizează asupra capcanei de a crede orbește în beneficii.”

− Fiecare like pe care-l dăm pe Facebook, fiecare comentariu pe care îl postăm, toate share-urile noastre pot fi monitorizate cu o tehnologie bazată pe machine learning. Ce pot afla despre noi profesioniștii în data mining, adunând la un loc astfel de informații?

− Pe piață se vinde o cantitate inimaginabilă de date. Asta a demonstrat recent cercetarea lui Svea Eckert şi Andreas Dewes, prezentată, de asemenea, la DEF CON. Ei au reușit să obțină 3 miliarde de URL-uri ale site-urilor vizitate de 9 milioane de germani, care au fost monitorizaţi timp de o lună.

Imaginați-vă că fiecare site pe care l-ați vizitat poate fi înregistrat, și informația conținând IP-ul și zona de interes poate fi scoasă la vânzare. Iar companiile cumpără astfel de informații.

La ce pot fi folosite astfel de date? În prezent, se pare că principalul domeniu care înflorește este publicitatea, dar sunt și cazuri în care sunt folosite pentru a identifica activitatea criminală sau pentru a monitoriza angajații, pentru evaluarea persoanelor care își fac asigurări, pentru identificarea unor probleme de sănătate sau pentru a prezice modul în care oamenii se pot comporta într-o anumită situație.

În 2012, am fost abordați de o companie care ne invita să fim parte dintr-un startup care voia să evalueze riscul acordării de credite folosind datele personale disponibile online. Am refuzat această… ofertă.

S-a mai spus chestia asta, însă cercetătorii care analizează activitatea noastră de pe internet (site-urile pe care le-am accesat − n.r) pot să știe mai multe despre un om decât știe acel om despre el însuși.

Nu toată această tendință este rea, totuși. Este posibil ca informațiile disponibile să fie folosite în scopuri pozitive, spre exemplu în zona de sănătate.

Vorbim de un spațiu care necesită o supraveghere mai strictă a reglementărilor.

− Companiile de data mining și de strategie politică au fost printre primele care au înțeles puterea ascunsă a social media. În opinia dumneavoastră, după Brexit și alegerea lui Trump, se înțelege mai bine ce implicații enorme are dezvăluirea datelor personale în influenţarea votului?

− Cred că o parte a societății începe să își pună întrebări serioase privind impactul excesiv al PsyOps în campaniile politice. Spre exemplu, CEO-ul companiei Cambridge Analytica, Alexander Nix, a spus la o conferinţă, vorbind despre Trump:

„El a câștigat nominalizarea pe drept, prin alegeri libere și corecte, și apoi a câștigat alegerile, iar dacă asta a fost voința oamenilor, nu cred că e treaba cuiva din această încăpere să se pronunțe împotriva acestui fapt”.

Asta ne face să ne întrebăm: cât de liber este liberul arbitru? Să fi fost vorba doar de „voința oamenilor” sau a avut și targetarea psihografică un rol în influenţarea preferințelor?

Rezultatele cercetării noastre sugerează că, ştiind care sunt înclinaţiile publicului, un număr semnificativ de votanţi poate fi influenţat în a susține o politică sau un partid pe care în mod normal nu le-ar fi susținut.

Nu sugerez că acest lucru e suficient pentru a câștiga niște alegeri, dar e suficient pentru a face o contribuție utilă la o campanie. Ca să îl citez pe Sir Alex Ferguson, „All points to the top of the mountain”.

Întrebarea rămâne: alegerile în care se folosesc aceste tehnici sunt libere și corecte? Eu aș spune că nu sunt, dar, pe de altă parte, au fost vreodată?

Cred că folosirea platformelor sociale și a unor volume uriașe de date pentru targetarea psihografică escaladează o problemă care există de mult timp. E ca diferența dintre motoarele cu aburi și motoarele cu reacție.

− Suntem mai conștienți că putem fi manipulați?

− Vorbind la DEF CON, am subliniat trei chestiuni pe care cred că ar trebui să le luăm în considerare. Prima este că ar trebui să educăm oamenii cu privire la prejudecățile lor. Poate ceva similar cu experimentul Jane Elliott, ochi albaștri versus ochi căprui, ca să arate absurdul rasismului. Să începem în școli, cu exerciții practice.

Beneficiile ar putea să meargă mai departe de campaniile politice și să reducă vulnerabilitatea oamenilor la înșelătorii de tot felul. De pildă, câți dintre cei care cumpără o mașină nouă sunt familiari cu ce înseamnă anchoring?

Mai departe, cred că este necesară o revizuire a regulilor în politică și în publicitate. O mai mare transparență a reclamelor folosite de partide ar putea ajuta, chiar dacă acest lucru n-ar putea preveni ceea ce se numește astroturfing (campanii locale false).

Identificarea acestora ar avea nevoie de o rigoare analitică mai mare și de cunoașterea conexiunilor dintre platformele de advertising online și offline. Se mai ridică apoi şi chestiunea dreptului la opinie liber exprimată. Discuția care trebuie să se poarte este despre cât de stricte pot fi aceste reguli adoptate de advertising-ul politic.

În timp ce utilizarea psihologiei în campaniile politice este o practică uzuală de mult timp, capacitatea de a adăuga micro-direcționare psihologică oferă campaniilor un buton de stimulare a influenţării indivizilor bazat numai pe criterii demografice.

− În presa britanică şi în cea americană au apărut investigaţii despre strategiile folosite de companiile AggregateIQ și Cambridge Analytica în referendumul din Marea Britanie și în alegerile din SUA, dar rezultatele acestor articole s-au cam pierdut. Cercetarea dumneavoastră ne poate ajuta să înțelegem mai bine ce se întâmplă?

− Cercetarea noastră nu demonstrează că Aggregate IQ sau Cambridge Analytica au fost implicate în astfel de practici. Cercetarea noastră arată că este posibil să câștigi un avantaj, chiar dacă bugetul pe care îl ai la dispoziție este relativ limitat.

Altfel spus, demonstrăm că direcționarea psihografică poate funcționa și poate oferi un avantaj într-o campanie electorală.

− În opinia dumneavoastră, acest gen de practici sunt un pericol real pentru democrație?

− Dacă alegerile uzează excesiv de PsyOps, mai pot fi ele considerate libere și corecte?

Sunt semne clare că democrația suferă.

Human Rights Foundation scrie că „autoritarismul este cea mai mare provocare a umanității”, același lucru îl spun și NPR, Freedom House sau The Economist, într-o analiză: Care-i problema democrației?

Până acum am aflat doar despre partide autoritariste care ar fi folosit această tehnică de targetare psihografică, dar e posibil ca și cealaltă parte să o folosească. Dacă e așa, ambele părți devin egale?

Aș sugera că jocul nu este la același nivel. Într-o excelentă discuție din 2016 despre propagandă, Dee Madigan (specialistă în publicitate politică din Australia) vorbea despre oamenii care spun: „Сampania negativă nu funcționează la mine”. Răspunsul ei a fost simplu: „Ba da, funcționează și de asta o și folosim”.

În campaniile electorale, ambele tabere se folosesc de tactica fricii. Argumentele ţin de ierarhia nevoilor lui Maslow și iau în calcul amenințarea pe care o consideră cea mai mare/cea mai iminentă.

Adică o amenințare asupra sinelui probabil că nu va avea același efect ca o amenințare la adresa hranei/adăpostului. În cazul campaniilor bazate pe frică, acelea care lucrează la cele mai joase niveluri ale ierarhiei lui Maslow, este plauzibil ca partidele autoritare să aibă un avantaj semnificativ.

Cine e Chris Sumner

Chris Sumner este directorul de cercetare și cofondatorul ONG-ului Online Privacy Foundation, care este specializat în cercetarea comportamentală. Lucrările sale îmbină date științifice cu psihologie, securitate cibernetică și machine learning.

Sumner a fost Senior Strategist în securitate cibernetică la Hewlett Packard, unde a lucrat 17 ani. Face parte din juriul care selectează comunicările anuale de la DEF CON.