Imagine despre deepfake generată cu Dall-E, o aplicație prin care textul e transformat în poze. E un exemplu din milioane despre cum a ajuns să fie folosită inteligența artificială.
Imagine despre deepfake generată cu Dall-E, o aplicație prin care textul e transformat în poze. E un exemplu din milioane despre cum a ajuns să fie folosită inteligența artificială.
29/03/2024
Ghid anti-iluzii: cum recunoști și eviți fraudele care folosesc deepfake în reclame false online
Formularea „nu-ți vine a crede ochilor” are din ce în ce mai multă însemnătate în perioada actuală. Fraudele online nu mai sunt o surpriză, dar ele devin din ce în ce mai eficiente odată cu dezvoltarea inteligenței artificiale. De aici începe discuția despre deepfake și falsuri atât de bune, încât trebuie judecate cu un set specific de reguli.
Pe scurt despre „falsuri profunde”. Termenul deep fake cuprinde toate produsele video și audio false, de la clipuri cu actori care cer bani sau recomandă investiții până la apeluri telefonice din partea unui șef, unei rude sau unei persoane publice care caută să obțină într-un fel sau altul bani de la tine. Fraudatorii care apelează la tehnica asta vor să îți creeze impresia că o persoană a spus sau a făcut ceva ce nu a făcut niciodată în realitate.
Manipularea pozelor, videourilor sau înregistrărilor audio nu e o practică nouă. Diferența o face inteligența artificială. Algoritmii au devenit atât de buni, încât pot fi generate falsuri mai rapid ca niciodată. Primul val de deepfake a început prin 2017, când diverse vedete din domenii diferite au fost puse în ipostaze în care n-au fost niciodată sau au spus lucruri false.
Deepfake pentru dezinformare și fraudă. Dincolo de experimentele fără urmări, cum ar fi să te transpui tu într-un anumit context sau să vezi cum ar suna, de exemplu, imnul României cântat de Taylor Swift, deepfake ca instrument e folosit în special pentru dezinformare și fraude. În ambele cazuri miza e aceeași, doar implicațiile diferă: creatorii vor să crezi ceva ce nu există și să acționezi în consecință.
Pe dezinformare cei care o fac au cel mai des interese cu implicații politice, în timp ce fraudatorii vor să obțină banii de la cei la care ajunge mesajul și care îl cred. Astfel, cel mai des, deepfakes sunt folosite ca să te convingă să acționezi în interiorul companiei în care activezi ca să faci transferuri de bani (cum a fost cazul din Hong Kong soldat cu pierderi de 25 de milioane de dolari), să accesezi link-uri suspecte, să dezvălui informații personale care pot fi folosite ca să fii șantajat sau să investești bani în scheme frauduloase ori să transferi direct banii într-un anumit cont. Ultimul punct e cel mai des reușit prin reclame false.
Astfel de reclame pot fi de orice formă, cu orice persoană care are suficientă notorietate în societate ca să te facă să ai încredere. În România au fost folosite, până acum, imaginea premierului Marcel Ciolacu, guvernatorului Mugur Isărescu, afaceristului Ion Țiriac sau prezentatoarei de știri Andreea Esca. La acestea se adaugă profilurile false, generate integral cu AI, pe rețele sociale.
Exemple de videouri deepfake care folosesc imaginea lui Marcel Ciolacu (dreapta), respectiv Mugur Isărescu.
Pozele, videourile și chiar vocea pot fi cu totul false. Altfel spus, nu există nicio limită, fraudatorii au nevoie doar de suficient conținut ca să poată să creeze mesaje false cu vocea persoanei reale. Pentru cântăreți, vedete TV, staruri de film sau politicieni și afaceriști notori există zeci, dacă nu chiar mii, de ore de conținut video și audio pe care escrocii le pot folosi.
Vrem să putem relata în profunzime despre viața de zi cu zi a românilor, așa cum e ea. Dacă e important și pentru tine, ajută-ne să o ducem la capăt! Orice sumă contează.
Poți înțelege deepfake și ca un mozaic: orice fals generat astfel e compus din mii de bucăți de informații din surse reale, cum ar fi imaginea sau timbrul vocal. Și produsele acestea vor deveni din ce în ce mai bune, tocmai de aceea ai nevoie de un set de reguli ca să fii în siguranță.
Cum te protejezi de deepfake
Deepfake-urile sunt fantastice din punct de vedere tehnologic. E impresionant că am avut să avem posibilitatea de a crea conținut de la zero. Asta le și face extrem de periculoase. Și sunt dese recomandările să fii atent la video, la audio.
„Patriarhia nu a dat binecuvântare”. Dan Puric, Piperea și alți extremiști români n-au reușit să strângă semnături pentru redefinirea constituțională a familiei și plata cash
PressOne a cerut explicații de la fiecare asociație din Coaliția pentru Constituție, Familie și Libertate cu privire la eșecul strângerii celor 500.000 de semnături necesare pentru redefinirea familiei și introducerea plății cash în Constituție.
Trump după o lună la Câmpulung. De ce nu aș mai vota USR: cu Lasconi și Năsui, partidul pune cruce proiectului „vrem o țară ca afară”
În ultimii 5 ani, vocile progresiste au dispărut aproape complet din Uniunea Salvați România. Cu Elena Lasconi și Claudiu Năsui la cârmă, USR devine tot mai populist și pare că vrea să fure procente de la George Simion sau Diana Șoșoacă.
Uită-te la colțurile gurii, urmărește mișcarea buzelor, uită-te la sprâncene și la mimică în general. Ascultă cu atenție mesajul, vezi dacă cel care vorbește chiar vorbește ca un om. Ca oameni suntem „educați” biologic să identificăm pe fața celorlalți cum se simt. Suntem „programați” să înțelegem rapid tiparele ciudate în vorbire. Și aceste unelte built-in ne pot ajuta enorm. Și peste toate atenția e cea mai importantă unealtă.
Ce faci însă când nu e suficient? Videourile și mesajele audio false, alături de fotografii generate de AI, vor deveni din ce în ce mai bune. Rămân celelalte opțiuni.
Scepticismul. Nu crede tot ce vezi sau auzi online. Verifică sursa informației și caută dovezi care să o susțină. Dar dacă sunt promisiuni, atunci cu atât mai acut trebuie să fie scepticismul. Dacă e vorba de câștiguri foarte mari, garantate (nu există câștiguri garantate prin investiții), sau „secrete” de care nu mai știe nimeni și ți le prezintă cineva pe social media, atunci acolo e vorba de o fraudă.
Un newsletter pentru cititori curioși și inteligenți.
Sunt curios
Neîncredere. Folosirea deepfake în acțiuni de șantaj se bazează pe impulsivitate. Dacă ești anunțat printr-un video sau mesaj audio că ai o problemă, că trebuie să accesezi anumite link-uri, că trebuie să te reconectezi pe anumite conturi, atunci nu acționa impulsiv. Așteaptă. Verifică acolo unde poți verifica. Dar nu acționa la presiunea timpului.
Vezi și în alte părți. Dacă o reclamă propune acele câștiguri mult visate, vezi dacă videoul apare în altă parte. E încărcat undeva de compania, persoana respective? Contul de pe care e publicat e unul legitim? Uită-te prin istoric.
Fără click. Reclamele false se bazează de multe ori că vei da click pe link-uri. Asta e și miza. Să dai click, să transferi bani, să dai acces la conturi. Oriunde e un link, gândește-te bine înainte să îl accesezi. Revino la prima regulă: scepticism.
Înainte să crezi cu ochii ce vezi online trebuie să evaluezi dacă e și real. Foto: Cerrophotography / Dreamstime.com
Confidențialitate. Oricât de bună ar fi o reclamă care promite orice, și chiar mai mult, mare atenție la informațiile personale pe care ar trebui să le dezvălui. Nicio companie serioasă nu cere așa ceva, urgent, ca să profiți de o ofertă incredibilă. Datele bancare, conturile tale personale sunt extrem de importante pentru fraudatori. Și pot folosi multe mecanisme ca să le obțină.
Securitate. Folosește și o soluție de securitate cibernetică. Nu blochează (încă) videourile false, dar te ajută să nu accesezi link-uri care îți pot goli conturi. Astfel de soluții au baze de date cu scheme frauduloase, cu platforme care fac asta, cu tipare care duc la așa ceva.
Educație. Valabil și pentru tine, și pentru cei ai tăi. Nu strică niciodată să înveți mai mult despre cum funcționează internetul. Ce era acum 10 sau 20 de ani nu mai e valabil. Infractorii sunt mai prezenți și mai capabili ca niciodată. Citește din când în când blogurile firmelor de securitate cibernetică, uită-te la videouri pe aceste subiecte. Află măcar un detaliu nou pe săptămână ca să știi ce se poate întâmpla.
Internetul – în special prin rețele sociale – a remodelat felul în care interpretăm lumea. Online, realitatea și ficțiunea se întrepătrund frecvent, iar fraudatorii care recurg la deepfake se folosesc din plin de asta. Vorbim de o dimensiune cu totul nouă a felului în care percepem informația. Tocmai de aceea un alt element devine important: conștientizare
Este esențial să fim conștienți de existența unor astfel de amenințări și să le înțelegem ca să fim mai în siguranță. Deși deepfake-urile reprezintă o provocare majoră, prin informare, (auto)educare, vigilență și scepticism pot fi diminuate efectele.
Această serie este sprijinită de Banca Transilvania ca parte a campaniei sale de educație pentru evitarea tentativelor de fraudă online, pe fondul creșterii numărului acestora atât la nivel național, cât și internațional. O campanie realizată via Ethical Media Alliance, pentru susținerea conținutului online responsabil.
Avem nevoie de ajutorul tău!
Jurnalismul independent nu se face cu aer, nici cu încurajări, și mai ales nici cu bani de la partide, politicieni sau industriile care creează dependență. Se face, în primul rând, cu bani de la cititori, adică de cei care sunt informați corect, cu mari eforturi, de puținii jurnaliști corecți care au mai rămas în România.
De aceea, este vital pentru noi să fim susținuți de cititorii noștri.
Dacă ne susții cu o sumă mică pe lună, noi vom putea să-ți oferim în continuare jurnalism independent, onest, care merge în profunzime, să ne continuăm lupta contra corupției, plagiatelor, dezinformării, poluării, să facem reportaje imersive despre România reală și să scriem despre oamenii care o transformă în bine. Să dăm zgomotul la o parte și să-ți arătăm ce merită cu adevărat știut din ce se întâmplă în jur.
Ne poți ajuta chiar acum. Orice sumă contează, iar faptul că devii și rămâi abonat PressOne face toată diferența. Poți folosi direct caseta de mai jos sau accesa pagina Susține pentru alte modalități în care ne poți sprijini.
Vrei să ne ajuți? Orice sumă contează.
Share this