Niciodată nu a fost mai ușor ca acum să cheltuim bani pe înșelăciuni, să fim expuși la informații false sau să ajungem într-o situație riscantă pe internet. Deepfake este o tehnologie care ne poate compromite încrederea în informațiile pe care ne bazăm pentru a lua decizii informate. De aceea, Directoratul Național de Securitate Cibernetică a lansat un ghid cu tot ce trebuie să știi despre Deepfake: exemple reale, sfaturi pentru a evita să fii păcălit și cum să procedezi dacă ajungi în capcana unei astfel de tehnologii.
Deepfake este o manipulare digitală a unei înregistrări video, audio sau a unei imagini, realizată cu ajutorul inteligenței artificiale (IA) sau a altor programe specializate. Deepfake-urile pot distorsiona realitatea, creând conținut video sau audio extrem de realist, care poate fi greu de distins de materialele autentice.
Există multiple cazuri în care un videoclip cu o personalitate publică oferă sfaturi financiare. În acest videoclip, persoana recomandă insistent investiția într-o anumită companie sau afacere, promițând profituri mari și riscuri minime.
Videoclipul este realizat profesional, cu o calitate a imaginii și sunetului ridicată. Persoana publică pare sinceră și convingătoare, folosind un limbaj accesibil și argumente persuasive. Un astfel de Deepfake ar putea fi folosit pentru a manipula populația să investească într-o afacere ilicită (scam), deținută sau controlată de manipulatori.
Tehnologia Deepfake poate fi folosită pentru a crea înregistrări false care implică persoane în activități pe care nu le-au realizat sau pentru a produce dovezi false în contexte juridice.
De asemenea, poate fi utilizată în tentative de fraudă, cum ar fi falsificarea identității în apeluri telefonice sau video pentru a obține acces neautorizat la informații sau resurse financiare.
În politică și în alte domenii, Deepfake-urile pot fi folosite pentru a manipula
opinia publică, a discredita adversarii sau a crea confuzie. Acestea pot influența alegerile, relațiile internaționale și pot alimenta teorii ale conspirației.
De asemenea, tehnologia Deepfake poate avea un impact negativ asupra societății, prin utilizarea imorală a tehnologiei pentru crearea de materiale compromițătoare sau a hărțui persoane online, astfel că ridică probleme serioase de etică și de respectare a drepturilor individuale.
Exemple reale de utilizare a Deepfake
Banca Națională a României (BNR) a avertizat publicul cu privire la o schemă de înșelăciune care implică utilizarea tehnologiei Deepfake pentru a crea videoclipuri false cu guvernatorul BNR. În aceste videoclipuri, guvernatorul pare să promoveze o platformă de investiții, însă BNR a declarat că acestea sunt false.
Scamul folosește Inteligența Artificială pentru a modifica vocea și imaginea guvernatorului, cu scopul de a induce în eroare publicul pentru a participa la investiții frauduloase, promițând câștiguri financiare rapide și ușoare.
O femeie pensionară din Vaslui a fost victima unei escrocherii postată online pe platforma YouTube. Escrocii au creat un videoclip fals în care un cunoscut bancher și alte personalități cunoscute recomandau o platformă de investiții.
Promisiunea unor profituri rapide a convins pensionara să investească suma de 52.000 de lei, economii strânse în 20 de ani de muncă. Chiar dacă femeia a raportat această fraudă autorităților, experții consideră că șansele de recuperare a fondurilor pierdute sunt minime.
Actorii rău intenționați devin tot mai inventivi. Acum pot imita perfect vocea unei persoane dragi pentru a vă păcăli. Te pot suna pretinzând că sunt un membru al familiei care are nevoie urgentă de bani.
Recomandăm ca întotdeauna să fie verificată identitatea apelantului, chiar dacă pare să fie o rudă sau un prieten cunoscut. Nu trimite niciodată bani în grabă și anunță imediat autoritățile dacă ai suspiciuni. Doar prin vigilență și informare te poți proteja de această formă de fraudă.
Pericolul Deepfake în contextul electoral
În era digitală actuală, în care granița dintre realitate și ficțiune se estompează în mod constant, procesul electoral depășește simpla confruntare a ideologiilor și promisiunilor politice, transformându-se într-un teren complex de luptă ideologică.
Tehnologiile Deepfake, capabile a sintetiza realist imagini și voci, pot influența semnificativ opinia și votul alegătorilor în timpul campaniilor electorale, având un impact major asupra procesului democratic, din următoarele considerente:
- Impactul asupra politicienilor: Reputația unui politician poate fi grav afectată de videoclipuri Deepfake fabricate, care pot discredita imaginea sa și pot deteriora șansele de a câștiga alegerile. Răspândirea dezinformării prin Deepfake poate manipula percepția publică asupra caracterului și programului politicianului, afectând negativ cariera sa politică.
- Impactul asupra partidelor politice: Deepfake poate fi utilizat ca instrument strategic pentru a discredita partidele rivale, prin crearea de materiale false care să le prezinte într-o postură negativă. Promovarea agendei propriului partid prin Deepfake poate fi o modalitate eficientă de a influența opinia publică și de a atrage alegători. Utilizarea necorespunzătoare a Deepfake de către partidele politice poate duce la scandaluri și la pierderea încrederii publicului în sistemul politic.
- Impactul grupurilor de interese: Deepfake poate fi utilizat de grupuri de interese din interiorul unei țări pentru a manipula opinia publică legată de probleme civice. Crearea de conținut falsificat adaptat la contextele locale poate intensifica sau calma nemulțumirile legate de anumite probleme sau evenimente. Utilizarea Deepfake de către grupurile de interese poate duce la polarizarea societății și la o erodare a discursului public democratic.
Tehnicile IA/Deepfake utilizate în influențarea campaniilor electorale:
• Falsificarea video realistă: Algoritmi avansați de IA creează videoclipuri aproape imposibil de distins de cele reale, prezentând scene false cu politicieni sau evenimente inventate.
• Clonarea vocii și falsuri audio: Vocea unui politician este reprodusă cu o precizie uimitoare, generând mesaje false atribuite în mod eronat persoanei respective.
• Generarea de text sintetic: Texte credibile sunt create imitând stilul și tonul unei personalități politice sau a unei instituții, răspândind dezinformare.
• Schimbarea fețelor și transformarea: Tehnologia permite modificarea fețelor în videoclipuri, creând scenarii false care nu s-au petrecut niciodată sau nu în contextul prezentat.
• Predicția comportamentală: IA analizează comportamentul online pentru a prezice răspunsul la anumite mesaje, facilitând crearea de Deepfake-uri țintite pentru a influența segmente specifice de alegători.
Semne de identificare a unui Deepfake
Protejarea împotriva Deepfake-urilor este o provocare continuă, deoarece tehnologia se perfecționează constant, făcând conținutul manipulat tot mai greu de distins de cel real. Cu toate acestea, există anumite indicii care pot trăda un Deepfake, iată la ce anume trebuie să fim atenți:
• Mediul înconjurător (de exemplu, umbre inexistente, reflexii prea puternice, zone neclare)
• Imperfecțiuni ale feței (alunițe nerealiste, clipire nesincronizată, distorsiuni în interiorul gurii cum ar fi lipsa dinților și a limbii, dinți mult prea perfecți etc.)
• Nesincronizarea vorbirii/sunetului și a mișcării buzelor, de exemplu: din cauza strănutului
Nesincronizarea vorbirii/sunetului și a mișcării buzelor poate fi observată la pronunțarea literelor b, m și p. Uneori apar pixeli în nuanțe de gri la marginile componentelor modificate. Se poate distinge dacă este vorba de o falsificare și atunci când persoana din înregistrare este privită dintr-un alt unghi.
Dacă pentru crearea conținutului Deepfake nu s-au folosit fotografii ale persoanei din unghiuri diferite, algoritmul nu poate deduce aspectul persoanei din alt unghi, rezultând distorsiuni.
Un detector clasic de conținut vizual fals se bazează pe detectarea erorilor rezultate din prelucrare. Cel mai adesea, aceasta implică analiza pixelilor pe care ochiul uman nu îi poate vedea, deoarece prin manipularea imaginii marginile componentei modificate au caracteristici speciale.
Există, de asemenea, diferite tipuri de detectoare de acces. Detectorul Intelv se bazează pe observarea unor indicii subtile, invizibile ochiului uman, pentru a verifica autenticitatea conținutului. Prin analiza semnelor precum dilatarea pupilelor, modificări ale culorii vaselor de sânge în concordanță cu bătăile inimii etc., se poate determina dacă acel conținut este autentic.
Detectarea Deepfake-urilor este un câmp de bătălie dinamic între creatorii de conținut falsificat și cei care încearcă să protejeze autenticitatea informațiilor. Continuarea cercetării și dezvoltării în acest domeniu este crucială pentru a ține pasul cu evoluția rapidă a tehnologiei.
Sfaturi pentru a evita să fii păcălit de Deepfake-uri
Evitarea înșelăciunii prin Deepfake necesită o combinație de scepticism sănătos, atenție la detalii și utilizarea unor instrumente de verificare. Iată câteva sfaturi utile:
• Nu crede tot ce vezi online! Internetul este o sursă vastă de informații, dar nu toate sunt veridice. Este important să dezvolți un scepticism sănătos și să analizezi cu atenție orice conținut video sau foto înainte de a-l accepta ca fiind real.
• Caută semne de manipulare: Deepfake-urile pot fi foarte sofisticate, dar adesea pot fi identificate prin anumite indicii. Fii atent la discrepanțe de iluminare, erori de aliniere, nereguli ale pielii sau probleme de sincronizare a buzelor cu sunetul.
• Verifică sursa: De unde provine videoclipul sau imaginea? Este distribuit pe o
platformă de încredere? Caută confirmarea informației din surse credibile sau
direct de la entitățile sau persoanele implicate.
• Folosește instrumente de verificare: Există numeroase organizații și instrumente online care te pot ajuta să verifici dacă o informație este reală. Utilizează-le pentru a cerceta autenticitatea conținutului suspect.
• Nu te baza pe o singură sursă: Caută confirmare din mai multe surse credibile.
Un singur videoclip sau imagine nu este suficient pentru a verifica o informație.
• Învață despre Deepfake-uri: Cu cât înțelegi mai bine cum funcționează această tehnologie, cu atât vei fi mai capabil să identifici falsurile. Există multe resurse online care explică principiile Deepfake-urilor și metodele de detectare.
Prin aplicarea acestor sfaturi, poți reduce riscul de a fi înșelat de conținutul Deepfake și poți contribui la promovarea unei culturi a verificării și a responsabilității în mediul online.
Ce să faci dacă ești victima unui Deepfake
Dacă te afli în situația neplăcută de a fi victima unui Deepfake, este important să acționezi rapid și eficient pentru a minimiza daunele. Iată câțiva pași pe care îi poți urma:
• Documentează abuzul: Salvează copii ale conținutului Deepfake, inclusiv URL-uri, capturi de ecran, sau orice altă formă de dovezi care ar putea fi relevante. Acest lucru este esențial pentru orice demersuri legale sau raportări ulterioare.
• Raportează conținutul: Majoritatea platformelor de socializare și siteurilor web au politici stricte împotriva Deepfake-urilor și a conținutului manipulat. Utilizatorii pot semnala cu ușurință conținutul suspect folosind funcția de raportare integrată a platformei.
• Contactează autoritățile: În cazuri grave, unde conținutul Deepfake încalcă legile privind defăimarea, hărțuirea sau distribuția de materiale pornografice fără consimțământ, poate fi necesar să contactezi autoritățile locale sau alte organisme de aplicare a legii.
• Solicită ajutor juridic: Consultă un avocat pentru a evalua opțiunile legale disponibile pentru tine. Aceasta poate include acțiuni legale împotriva celor care au creat sau distribuit conținutul Deepfake.
• Folosește servicii de gestionare a reputației online: Există companii specializate în îmbunătățirea prezenței online și în eliminarea sau diminuarea impactului conținutului negativ. Aceste servicii pot fi utile pentru a-ți proteja imaginea pe termen lung.
• Comunică cu transparență: Dacă Deepfake-ul are potențialul de a-ți afecta cariera sau relațiile personale, ia în considerare să vorbești deschis despre situație cu angajatorul, colegii sau persoanele apropiate. Oferirea contextului și a versiunii tale poate ajuta la diminuarea impactului negativ.
• Protejează-ți informațiile personale: În urma unui incident Deepfake, este important să fii mai precaut în ceea ce privește securitatea online. Verifică setările de confidențialitate pe rețelele sociale, schimbă parolele și monitorizează activitatea conturilor tale pentru semne de acces neautorizat.
• Suport emoțional: Trauma psihologică suferită de victima unui Deepfake poate fi semnificativă. Nu ezita să cauți sprijin din partea prietenilor, familiei sau a profesioniștilor în sănătate mintală.
• Educație și conștientizare: Ajută la creșterea gradului de conștientizare despre pericolele Deepfakeurilor prin împărtășirea experienței tale, dacă te simți confortabil. Acest lucru poate ajuta la informarea și protejarea altora.
Ghidul complet lansat de Directoratul Național de Securitate Cibernetică se găsește AICI.
Dacă ţi-a plăcut acest articol, urmăreşte Via Cluj TV pe Facebook printr-un Like mai jos:
