Cum să te ferești de imaginile false create prin tehnologia deepfake, în condițiile în care inteligența artificială este folosită din ce în ce mai des pentru a crea conținut video care pare real, dar care este fals.
În mediul online, circulă tot mai multe imagini false cu persoane celebre în ipostaze intime sau clipuri în care oameni politici fac reclamă la diverse produse.
Abundența de deepfake vine din faptul că există instrumente gratuite care permit crearea de imagini extrem de convingătoare ale unor oameni reali. Trebuie doar să știi cum să le folosești.
De exemplu, pe rețelele sociale circulă clipuri frauduloase cu demnitari, politicieni, vedete media, sportivi care recomandă diverse investiții la companii ale statului român. În realitate, în spate se află personaje al cărui singur scop este să obțină datele de la conturile bancare ale celor care nu se prind de înșelăciune.
Citește și: Video cu fața și vocea Simonei Halep, folosit de cei care vor să vă fure banii online
Fenomenul este răspândit la nivel mondial. Circulă imagini cu fața și vocea falsă a președintelui SUA, iar Pellegrini și Fico oferă acțiuni la compania slovacă Slovnaft într-un videoclip inventat.
Chiar și cântăreața Taylor Swift a fost victimă. De exemplu, cineva a generat fotografii nud fictive ale ei și a inundat internetul cu astfel de imagini la începutul anului, scrie Zive.
Cum se creează un deepfake
În toate cazurile, a fost folosită tehnica numită deepfake.
„Termenul deepfake acoperă mai multe tipuri de conținut. Pot fi fotografii sau videoclipuri cu conținut care nu este real, dar este generat cu ajutorul inteligenței artificiale”, a explicat Michal Gregor, un cercetător care se concentrează pe inteligența artificială, de la Kempelen Institute of Intelligent Technologies.
Crearea de conținut deepfake constă în folosirea inteligenței artificiale pentru a crea o imagine a unei persoane reale, dar care face fapte sau spune lucruri care nu îi aparțin.
Un deepfake poate fi, de exemplu, o fotografie a unei persoane celebre într-o situație în care nu a fost niciodată sau un videoclip în care spune ceva ce nu a spus niciodată.
Tehnica se bazează pe colectarea unei cantități mari de date, pe care inteligența artificială este antrenată să recunoască și să imite anumite modele, fie în zona feței, a vocii sau chiar a scrisului.
„Inteligența artificială actuală poate face scurtături foarte rapide către rezultate care sunt deja foarte greu de distins de realitate”, avertizează Štefan Dlugolinský, cercetător independent la Institutul de Informatică al companiei SAS, potrivit Zive.
Totuși, există servicii comerciale precum Midjourney sau Dall-E care blochează generarea de fețe de oameni reali, pentru a preveni abuzul acestora.
Inteligența artificială poate fi antrenată
Există servicii care permit generarea de imagini a unor persoane celebre, pentru a fi folosite ca să transmită mesaje false.
Dacă persoana în cauză este cunoscută, rezultatele sunt cu adevărat convingătoare. Nu este o problemă să generezi, de exemplu, imagini cu Michael Jackson sau Prințesa Diana, astfel încât să nu se distingă de fotografiile istorice reale. Acest lucru arată, de asemenea, cât de mult potențial are această tehnologie.
Iată, de exemplu, un deepfake în care Arnold Schwarzenegger îi ia locul lui Michael Jackson, în videoclipul Thriller.
Dacă cineva dorește să creeze un rezultat și mai credibil, instrumente ca Stable Diffusion pot să fie folosite nu numai pe bază de modele, ci pot fi „antrenate” să memoreze fețe noi pe baza fotografiilor. Trebuie doar furnizate câteva zeci de fotografii ale aceleiași persoane și Stable Diffusion poate genera imagini complet noi cu chipul lor.
Pe lângă imagini, deepfake-ul este adesea răspândit și ca videoclip. De obicei, se folosește pentru editarea unei scene existente, deoarece este mult mai ușor decât generarea întregului videoclip din nou, scrie Zive.
@iamjoegaudet Arnold Jackson’s Thriller. Deepfake by @Brian Monarch. Voice over by me. #halloween #michaeljackson #thriller #arnoldschwarzenegger #deepfake #voiceover #impressions ♬ original sound – Joe Gaudet
Instrumentele de transformare a textului în vorbire sunt folosite pentru a crea un monolog simulat și mișcări computerizate ale buzelor pentru a da impresia că se potrivesc noului conținut.
Citește și: Trei zile de Open Data Hachathon. Ce am descoperit căutând cheltuielile primăriilor
Cum să te ferești de imaginile false create cu deepfake
Distingerea conținutului real de conținutul deepfake poate fi o provocare chiar și pentru specialiști, dar există strategii care să ajute. Expertul în inteligență artificială și deepfake Michal Gregor vine cu 4 sfaturi:
1. „Filigrane digitale”: una dintre metodele care promit un anumit grad de securitate sunt așa-numitele filigrane digitale. Este o marcă invizibilă care poate fi introdusă în imagine și, ulterior, permite identificarea și verificarea autenticității acesteia. Totuși, nu este posibil să împiedici o persoană să creeze conținut cu instrumente care nu vor încorpora filigrane.
2. Imperfecțiuni vizuale: conținutul deepfake poate avea anumite imperfecțiuni, cum ar fi un număr neobișnuit de degete sau inconsecvențe în mișcările buzelor. Totuși, erorile vor dispărea treptat, pe măsură ce calitatea tehnologiilor deepfake continuă să se îmbunătățească.
3. Inginerie inversă: unele companii lucrează la dezvoltarea de sisteme capabile să identifice conținutul generat prin căutarea caracteristicilor distinctive care decurg din crearea acestuia. Este un fel de inginerie inversă, în care rezultatul final este examinat cu privire la modul în care ar fi putut fi creat. Cu toate acestea, aceste instrumente nu sunt încă foarte precise și pot fi complet inutile dacă conținutul a fost editat manual după generare.
4. Verificarea informațiilor: Bunul simț rămâne unul dintre cele mai eficiente instrumente pentru a nu fi înșelat. Gândirea critică, verificarea informațiilor din mai multe surse și atenția față de declarațiile neobișnuite sau neașteptate ale unor oameni cunoscuți sunt cele mai bune metode de a detecta conținutul înșelător în prezent.
Urmează și altele
Folosirea acestor proceduri va fi crucială pentru public în viitor. „Deoarece am putut observa deja dezinformarea creată cu ajutorul IA într-o oarecare măsură în legătură cu recentele alegeri parlamentare din Slovacia, aș presupune că acest fenomen va avea o tendință ascendentă”, evaluează Štefan Dlugolinský, cercetător independent la Institutul de Informatică al companiei SAS, potrivit Zive..
„Am serioase îngrijorări că dacă tehnologii precum unele apărute recent ajung în mâinile publicului, ar putea avea consecințe serioase. Oamenii ar putea să înceteze să mai creadă în orice informație”
Štefan Dlugolinský
Sora de la OpenAI este un instrument recent introdus care poate crea videoclipuri scurte, de un minut.
Câteva dintre imaginile false prezentate de oamenii de știință OpenAI au fost practic imposibil de distins de imaginile reale ale camerei.
În ceea ce privește abuzul de conținut deepfake înainte de alegeri, potrivit avocaților, consecințele ar putea fi absolut fundamentale în viitor.
„Dacă intensitatea „deepfake-ului” ar cauza neconstituționalitatea sau ilegalitatea alegerilor și, astfel, ar împiedica libera concurență a forțelor politice, Curtea Constituțională a Republicii Slovace poate anula rezultatul disputat al alegerilor sau poate declara alegerile invalide în conformitate cu art. 163 din Legea privind Curtea Constituțională”, explică avocatul și membrul Comitetului permanent de etică și reglementare a IA, Miroslav Chlipala.
Urmăriți PressHUB și pe Google News!
