Cuvântul ”deep” din deepfake provine de la deep learning, tipul de inteligență artificială (IA) folosit a le crea. Algoritmii specifici ajută computerele să proceseze date și să facă predicții într-un mod inspirat de creierul uman.
Până de curând, majoritatea deepfake-urilor au fost create folosind un tip de model numit Generative Adversial Network (sau GAN). Un model GAN este antrenat prin confruntarea a două rețele neuronale una împotriva celeilalte: una generează conținut,iar cealaltă îl evaluează, ceea ce creează rezultate din ce în ce mai realiste prin competiție. În videoclipurile deepfake create de modelele GAN, manipularea este aplicată unor părți specifice ale filmării, de exemplu gura.
De la boom-ul IA generativă din 2023, a crescut numărul de deepfakes cu modele de difuzie. Acestea sunt un pas înainte în comparație cu lipirea feței unei celebrități pe corpul unui actor sau rostirea de cuvinte noi, și permit crearea unui deepfake de la zero, fără a edita conținutul original.
Experții în securitate cibernetică analizează schimbările rapide din peisajul deepfake și consideră că, pe lângă creșterea realismului, boom-ul IA generativă a dus la crearea de deepfake-uri mai ieftine și mai accesibile.
De ce deepfakes?
Majoritatea covârșitoare a materialelor false vizează, în prezent, femeile și sunt folosite în pornografie. Cu toate acestea, există din ce în ce mai multe alte utilizări ale acestora pentru falsificarea alegerilor, fraudarea identității, încercări de înșelăciune și pentru a răspândi știri false. Anul trecut, piața bursieră a fost afectată ca răspuns la o fotografie deepfake realistă care arăta Pentagonul în flăcări.
Astfel, în era digitală, deepfakes reprezintă o amenințare considerabilă la adresa autenticității conținutului online, fie că este vorba de imagini, video sau audio. Acestea pot fi folosite pentru a răspândi dezinformări, a afecta reputația și a semăna discordie.
Există posibilitatea de manipulare a percepției oamenilor la scară largă, deoarece ochiul liber nu mai poate face diferența (sau este foarte dificil) dintre un material real și unui contrafăcut.
Din fericire, progresele în domeniul inteligenței artificiale au dat naștere și la instrumente puternice de detectare a deepfake-urilor.
Ce este un instrument de detectare Deepfake?
Un instrument de detectare a falsurilor este un software sau un sistem special conceput pentru a identifica videoclipuri sau imagini false. De obicei, utilizează diverse metode pentru a analiza conținutul digital și a determina dacă acesta a fost manipulat sau generat folosind IA.
Se estimează că piața globală a software-ului care permite identificarea deepfake-urilor va înregistra o rată de creștere anuală compusă (CAGR) de 38,8% în perioada 2024-2029. De asemenea, dimensiunea pieței de detectare a imaginilor false va crește de la 0,6 miliarde USD în 2024 la 3,9 miliarde USD până în 2029, cu CAGR de 41,6% în perioada de prognoză.
Instrumente gratuite care permit identificarea falsurilor în mediul online.
- WeVerify
Scopul WeVerify este de a aborda provocările avansate de verificare a conținutului printr-o abordare participativă a verificării, algoritmi open source, învățare automată și viziualizări intuitive. Conținutul social mediași web va fi analizat pentru detectarea dezinformării; va fi contextualizat în cadrul ecosistemului mai larg al web-ului social și al mass-media; iar conținutul înșelător și fabricat va fi expus ca atare, atât prin deszmințiri cu micro-obiective, cât și printr-o bază de date publică, bazată pe blockchain, a falsurilor cunoscute.
Platforma WeVerify este ideală pentru cetățeni și jurnaliști. Acesta pune la dispoziția utilizatorilor extensia dedicată browser-ului Google Chrome ”InVID WeVerify”.
Extensia a fost concepută pentru a ajuta jurnaliștii, apărătorii drepturilor omului și utilizatorii să economisească timp și să fie mai eficienți în verificarea faptelor pe rețelele sociale, în special atunci când este vorba de conținut multimedia (videoclipuri și imagini).
Setul de instrumente permite obținerea rapidă de informații contextuale despre imagini și videoclipuri de pe Facebook (platforma X nu funcționează corespunzător datorită modificărilor survenite de politica API), precum și despre videoclipuri de pe Youtube, căutarea inversă de imagini pe mai multe motoare, interogarea bazei de date de falsuri cunoscute, fragmentarea materialelor video de pe diverse platforme (Facebook, Instagram, Youtube, X, Daily Motion) în cadre cheie, citirea metadatelor video și a imaginilor, verificarea drepturilor de autor ale videoclipurilor și dispune și de instrumente pentru identificarea imaginilor manipulate.
Modul CheckGIF, realizat în cadrul proiectului EnVisu4 IFCN, permite crearea unui GIF între o imagine manipulată și una originală, pentru a evidenția mai bine diferențele.
Această extensie de browser va fi îmbogățită cu noi instrumente, dezvoltate în cadrul acțiunii de cercetare și inovare Vera.ai din cadrul programului Orizont UE (2022-2025), între care:
- Detector DeepFake
- Super Resolution – mărește rezoluția unei imagini dincolo de capacitățile inițiale ale senzorului, ceea ce poate permite ”mărirea” sau ”deblurarea” pentru a analiza o imagine sau un cadru video și pentru a oferi utilizatorului informații care altfel ar fi imposibil de citit;
- Image Verification Assistant – instrumentul constă într-un set de algoritmi de analiză criminalistică a imaginilor care încearcă să găsească urme de falsuri în imaginile interogate.
- Deepware
Deepware este un software avansat care utilizează inteligența artificială și tehnologiile de învățare automată pentru a detecta și a atenua efectele deepfakes. Acesta identifică videoclipurile, imaginile, respectiv fișierele audio și determină dacă sunt false sau nu. Este ușor de utilizat și ușor accesibil pentru detectarea falsurilor. Datorită unui scanner deepfake dedicat, Deepware permite utilizatorilor să analizeze potențiale videoclipuri deep fake sau să evalueze aspecte specifice ale comunicării vizuale și audio prin simpla introducere de link-uri.
Videoclipul încărcat trece apoi printr-o scanare curpinzătoare cu ajutorul modelului de inteligență artificială pentru a-i determina autenticitatea și a detecta orice semne de manipulare sau conținut fals.
Principalele caracteristici:
- Oferă detectarea în timp real a deepfake-urilor pentru toți utilizatorii;
- Analizează videoclipurile de pe mai multe platforme;
- Asigură verificarea autenticității înainte de partajare sau publicare.
- Duck duck Goose
DuckDuckGoose își propune să realizeze un mediu digital în care să putem avea încredere în ceea ce vedem, fiind astfel dezvoltat și un software de detectare a deepfake-urilor.
Software-ul este creat de o echipă de dezvoltatori olandezi. Acesta este capabil să clasifice o anumită imagine sau videoclip ca fiind reală sau falsă și oferă, de asemenea, informații despre motivul pentru care acel conținut a fost clasificat ca fiind manipulat. Software-ul este disponibil ca instrument de analiză criminalistică, dar și prin intermediul site-ului web gratuit.
Soluțiile dezvoltate sunt:
- DeepDetector – detectează în timp real videoclipuri și imagini deepfake;
- Phocus – o versiune demo a DeepDetector;
- DeepfakeProof – plugin pentru browser care permite detectarea imaginilor deepfake;
- AI Voice Detection – detectarea sunetului sintetic generat de AI;
- AI Text Detection – identificarea textului generat de AI din surse precum ChatGPT, Bard sau altele;
- Deepfake Maker – generarea de deepfakes de înaltă calitate pentru testarea sistemelor de detecție.
- TrueMedia
True Media este o organizație non-profit angajată în lupta împotriva dezinformării bazate pe inteligența artificială. Acesta a lansat o tehnologie de detectare a falsurilor pentru reporteri, pe care să o folosească înainte de alegerile din 2024. Deși este destinată viitoarelor alegeri din Statele Unite, aceasta poate fi aplicată conținutului deepfake de oriunde.
Instrumentul gratuit este disponibil în prezent pentru oficialii guvernamentali, analiști, personal de campanie, universitățile, organizațiile non-profit și reporterii organizațiilor de știri acreditate.
Alte instrumente specializate în identificarea deepfake-urilor, contra-cost sunt: Sentinel, Sensity, Deepfake Detector (pot fi verificate gratuit materiale audio-video cu diemnsiunea sub 5Mb), Bio ID (dispune de o versiune demo care poate fi accesată ulterior înregistrării pe platformă), Oz Forensics, etc.
Ministrul Cercetării, Inovării și Digitalizării, Bogdan Ivan, a anunțat în cursul lunii mai, lansarea platformei #nofake care poate fi accesată la adresa https://www.mcid.gov.ro/nofake/.
Prin intermediul acesteia poate fi raportat conținutul inadecvat de pe rețele de socializare: falsuri digitale, conținut denigrator, dezinformări și manipulări. Anunțul Ministerului Digitalizării vine pe fondul intensificării măsurilor luate la nivel european împotriva riscurilor aduse de rețelele sociale.
Platforma #nofake va funcționa ca un canal de raportare temporar, în anul 2024 și vizează asigurarea integrității alegerilor democratice, atât la nivel local, național și prezidențial, cât și la nivel european.