Într-un articol anterior vă povesteam despre imaginile fake și ce tool-uri putem folosi pentru a deosebi imaginile reale de cele preparate. V-am vorbit atunci despre Forensically, FotoForensics, Ghiro și JPEGsnoop.
Lucrurile se complică însă când este vorba despre videoclipurile deepfake create cu ajutorul inteligenței artificiale, cum sunt acestea din video.
Tehnologia ce stă în spatele creării videoclipurilor deepfake a devenit mai cunoscută în anul 2017 și a fost perfecționată de-a lungul anilor. Între timp, a devenit destul de dificil să verifici dacă un videoclip este autentic sau creat artificial.
La 01 septembrie, Microsoft a anunțat lansarea unui nou tool de detecție a deepfake-urilor, numit Microsoft Video Authenticator. Pe principiul “fighting fire with fire”, Microsoft Video Authenticator folosește tehnologie AI pentru a detecta deepfake-urile create tot cu AI.
Tehnologia ce stă în spatele Microsoft Video Authenticator a fost dezvoltată inițial de Microsoft Research în coordonare cu echipa Microsoft Responsibile AI și Comitetul Microsoft AI, Ethics and Effects in Engineering and Research.
Din ceea ce scriu cei de la Microsoft pe blogul lor, Microsoft Video Authenticator analizează o fotografie statică sau un videoclip și furnizează apoi un scor de încredere în autenticitatea fișierului media analizat. În cazul unui videoclip, Microsoft Video Authenticator poate furniza acest scor de încredere în timp real, pe fiecare cadru, pe măsură ce videoclipul este redat. În acest fel, utilizatorul își poate da seame exact care cadre au fost alterate.
Microsoft Video Authenticator a fost creat folosind un set public de date de la Face Forensic++ și a fost testat pe DeepFake Detection Challenge Dataset, ambele modele de vârf pentru instruire și testarea tehnologiilor de detectare deepfake.
Cei de la Microsoft au anunțat că inițial tool-ul nu va fi disponibil publicului larg, ci doar unui număr limitat de organizații. Deocamdată nu am văzut un deadline pentru disponibilitatea tool-ului, mai așteptăm.