2020 yılının Ocak ayında Facebook, deepfake videolarını yasakladığını açıklamıştı. Fakat yine de yapısında hala bu tür videolar bulunuyor. Bundan dolayı son dönemde gerçeklik sınırlarını aşan bu tür videoları tespit etmek ve engellemek için özel bir yazılım geliştirildi.
Facebook ve Michigan State Üniversitesi’ndeki yapay zeka araştırmacıları tarafından ortak gerçekleştirilen yeni algoritma, deepfake videolarını ve bu videoların kaynağını tespit edecek. Buna ek olarak, yazılım teknik olarak ne kadar yeni olursa olsun, deepfake videolar oluşturmak için kullanılan yapay zekayı da kolaylıkla tespit edecek.
Proje araştırma lideri Tal Hassner, yeni yazılımın tam anlamıyla bir tersine mühendislik ürünü olacağını söyledi. Yazılımın ilham kaynağıysa Michigan State Üniversitesi’nin geçtiğimiz yıl geliştirdiği ‘‘Bir fotoğrafın hangi kamera ile çekildiğini tespit eden yapay zeka” projesi.
Hassner, şu an için geliştirilen yazılımın test aşamasında olduğunu ifade ederek, ‘‘Kötü niyetli bir kişinin birçok farklı deepfake videosu ürettiğini ve bunları farklı platformlarda farklı kullanıcı hesapları ile yüklediğini varsayalım. Üretilen bu videolar, daha önce kimsenin görmediği yeni bir yapay zeka modeli ile oluşturuldu ise, daha önce bunun hakkında söyleyebileceğimiz çok az şey vardı. Ancak geliştirdiğimiz yeni algoritma ile üretilen bu videoların kaynağını tespit edebileceğiz.” ifadelerini kullandı.
Hassner, bunun yanı sıra, ‘‘Geliştirilen algoritma, üretilen bir deepfake videosunun kaynağını bıraktığı parmak izi sayesinde tespit edecek. Bunun yanı sıra daha önce bu kaynağın ürettiği videolar ve bu videoların da deepfake olup olmadığını anlayacak.” dedi.
Hassner bunun üzerine deepfake videoları için geliştirilen yöntemlerin gün geçtikçe artmasına da değinirken, bu durumun adeta bir ‘‘kedi ve fare’’ oyunu olduğunu belirtti.
Editör: Megabayt Haber
