İnsanların yüz ifadeleri ve seslerinin dijital olarak manipüle edildiği deepfake videolar, gerçekçi kalp atışlarını da yansıtabildiğinden, bunların fark edilmesi daha da zorlaşıyor. Araştırmaya dahil olmayan Kaliforniya Üniversitesi, Berkeley’den Hany Farid: “Bir videodaki kişinin nabzının ölçülebilir olması, onun gerçek olduğunu varsayabileceğimiz anlamına gelmiyor” diyor.
Deepfake yapımcıları tespit yöntemlerinden hızla kaçıyor
Bu gelişme, dijital olarak değiştirilmiş veya yapay zeka tarafından oluşturulmuş deepfake’lerin ünlüleri ve sıradan insanları ikna edici ancak sahte pornografi, finansal dolandırıcılık ve siyasi propaganda ile tuzağa düşürmesiyle birlikte geldi. Daha önce araştırmacılar, kan akışı ve kalp atış hızıyla ilişkili cilt rengindeki değişiklikleri belirleyerek deepfake’leri tespit etme konusunda deneyler yapmıştı, ancak bu araştırma bazı deepfake videolarının hala geçerli bir nabız sunabildiğini gösteriyor.
Almanya’daki Fraunhofer Telekomünikasyon Enstitüsü’nden Peter Eisert ve meslektaşları, gerçek ve deepfake videolardaki insanların nabzını analiz edebilen bir deepfake dedektörü geliştirdiler. Ayrıca, katılımcıların kalp atış hızlarını kaydederken aynı anda bir düzine kişinin yüz ifadelerini içeren yeni bir dizi gerçek video çektiler, böylece dedektörlerinin doğruluğunu doğrulayabildiler.
Daha sonra araştırmacılar, gerçek videolarına dijital olarak değiştirilmiş yüzler yerleştirdiler. Bu, deepfake dedektörlerini uyarması gereken bir hareketti. Bunun yerine, dedektörün hem sahtelerde hem de orijinal videolarda gerçekçi darbeler algıladığını buldular.
Farid: “Sadece bir veya birkaç deepfake üretecinin bu fizyolojik sinyali yeniden üretebilmesi, tüm deepfake üreteçlerinin bunu yapabileceği anlamına gelmiyor” diyor. Ekip, insanların yüzlerindeki yerel kan akışı modellerini belirlemek gibi deepfake’leri tespit etmek için yeni yollar denemeye başladı bile. Ancak bu tür yöntemlerin “sınırlı bir raf ömrü” olabilir diyor New York’taki Buffalo Üniversitesi’nden ve bu çalışmaya dahil olmayan Siwei Lyu.Bunun nedeni, yeni üretken AI araçlarının gerçekçi kalp atışlarını ve diğer fizyolojik sinyalleri daha inandırıcı bir şekilde taklit edebilmesi ve düşük kaliteli videolardan kalp atış hızı sinyali çıkarmanın zor olabilmesidir.
