Deepfake uygulamaları son devirde sık sık karşımıza çıkıyor. En son Cardi B ile Will Smith’in birleştirildiği görüntü, internette büyük ilgi görmüştü.
Yeni bir algoritma, yüz/kafa bölgesinin çekildiği görüntülerde konuşmacının cümlelerini değiştirmeyi, konuşmasından sözcükler çıkarmayı ya da konuşmasına sözcükler eklemeyi mümkün hale getiriyor. Üstelik bunu yapmak için yalnızca bir metin düzenleme programı kâfi oluyor.
Stanford Üniversitesi, Max Planck Enformasyon Enstitüsü, Princeton Üniversitesi ve Adobe Research iştirakinde gerçekleştirilen çalışma, tekrar tekrar yapılacak değerli tekrar çekimlerin önüne geçmeyi hedefliyor.
Algoritma, bir yüzü 40 dakika kadar inceleyerek yeni imajları ve sesi nasıl ekleyeceğine dair gözlemler yapıyor. İncelemeler sırasında konuşmacının kullandığı kelamların de metin belgesi halinde programa verilmesi gerekiyor. Bu müddetten sonra, istenilen sözcüklerin eklenip çıkarıldığı bir görüntü hazırlamak mümkün oluyor. Metni düzenlediğiniz vakit, algoritma sadece konuşmayı değil, 3 boyutlu yüz modellemesini yeni sözcüklere nazaran değiştiriyor. Düzenlenen görsel, fotoğraf gerçekliğinde kaplamalar ile gerçeğinden ayırt edilemeyecek hale geliyor. Program şimdilik kendi kendine ses belgesi üretemiyor ve o hususta yardıma gereksinim duyuyor.
Ekip, yeni deepfake algoritmasının etik olmayan kullanım potansiyelinden haberdar. Dünya şimdi bir deepfake skandalı ile yüzleşmemiş olsa da önümüzdeki devirde bilgi kirliliği emeliyle kullanılması çok muhtemel gözüküyor. İnsanların aklına birinci gelen, bireylerin söylemediği kelamları söylemişler üzere yansıtacak muhtemel uygulamalar oluyor. Öte yandan, nitekim söylenmiş ya da yapılmış olan şeylerin “deepfake” damgası yemesi de bir öbür mümkünlük.
İlk olarak, uygulamayı kullanan şahıslar bu uygulamada elde ettiği imajların üzerine deppfake olduğu ibaresini koyabilecek. Natürel ki berbat niyetli bireylerin “ben yaptım” diyerek düzmece manzaralar oluşturacağını kimse düşünmüyor. Grubun temel önerisi, başka araştırmacılar ile birlikte daha güzel isimli inceleme yazılımları geliştirmeye odaklanıyor. Bunun için de blok zincir tabanlı daimi kayıtlar ve/veya dijital parmak izi sistemleri devreye giriyor. Hali hazırda deepfake manzaraları belirlemek ve ayırt etmek için de yazılımlar geliştiriliyor.
Aşağıda yer alan görüntüde, yeni algoritmanın nasıl çalıştığını kendi gözlerinizle görebilirsiniz.
