189 milyon abonesiyle dünyanın en büyük YouTuber’ı MrBeast ve iki BBC sunucusunun deepfake videoları yayınlandı. Deepfake videolarda dolandırıcılar yapay zeka kullanarak bir kişinin yüzünü ya da vücudunu manipüle ediyor ve sahte videolarla kullanıcılardan çıkar elde etmeyi amaçlıyor. Böyle bir video bu hafta TikTok’ta dolaşıma girdi ve MrBeast’in popülerliğinden yararlanarak insanlara 2 dolar karşılığında yeni iPhone 15 telefon dağıtacağı iddiasında bulundu. TikTok sözcüsü, şirketin MrBeast reklamını yüklendikten sonra birkaç saat içinde kaldırdığını ve reklamı yayınlayan hesabın politikalarını ihlal ettiği için kapatıldığını söyledi.
Yine bu hafta Facebook’ta yayınlanan bir diğer videoda ise ünlü İngiliz kanalı BBC’nin yıldızları Matthew Amroliwala ve Sally Bundock’un yapay zeka tabanlı benzerleri başka bir dolandırıcılık kampanyasında kullanıldı. Facebook’taki videoda gazeteciler, bir yatırım fırsatını tanıttığı iddia edilen, eski adı Twitter olan X’in milyarder sahibi Elon Musk’ı “tanıtırken” gösterildi. Geçmişteki benzer deepfake videolarda da Musk’ın para ve kripto para dağıttığı iddia edilmişti. Konuyla ilgili açıklama yapan Meta sözcüleri “Platformlarımızda bu tür içeriklere izin vermiyoruz ve ilgili videoları hemen kaldırdık” dedi ve ekledi: “Sistemlerimizi iyileştirmek için sürekli çalışıyoruz ve kurallarımızı ihlal ettiğine inandıkları içeriği gören herkesi uygulama içi araçlarımızı kullanarak bildirmeye teşvik ediyoruz, böylece dolandırıcılık iddialarını araştırabilir ve harekete geçebiliriz.”
Geçtiğimiz hafta da ünlü Hollywood yıldızı Tom Hanks, kendisi tarafından yapılmış gibi görünen bir diş sağlığı ürünleri reklamının aslında sahte bir yapay zeka (AI) olduğu konusunda uyarıda bulunmuştu. Hanks, Instagram sayfasında “Dikkat! Benim yapay zeka versiyonumu içeren, diş tedavisi tanıtımını yapan bir video var. Benim bununla hiçbir ilgim yok” diye yazmıştı. Hanks, gençlik yıllarına ait fotoğrafların çalınarak kullanıldığını iddia ediyor.
Dünya Ekonomik Forumu’na göre çevrimiçi deepfake videoların sayısı her yıl %900 oranında artıyor. Son birkaç yıl içinde taciz, intikam ve kripto dolandırıcılığı ile ilgili raporlarla birlikte birçok önemli deepfake dolandırıcılık vakası haber manşetlerine çıktı. Yapay sinir ağlarının, derin öğrenmenin ve dolayısıyla deepfake aldatma tekniklerinin kullanımı, dünyanın dört bir yanındaki kullanıcıların yüzlerini veya vücutlarını dijital olarak değiştirmeye, böylece herhangi birinin başka biri gibi göründüğü gerçekçi görüntü, video ve ses materyallerini üretmeye olanak sağlıyor. Bu manipüle edilmiş video ve görüntüler sıklıkla yanlış bilgi yaymak ve diğer kötü niyetli amaçlarla kullanılıyor
Bazı ülkeler bu konuda yasal mevzuatlarında değişiklikler ve ceza artışları planlarken bazı şirketler de kendi politikalarını daha sıkı gözden geçirmek durumunda kalıyorlar. En son geçtiğimiz ay içinde Google, platformunda yayınlanan tüm siyasi reklamların yapay zeka ile oluşturulup oluşturulmadığının açıklanmasını zorunlu kılacağını duyurmuştu.
