Derin sentez teknolojisi deepfake’i engelleyebilir mi?

Çin, deep fake ve sanal gerçeklik de dahil olmak üzere "derin sentez" teknolojisinin kötüye kullanılmasını önlemek için temel kurallar koydu. Bu hizmetleri kullanan herkes, görüntüleri buna göre etiketlemeli ve yerel düzenlemeleri ihlal eden faaliyetler için teknolojiden yararlanmaktan kaçınmalıdır.

[bkz url=https://www.techinside.com/sanofi-turkiye-tt-ventures-is-birligiyle-saglikta-inovasyon-ekosistemini-guclendiriyor/]

Çin Siber Uzay İdaresi, Sanayi ve Bilgi Teknolojileri Bakanlığı ve Kamu Güvenliği Bakanlığı, derin sentez teknolojisinin ve hizmetlerinin kullanımını zorunlu kılan ortak bir bildiri yayınladı. Hükümet kurumları, gelecek yıl 10 Ocak'tan itibaren geçerli olacak yeni kuralların ulusal güvenliği ve ülkenin temel sosyal değerlerini korumanın yanı sıra vatandaşların ve kuruluşların hak ve çıkarlarını korumayı amaçladığını söyledi.

Sentez teknolojisinin kullanıcı deneyimini iyileştirmesine karşın, aynı zamanda kimlikleri taklit etmek ve kurbanların itibarını zedeleyen yanlış ve zararlı bilgileri yaymak için kullanıldığını belirttiler. Bu, ulusal güvenliği ve sosyal istikrarı tehlikeye attı.

Bu tür riskleri azaltmak ve yeni teknolojinin "sağlıklı" gelişimini sağlamak için düzenlemelerin gerekli olduğunu eklediler. Temel kurallar aynı zamanda derin sentez hizmetlerinin gelişimini standartlaştıracak ve bunların veri güvenliği ve kişisel bilgileri koruma yasaları  da dahil olmak üzere ülkenin diğer ilgili düzenlemeleriyle uyumlu olmasını sağlayacaktır.

Yeni kurallar, metinden konuşmaya, ses düzenleme, hareket manipülasyonu, dijital simülasyon ve dahil olmak üzere metin, resim, video, ses ve sanal sahneler oluşturmak için derin öğrenme, sanal gerçeklik ve diğer sentetik algoritmaları kullanan teknolojiler için geçerli olacak. Yeni düzenlemeler, yerel yasalar tarafından yasaklanan bilgileri üretmek ve yaymak için derin sentez hizmetlerinin kullanılmamasının yanı sıra, gerçek bir kimlik veri kimlik doğrulama sisteminin yanı sıra kullanıcı kaydı, algoritma mekanizması incelemesi, veri güvenliği gibi diğer yönetim sistemlerinin uygulanması ihtiyacını da ortaya koyuyor.