Meta, yapay zeka tarafından oluşturulan konuşmaya filigran eklemenin bir yolunu geliştirdi. AudioSeal adı verilen araç, sonunda dolandırıcılık ve yanlış bilgilendirme amacıyla ses klonlama araçlarının artan kullanımıyla mücadeleye yardımcı olabilir.
Meta yapay zeka ses içeriklerine odaklandı
Meta, yapay zeka tarafından oluşturulan içeriğin çevrimiçi olarak tespit edilmesine yardımcı olabilecek, yapay zeka tarafından oluşturulan ses kliplerine filigran olarak bilinen gizli sinyalleri yerleştirebilen bir sistem oluşturdu. AudioSeal adı verilen araç , örneğin tam bir saat süren bir podcast’in yapay zeka tarafından oluşturulmuş olabileceğini tespit edebilen ilk araç. Meta’da araştırma bilimcisi olan Hady Elsahar, ses klonlama araçlarını kullanarak büyüyen yanlış bilgi ve dolandırıcılık sorununun üstesinden gelmeye yardımcı olabileceğini söylüyor. Kötü niyetli aktörler, Başkan Joe Biden’ın sesli deepfake’lerini oluşturmak için üretken yapay zekayı kullandı ve dolandırıcılar, kurbanlarına şantaj yapmak için deepfake’leri kullandı. Filigranlar teorik olarak sosyal medya şirketlerinin istenmeyen içerikleri tespit etmesine ve kaldırmasına yardımcı olabilir.
Ancak bazı büyük uyarılar var. Meta, filigranları kendi araçları kullanılarak oluşturulan AI tarafından oluşturulan sese uygulama planının henüz olmadığını söylüyor. Ses filigranları henüz geniş çapta benimsenmemiştir ve bunlar için üzerinde anlaşmaya varılmış tek bir endüstri standardı yoktur. Yapay zeka tarafından oluşturulan içeriklere yönelik filigranların, örneğin kaldırılarak veya sahte olarak değiştirilerek değiştirilmesi kolay.
Elsahar, hızlı algılama ve bir ses dosyasının hangi öğelerinin yapay zeka tarafından oluşturulduğunu belirleme yeteneğinin, sistemi kullanışlı hale getirmede kritik öneme sahip olacağını söylüyor. Ekibin filigranları tespit etmede yüzde 90 ila yüzde 100 arasında bir doğruluk elde ettiğini, bu da sese filigran ekleme konusundaki önceki girişimlerden çok daha iyi sonuçlar elde ettiğini söylüyor.
AudioSeal GitHub’da ücretsiz olarak mevcut. Herkes onu indirebilir ve yapay zeka tarafından oluşturulan ses kliplerine filigran eklemek için kullanabilir. Sonunda yapay zeka ses oluşturma modellerinin üzerine yerleştirilebilir, böylece bunlar kullanılarak oluşturulan herhangi bir konuşmaya otomatik olarak uygulanabilir. Bunu yaratan araştırmacılar, çalışmalarını Temmuz ayında Avusturya’nın Viyana kentinde düzenlenen Uluslararası Makine Öğrenimi Konferansında sunacaklar.
