Meta, Muse Image ve Muse Video adında iki yeni yapay zeka ürünü duyurdu. Adından da anlaşılacağı gibi, bunlar doğal dil metin komutlarını kullanarak fotoğraf ve video klipler oluşturmak için kullanılan üretken yapay zeka araçları. Piyasaya sürülmelerinin hemen ardından, bu araçlar tartışmalara yol açtı çünkü Meta, Instagram kullanıcılarını otomatik olarak sisteme dahil ederek, başkalarının kamuya açık olarak yayınladıkları medyayı kullanmalarına ve bunları yeniden düzenlenmiş yapay zeka içeriğine dönüştürmelerine olanak sağladı. Ancak Meta, mahkemenin diğer tarafında bir kayıp daha yaşadı.
Meta tespit aracı Content Seal kolaylık sağlayacak
Yeni yapay zeka araçlarının yanı sıra Meta, görünmez bir filigran sistemi görevi gören İçerik Mührü adı verilen bir şey de tanıttı. Teknik olarak, Muse Image yapay zekası tarafından oluşturulan tüm görüntüler, yapay zeka kullanılarak mı yoksa başka bir yöntemle mi yapıldığını belirlemek için kullanılabilen gizli bir sinyal taşır. Bununla birlikte, şirket bu görünmez İçerik Mührü filigranını okuyabilen kendi yapay zeka tanımlama aracını da piyasaya sürdü. Ancak Meta’nın yapay zeka algılama aracının, şirketin iddia ettiği kadar doğru olmadığı anlaşılıyor. Reuters’ın yaptığı bir analize göre, şirketin Muse Image AI’sını kullanarak oluşturulan görüntüler, Meta’nın yapay zeka tanımlama yazılımı tarafından güvenilir bir şekilde yapay zeka tarafından oluşturulduğu tespit edilemiyor. Haber kaynağı, Muse Image tarafından oluşturulan 40 görüntüyü analiz etti, ancak vakaların yalnızca %45’inde bunların yapay zeka kullanılarak oluşturulduğunu tespit edebildi. Geri kalan %55’lik vakalarda ise, görüntüler orijinal boyutlarının üçte birine veya dörtte birine kırpıldığında, Meta tarafından geliştirilen yapay zeka tespit aracı başarısız oldu.
Bu, dikkat çekici bir hata. Meta, web sitesinde İçerik Mührü sisteminin “kırpıldığında, sıkıştırıldığında, yeniden boyutlandırıldığında veya ekran görüntüsü alındığında bile bozulmadan kalan gizli bir kaynak sinyali” taşıdığını iddia ediyor. Reuters’ın analizinin ardından Meta, haber kaynağına yapay zeka tespit aracının hala önizleme aşamasında olduğunu ve bir fotoğraf “ağır şekilde kırpıldığında” güvenilir bir şekilde çalışamadığını söyledi. Meta, yapay zeka algılama sitesinde bulunan bir SSS sayfasında, bir görüntünün Muse Image yerine üçüncü taraf bir yapay zeka ürünü kullanılarak oluşturulması durumunda algılama aracının çalışmayacağını da açıkça belirtiyor.
Meta, Content Seal gibi bir sistem oluşturan tek yapay zeka devi olmayacak. Google’ın zaten SynthID adlı bir yapay zeka görüntü algılama ve filigranlama sistemi mevcut. Bu sistem OpenAI gibi şirketler tarafından da benimsendi. Bu, bir görüntü ChatGPT veya Gemini kullanılarak oluşturulursa, görünmez SynthID filigranını taşıdığı ve Google’ın kendi yapay zeka tanımlama aracı kullanılarak algılanabileceği anlamına gelir; bu araç artık Google Arama’da da mevcuttur. Ancak Google, SynthID’nin %100 hatasız olmadığını da açıkça belirtiyor.