Şirketin üç aylık tehdit raporuna göre Meta Platformsİ Çin, İsrail, İran, Rusya ve diğer ülkelerden gizli etki kampanyalarıyla ilişkili yüzlerce Facebook hesabını kaldırdı. Bu hesaplardan bazıları dezenformasyon oluşturmak için yapay zeka araçlarını kullandı. Facebook, Instagram ve WhatsApp’ın ana şirketi olan Meta, tehdit aktörlerinin sitelerindeki kullanıcıları etkilemek amacıyla sahte görüntüler, videolar ve metinler üretmek için yapay zekaya güvendiğini gördü. Ancak Çarşamba günkü raporda Meta, üretken yapay zeka kullanımının şirketin bu ağları bozma yeteneğini etkilemediğini söyledi.
Meta yapay zeka etki kampanyalarını dezenformasyon için kaldırıyor
Şirket, dezenformasyon kampanyaları arasında Çin’den, Sih yanlısı hayali bir hareketin yapay zeka tarafından oluşturulmuş poster resimlerini paylaşan yanıltıcı bir ağ ve medya kuruluşları ve tanınmış kişilerin sayfaları altında yapay zeka tarafından İsrail ordusunu öven yorumlar yayınlayan İsrail merkezli bir ağ buldu. Şirket, gerçek topluluklar arasında izleyici kitlesi oluşturamadan bu ağların çoğunu kaldırdığını söyledi.
Meta’nın tehdit engelleme politika direktörü David Agranovich Salı günü bir basın toplantısında “Şu anda yapay zekanın son derece karmaşık şekillerde kullanıldığını görmüyoruz” dedi. Yapay zeka tarafından oluşturulan profil fotoğrafları oluşturmak veya büyük miktarda spam içerik üretmek için yapay zekayı kullanmak gibi taktiklerin şu ana kadar etkili olmadığını söyledi. Agranovich, “Fakat bu ağların doğası gereği düşmanca olduğunu biliyoruz. Teknolojileri değiştikçe taktiklerini geliştirmeye devam edecekler” dedi.
Facebook, ByteDance Ltd.’nin TikTok ve Elon Musk’un X’i gibi sosyal medya şirketleri, sitelerinde yapay zeka tarafından oluşturulan sahte ve yanıltıcı içerik akışıyla mücadele ediyor. Yalnızca bu yıl, ABD Başkanı Joe Biden’ın üzerinde oynanmış ses kayıtları ve İsrail-Hamas çatışmasının sahte görüntüleri sosyal medyada dolaşarak milyonlarca görüntüleme topladı. Meta’nın küresel ilişkilerden sorumlu başkanı Nick Clegg, özellikle şirket 2024 seçim döngüsüne hazırlanırken, yapay zeka tarafından oluşturulan içeriği tespit etme ve etiketleme ihtiyacından söz ediyor. Bu yıl küresel seçimler ABD, Hindistan ve Brezilya gibi şirketin uygulamalarının yaygın olarak kullanıldığı yerler de dahil olmak üzere 30’dan fazla ülkede yapılacak.
Clegg, filigranlama konusunda bir endüstri standardı oluşturmanın “bugün karşı karşıya olduğumuz en acil görev” olduğunu söyledi. Meta, Alphabet Inc.’in Google ve OpenAI gibi yapay zeka şirketlerinin araçları tarafından oluşturulan görüntüleri tespit etme ve etiketleme yeteneği üzerinde çalışıyor. Şirket halihazırda bazı görsellere görünür işaretleyicilerin yanı sıra görüntü dosyalarındaki görünmez işaretleyicileri ve tanımlayıcı bilgileri eklemeye başladı.
