X platformu, yapay zeka Grok chatbot’u aracılığıyla manipüle edilmiş cinsel içerikli görüntülerin yayılmasına ilişkin kamuoyunda oluşan tepkilerin ardından, yasa dışı içerik yaydığı gerekçesiyle Avrupa Birliği tarafından soruşturma altına alındı.
Avrupa Komisyonu X için yaptırım kararı alabilir
27 üyeli bloğun yürütme organı olan Avrupa Komisyonu yaptığı açıklamada, sosyal medya platformu X’in Grok’un işlevleriyle ilgili riskleri doğru bir şekilde değerlendirip azaltarak tüketicileri koruyup korumadığını araştıracağını belirtti. Bu soruşturma, İngiliz medya düzenleyicisi Ofcom’un Grok’un cinsel içerikli deepfake görüntüler oluşturduğu endişeleri üzerine kendi soruşturmasını başlatmasından iki hafta sonra ve Endonezya, Filipinler ve Malezya’nın chatbot’u geçici olarak engellemesinin ardından geldi.
Komisyon, bu ayın başlarında, X’te paylaşılan çıplak kadın ve çocukların yapay zekâ tarafından oluşturulan görüntülerinin yasa dışı ve dehşet verici olduğunu belirterek, dünya çapındaki kınamalara katıldı. AB teknoloji sorumlusu Henna Virkkunen yaptığı açıklamada: “Kadın ve çocukların rızasız cinsel deepfake görüntüleri, şiddet içeren, kabul edilemez bir aşağılama biçimidir” dedi.
X, 14 Ocak’ta yayınlanan ve sahibi xAI’nin Grok AI kullanıcıları için görüntü düzenlemeyi kısıtladığını ve “yasa dışı olduğu yargı bölgelerinde” kullanıcıların konumlarına bağlı olarak açık giysiler içindeki kişilerin görüntülerini oluşturmasını engellediğini belirten bir açıklamaya atıfta bulundu. Ülkeleri belirtmedi. xAI’ın ek güvenlik önlemleri aldığını söylemesinin ardından Filipinler ve Malezya, Grok’a erişimi yeniden sağladı.
Büyük Teknoloji şirketlerinin yasa dışı ve zararlı çevrimiçi içerikle mücadele etmek için daha fazlasını yapmasını gerektiren AB Dijital Hizmetler Yasası kapsamında Komisyonun bu adımı, xAI’nin Grok’unun kadınların ve çocukların cinselleştirilmiş görüntülerini üretmesinin küresel düzenleyicileri alarma geçirmesinin ardından geldi. Şirketler, DSA ihlalleri için küresel yıllık cirolarının %6’sına kadar para cezası riskiyle karşı karşıya.
Yürütme organının üst düzey bir yetkilisi Pazartesi günü gazetecilere yaptığı açıklamada, xAI tarafından yapılan değişikliklerin memnuniyetle karşılandığını ancak tüm sorunları ve sistemik riskleri çözmediğini söyledi. Yetkili, Komisyonun, X’in Grok’un işlevlerini Avrupa’da kullanıma sunarken özel bir değerlendirme yapmadığına inandığını da ekledi.
