ABD’nin 44 eyaletinin Başsavcıları, çok sayıda yapay zeka şirketinin CEO’larına hitaben, çocukları “avcı yapay zeka ürünlerinin sömürüsünden” korumaları çağrısında bulunan bir mektup imzaladı. Başsavcılar mektupta Meta’yı özellikle vurguladı ve politikalarının “endişelerini açıkça dile getirmek için öğretici bir fırsat sunduğunu” belirtti. Özellikle, Reuters’ın yakın tarihli bir raporuna değindiler. Raporda, Meta’nın yapay zeka sohbet robotlarının “çocuklarla ilgilenmesine” izin verdiği ortaya çıktı.
Yapay zeka şirketleri çocuk güvenliğinden bir numaralı sorumlu
Kristen Bell gibi ünlülerin seslerini kullananlar da dahil olmak üzere Meta’nın yapay zeka sohbet robotlarının, reşit olmayan olarak etiketlenen hesaplarla cinsel içerikli rol yapma sohbetleri yaparken yakalandığı önceki bir Wall Street Journal araştırmasına da dikkat çektiler. Başsavcılar ayrıca, Google ve Character.ai’ye karşı açılan bir davadan da kısaca bahsetti ve ikincisinin sohbet robotunu davacının çocuğunu intihara ikna etmekle suçladılar. Bahsettikleri bir diğer dava da, bir sohbet robotunun bir gence ekran süresini kısıtladığı için ebeveynlerini öldürmesinin sorun olmadığını söylemesi üzerine Character.ai’ye karşı açılmıştı.
Başsavcılar mektuplarında, “Etkileşimli teknolojinin gelişmekte olan beyinler üzerinde özellikle yoğun bir etkisi olduğunun farkındasınız,” diye yazdı. “Kullanıcı etkileşimleri hakkındaki verilere anında erişiminiz, çocuklara gelebilecek zararları azaltmak için sizi en acil savunma hattı haline getiriyor. Ayrıca, çocukların ürünlerinizle etkileşiminden faydalanan kuruluşlar olarak, tüketiciler olarak onlara karşı yasal bir yükümlülüğünüz var.” Grup, mektubunda özellikle Anthropic, Apple, Chai AI, Character Technologies Inc., Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika ve XAi’ye hitap etti.
Mektubunu, şirketleri kararlarından “sorumlu tutulacakları” konusunda uyararak sonlandırdı. Sosyal ağların çocuklara ciddi zararlar verdiğini, bunun kısmen “devlet denetçilerinin işlerini yeterince hızlı yapmaması” nedeniyle olduğunu belirttiler. Ancak şimdi Başsavcılar, konuya dikkat ettiklerini ve şirketlerin “bilerek çocuklara zarar vermeleri halinde” “cevap vereceklerini” söyledi.
