Meta yaptığı açıklamada, ebeveyn kontrolleri ve daha güçlü güvenlik önlemleri içeren yeniden tasarlanmış bir sürüm üzerinde çalışırken, tüm uygulamalarındaki yapay zeka sohbet robotu karakterlerine gençlerin erişimini geçici olarak engelleyeceğini duyurdu.
Meta yapay zeka karakterler için sınırlama getiriyor
Meta’ya göre, bu durdurma küresel olarak geçerli olacak ve “önümüzdeki haftalarda” kullanıma sunulacak. Güncellenmiş deneyim hazır olana kadar gençler mevcut tüm yapay zekâ karakterlerinden mahrum kalacak. Bu hamle, Meta’nın “arkadaş tarzı” sohbet robotlarının genç kullanıcılarla nasıl etkileşim kurduğuna dair aylardır artan endişelerin ardından geldi. Daha önceki raporlarda, şirketin bazı yapay zeka karakterlerinin gençlerle cinsel veya başka türlü uygunsuz konuşmalar yaptığı tespit edilmişti.
Meta, kısıtlamaların yalnızca hesaplarında genç doğum günü belirten kullanıcılara değil, aynı zamanda “yaş tahmin teknolojimize dayanarak genç olduklarından şüphelendiğimiz ancak yetişkin olduklarını iddia eden kişilere” de uygulanacağını söyledi.
Gençlerin, şirketin zaten yaşa uygun korumalar içerdiğini söylediği Meta’nın resmi yapay zekâ asistanını kullanmalarına hala izin verilecek. Bu karar, Meta’nın sohbet robotuna özel ebeveyn kontrolleri geliştirdiğini söylemesinden aylar sonra geldi. Reuters’ın Meta’nın iç politika belgesinde yapay zekâ karakterlerinin reşit olmayan kullanıcılarla “duyusal” konuşmalar yapmasına izin verildiğini ortaya koymasının ardından bu çaba daha da aciliyet kazandı.
Meta daha sonra bu ifadenin “hatalı ve politikalarımızla tutarsız” olduğunu söyledi ve Ağustos ayında, kendine zarar verme, intihar ve yeme bozuklukları hakkındaki tartışmaları önlemek için yeni güvenlik önlemleriyle sohbet robotlarını yeniden eğittiğini duyurdu. O zamandan beri, yapay zeka destekli sohbet robotlarına yönelik incelemeler yoğunlaştı.
Federal Ticaret Komisyonu ve Teksas Başsavcısı, Meta ve diğer yapay zeka şirketleri hakkında, küçükler için potansiyel riskler nedeniyle soruşturma başlattı. Yapay zeka sohbet robotları ayrıca, New Mexico başsavcısı tarafından açılan bir güvenlik davasında da odak noktası haline geldi. Dava duruşmasının önümüzdeki ayın başlarında başlaması planlanıyor.