Yapay zeka girişiminin chatbot’unun kendisine kendine zarar verme yöntemleri konusunda eğitim verdiği iddiasıyla intihar eden bir gencin ebeveynlerinin açtığı davanın ardından, OpenAI web ve mobil platformlarda ChatGPT için ebeveyn kontrollerini kullanıma sunuyor.
OpenAI ebeveyn denetimleri ile kontrolü ele alıyor
Şirket, kontrollerin ebeveynlerin ve gençlerin hesaplarını birbirine bağlayarak daha güçlü güvenlik önlemleri almalarına olanak tanıdığını, bir tarafın davet gönderdiğini ve ebeveyn kontrollerinin yalnızca diğer taraf kabul ederse etkinleştiğini söyledi.
ABD düzenleyicileri, sohbet robotlarının olası olumsuz etkileri konusunda yapay zeka şirketlerini giderek daha fazla inceliyor.Ağustos ayında Meta’nın Yapay zeka kuralları çocuklarla flörtöz konuşmalara izin veriyordu.
Microsoft destekli şirket, X hakkında yaptığı açıklamada, yeni önlemler kapsamında ebeveynlerin hassas içeriklere maruz kalmayı azaltabileceğini, ChatGPT’nin geçmiş sohbetleri hatırlayıp hatırlamadığını kontrol edebileceğini ve konuşmaların OpenAI modellerini eğitmek için kullanılıp kullanılamayacağına karar verebileceğini söyledi.
OpenAI, ebeveynlerin belirli saatlerde erişimi engelleyen sessiz saatler ayarlamalarına ve ses modunun yanı sıra görüntü oluşturma ve düzenlemeyi devre dışı bırakmalarına da izin verileceğini belirtti. Ancak şirket, ebeveynlerin bir gencin sohbet kayıtlarına erişemeyeceğini de sözlerine ekledi.
OpenAI, sistemlerin ve eğitimli denetçilerin ciddi bir güvenlik riski belirtisi tespit ettiği nadir durumlarda, ebeveynlere yalnızca gencin güvenliğini desteklemek için gereken bilgilerle bildirimde bulunulabileceğini ve bir gencin hesapların bağlantısını kaldırması durumunda bilgilendirileceklerini söyledi. ChatGPT ürünleri için haftalık yaklaşık 700 milyon aktif kullanıcıya sahip olan OpenAI, bir kullanıcının 18 yaşından küçük olup olmadığını tahmin etmesine yardımcı olacak bir yaş tahmin sistemi oluşturuyor. Böylece chatbot, gençlere uygun ayarları otomatik olarak uygulayabiliyor. Meta, geçen ay yapay zeka ürünlerine yönelik yeni gençlik koruma önlemleri duyurmuştu . Şirket, reşit olmayanlarla flörtöz konuşmalar ve kendine zarar verme veya intihar gibi konuların konuşulmasını önlemek için sistemleri eğiteceğini ve belirli yapay zeka karakterlerine erişimi geçici olarak kısıtlayacağını açıkladı.
