Avustralya, internet düzenleyicisinin yapay zeka cephesindeki güvenlik önlemlerini artırmasının ardından, dört yapay zeka sohbet robotu şirketine, çocukları cinsel veya kendine zarar verici materyallere maruz kalmaktan korumak için aldıkları önlemleri açıklamalarını emretti. Bu tür servislerin gerçekçi konuşma yetenekleri dünyayı kasıp kavururken, aynı zamanda güvenlik önlemlerinin eksikliğinin savunmasız kişileri tehlikeli içeriklere maruz bırakabileceği endişesini de artırdı.
Yapay zeka sohbet robotları için düzenlemeler sıkı hale geliyor
eSecurity Komiseri yaptığı açıklamada, çocukların cinsel istismarı, pornografisi ve intiharı veya yeme bozukluklarını teşvik eden materyallere karşı alınacak önlemlerin ayrıntılarını talep ettiğini söyledi. Ünlü simülasyon chatbot aracı character.ai’nin sahibi Character Technologies’e ve rakipleri Glimpse.AI, Chai Research ve Chub AI’ya bildirimler gönderdi.
Komiser Julie Inman Grant yaptığı açıklamada: “Bu hizmetlerin bazılarının karanlık bir tarafı olabilir, birçok sohbet robotu reşit olmayanlarla cinsel içerikli konuşmalar yapabiliyor” dedi.
[bkz url= https://www.techinside.com/vibes-ai-video-akisi-meta-trafigini-artirdi/]
Avustralya’nın çevrimiçi düzenleme sistemi komisyona, internet şirketlerini iç güvenlik süreçlerini bildirmeye zorlama yetkisi veriyor, aksi takdirde günlük 825.000 Avustralya dolarına (536.000 ABD doları) kadar para cezasıyla karşı karşıya kalabilirler. Sorgulanan servisler arasında en popüler olanı Character.ai, 14 yaşında bir çocuğun annesinin, oğlunun sitede bir yapay zeka arkadaşıyla uzun süreli etkileşime girmesinin ardından intihar ederek öldüğünü söylemesinin ardından ABD’de dava ediliyor.
Character.ai davayı düşürmeye çalıştı ve kullanıcıların kendilerine zarar verme düşüncelerini ifade etmeleri halinde onları Ulusal İntihar Önleme Yardım Hattı’na yönlendiren açılır pencereler gibi güvenlik özellikleri getirdiğini söyledi.
