FTC, yapay zeka şirketlerini çocuklar üzerindeki etkileri konusunda sorgulamaya hazırlanıyor. ABD Federal Ticaret Komisyonu, yapay zeka sohbet robotlarının çocuklar üzerindeki zihinsel sağlık risklerini incelemeye hazırlanıyor ve aralarında OpenAI , Meta Platforms ve Character.AI’nin de bulunduğu büyük teknoloji şirketlerinden şirket içi belgeler talep edecek.
FTC yapay zeka şirketleri için yaptırım uygulayabilir
Şirket: “Character.AI, FTC çalışmasıyla ilgili bir mektup almadı ancak düzenleyiciler ve yasa koyucularla, bu yeni alana yönelik mevzuatı değerlendirmeye başladıklarında birlikte çalışmaktan memnuniyet duyuyoruz” dedi.
Beyaz Saray sözcüsü, FTC ve tüm yönetimin, halkın güvenliği ve refahından ödün vermeden Trump’ın “Amerika’nın yapay zeka, kripto para ve geleceğin diğer ileri teknolojilerindeki hakimiyetini pekiştirme” görevini yerine getirmeye odaklandığını söyledi. Haber, Reuters’ın özel bir haberinde Meta’nın çocuklarla kışkırtıcı chatbot davranışlarına izin verdiğinin, hatta botların “romantik veya şehvetli konuşmalara” girmesine izin verdiğinin ortaya çıkmasından haftalar sonra geldi.
Sosyal medya şirketi geçen hafta yapay zeka ürünlerine, gençlere yönelik yeni güvenlik önlemleri ekleyeceğini, sistemlerin küçüklerle flörtöz konuşmalar ve kendine zarar verme veya intihar gibi konulardan kaçınmasını sağlayacak şekilde eğitileceğini ve belirli yapay zeka karakterlerine erişimlerinin geçici olarak sınırlandırılacağını duyurdu.
Haziran ayında 20’den fazla tüketici hakları savunucusu grubu, Meta AI Studio ve Character.AI gibi yapay zeka platformlarının “terapi botları” barındırarak ruhsatsız tıp uygulamalarına olanak sağladığını iddia ederek FTC ve eyalet başsavcılarına şikayette bulundu.
Teksas Başsavcısı Ken Paxton, geçen ay Meta ve Character.AI hakkında, yapay zeka tarafından üretilen ruh sağlığı hizmetleriyle çocukları yanılttıkları iddiasıyla bir soruşturma başlattı ve onları aldatıcı ticaret uygulamaları ve gizlilik ihlalleriyle suçladı.
