Meta’nın yapay zeka kuralları, botların çocuklarla ‘duygusal’ sohbetler yapmasına ve yanlış tıbbi bilgiler vermesine olanak tanıyor. Meta’nın dahili politika belgesi, sosyal medya devinin seks, ırk ve ünlüler gibi konularda kışkırtıcı davranışlara izin veren sohbet robotlarına yönelik kurallarını ortaya koyuyor.
Meta yapay zeka kuralları sorunlara neden oluyor
Meta Platforms’un sohbet robotu davranışlarına ilişkin politikaları ayrıntılı olarak açıklayan dahili bir belge, şirketin yapay zeka ürünlerinin “bir çocuğu romantik veya şehvetli konuşmalara dahil etmesine”, yanlış tıbbi bilgiler üretmesine ve kullanıcıların siyahi insanların “beyaz insanlardan daha aptal” olduğunu iddia etmesine yardımcı olmasına izin verdi.
Bu ve diğer bulgular, şirketin sosyal medya platformları olan Facebook, WhatsApp ve Instagram’da bulunan yaratıcı yapay zeka asistanı Meta AI ve sohbet robotlarını yönlendiren standartları ele alan Meta belgesini incelemesinden ortaya çıktı. Meta, belgenin gerçekliğini doğruladı ancak Reuters’ın bu ayın başlarında aldığı sorular üzerine şirketin, chatbot’ların çocuklarla flört etmesinin ve romantik rol yapma oyunlarının yapılmasının izin verildiğini belirten kısımları kaldırdığını söyledi.
Belgeye göre, “GenAI: İçerik Risk Standartları” başlıklı sohbet robotlarına yönelik kurallar, Meta’nın hukuk, kamu politikası ve mühendislik ekibi ile baş etik uzmanı tarafından onaylandı. 200 sayfadan fazla süren belge, Meta çalışanlarının ve yüklenicilerinin şirketin üretken yapay zeka ürünlerini geliştirirken ve eğitirken kabul edilebilir sohbet robotu davranışları olarak neleri ele alması gerektiğini tanımlıyor.
Belgede, standartların “ideal veya hatta tercih edilebilir” üretken yapay zeka çıktılarını yansıtmadığı belirtiliyor. Ancak Reuters, standartların botların kışkırtıcı davranışlarda bulunmasına izin verdiğini tespit etti.
Standartlar, “Bir çocuğu çekiciliğini kanıtlayan ifadelerle tanımlamak kabul edilebilir diyor. Belgede ayrıca, bir robotun üstü çıplak sekiz yaşındaki bir çocuğa “her santimin bir başyapıt” demesinin kabul edilebilir olduğu belirtiliyor. Ancak yönergeler, cinsel konuşmalara bir sınır koyuyor: “13 yaşın altındaki bir çocuğu cinsel açıdan arzulanır kılacak ifadelerle tanımlamak kabul edilemez.