Kanada, ChatGPT’nin üreticisi OpenAI’ın, geçen yıl toplu katliamcı Jesse Van Rootselaar’a ait bir hesabı yasaklamasının ardından, şirketin güvenlik protokolleri hakkında bir toplantı için OpenAI’ın üst düzey yetkililerini çağırdı.
18 yaşındaki Van Rootselaar, 10 Şubat’ta British Columbia’da küçük bir kasabada sekiz kişiyi öldürdükten sonra intihar etmişti. OpenAI, geçen yıl ChatGPT sohbet robotundaki hesabını, kolluk kuvvetlerine bildirim için iç kriterleri karşılamayan politika ihlalleri nedeniyle yasakladığını söyledi.
OpenAI güvenlik ekibi için kritik görüşme
Yapay Zeka Bakanı Evan Solomon, gazetecilere yaptığı açıklamada, OpenAI’nin güvenlik ekibinin üst düzey üyelerinin ABD’den Ottawa’ya bir toplantı için geleceğini ve “güvenlik protokollerinin, ne zaman polise bildirimde bulunduklarının ve polise bildirim eşiğinin” açıklanacağını söyledi. OpenAI yaptığı açıklamada, şirketin üst düzey yöneticilerinin Kanada hükümeti yetkilileriyle “güvenliğe yönelik genel yaklaşımımızı, uyguladığımız önlemleri ve bunları sürekli olarak nasıl güçlendirdiğimizi” görüşeceklerini doğruladı.
Bu olay, teknoloji şirketlerinin tehdit içeren kullanıcı faaliyetlerini kolluk kuvvetlerine bildirme yükümlülükleri konusundaki incelemeyi yoğunlaştırdı. Polisin erkek olarak doğduğunu ancak kendini kadın olarak tanımladığını ve altı yıl önce cinsiyet değiştirmeye başladığını söylediği Van Rootselaar’ın, daha önce polisle akıl sağlığıyla ilgili bir dizi etkileşimi olmuştu. Cinayetler, Kanada Kayalık Dağları’nda yaklaşık 2400 nüfuslu bir kasaba olan Britanya Kolombiyası’ndaki Tumbler Ridge’de meydana geldi.
OpenAI daha önce, “şiddet içeren faaliyetleri desteklemek amacıyla modellerimizin kötüye kullanılması”nı tespit eden sistemler tarafından işaretlendikten sonra Haziran 2025’te Van Rootselaar’ın hesabını yasakladığını söylemişti. Şirket, hesabı polise bildirmeyi düşündüğünü ancak başkalarına ciddi fiziksel zarar verme konusunda yakın ve güvenilir bir risk oluşturma eşiğini karşılamadığına karar verdiğini belirtti.
Solomon, Kanadalıları çevrimiçi zararlardan korumak için Ottawa’nın neler yapabileceği sorulduğunda, yakında çıkacak olan çevrimiçi gizlilik ve veriyle ilgili bir yasa tasarısını örnek göstererek “tüm seçenekler masada” dedi.