Discord’un destek ekibi X’te, moderasyon araçlarındaki bir hatanın hesapların yanlışlıkla yasaklanmasına nasıl neden olduğunu açıkladı. Yaklaşık 200 hesap bu sorundan etkilenirken, sorun Mayıs 2026’dan bu yana yaklaşık 8.200 hesabı etkilemiş olabilir.
Discord güvenlik sistemi hatasıyla ilgili detayları paylaştı
Kare ızgara resimlerinin paylaşımlarının sorun olduğu ve Discord tarafından yanlışlıkla çocuk cinsel istismarı materyali olarak işaretlendiği görülüyor. Bu da ne yazık ki, bir elektronik tablodan satranç tahtasına veya Minecraft envanter menüsüne kadar her şeyin hatalı bir şekilde yasaklanmasına yol açabileceği anlamına geliyordu.
Şirket, üyelerinin paylaştığı içerikleri bilinen zararlı materyallerle karşılaştırmak için yapay zeka destekli içerik moderasyon araçları kullanıyor. Destek ekibi, sistemin yanlış pozitifler oluşturmasının bilindiğini kabul etti, bu nedenle genellikle işaretlenen hesaplar, kullanıcıya karşı herhangi bir işlem yapılmadan önce şirketin Güvenlik ve Emniyet ekibinden bir kişi tarafından inceleniyor.
Paylaşımlarda, “Amaçlanan davranış, bu inceleme sırasında yüklemeleri geçici olarak durdurmaktır, hesabı yasaklamak değil” deniyor. “İkincisi, bir hatadan kaynaklanıyordu. Ekibimiz bu hesapları inceleyip temizlediğinde, aynı hata yasağın otomatik olarak kaldırılmasını engelledi, bu yüzden yasak yürürlükte kaldı.” Discord’un özür açıklamasında belirttiği gibi, yaklaşık iki ay boyunca aktif kalması utanç verici bir hata. Şirket, yanlış pozitif olarak yasaklanan tüm hesapların artık geri yüklenmesi gerektiğini söyledi.