Bir yapay zeka işe alım sistemi, her başvuru sahibine aynı şekilde davranabilir ve yine de bazı kişilerin hedef alındığını hissetmesine neden olabilir. Araştırmacılar, reddedilen adayların, sonucu veren avatarın ırkına ve cinsiyetine bağlı olarak otomatik bir mülakatı farklı şekilde değerlendirdiğini buldu.
Yapay zeka işe alım sistemi şirketlerin ana hedefinde
Yaklaşık 220 katılımcı, dört fotogerçekçi yapay zeka avatarından biriyle kurgusal bir müşteri destek rolü için simüle edilmiş bir mülakatı tamamladı. Herkes reddedildi, ancak adalet algısı mülakatçının görünümüne göre değişti. Bir algoritma denetimi bu tepkiyi gözden kaçırabilir çünkü adaylar sistemi ham kod olarak deneyimlemezler. Soru soran ve cevaplarını değerlendiren bir yüz deneyimlerler. Avatarla yalnızca bir özellikte, yani cinsiyet veya ten renginde eşleşen adaylar, süreci her iki özellikte de veya hiçbirinde eşleşenlere göre daha az adil olarak değerlendirdi.
Çalışma, kısmi eşleşmenin neden en güçlü tepkiyi ürettiğini ortaya koymadı. Sınırlı benzerlik, adayların etkileşimden beklediklerini değiştirmiş ve reddedilmenin daha kişisel hissettirmesine neden olmuş olabilir. Açıklama ne olursa olsun, bir yapay zeka mülakatçısına tanıdık bir yüz vermek, başvuru sahiplerinin bunu tarafsız olarak görmesini garanti etmez. Karardan önce, yapay zekaya olan güven, farklı avatar kombinasyonlarında sürekli olarak yüksek kaldı. Göz takibi, katılımcıların ten rengi kendilerinden farklı olan yüzlere daha yakından baktığını ortaya koyan önemli bir farkı gösterdi.
Red cevabı geldiğinde, adaylar sürece karşı daha şüpheci oldular. Irksal uyumsuzluk da sonucu önyargıya bağlama olasılıklarını artırdı. Otomatik sonuç aynı kaldı, ancak ekrandaki kişi adayların bunu nasıl yorumladığını şekillendirdi. Deney, kurgusal bir iş ve standartlaştırılmış bir red cevabı içeriyordu, bu nedenle gerçek işe alım avatarlarının aynı tepkiyi ürettiğini kanıtlamaz. Ancak, otomatik bir karar kişisel hale geldiğinde algılanan adaletin ne kadar çabuk değişebileceğini gösterir.