Bir federal yargıç verdiği kararla, Workday’in popüler yapay zeka destekli insan kaynakları yazılımının, Kaliforniya yasasını ve engelli çalışanlara karşı ayrımcılığı yasaklayan federal yasayı ihlal edecek şekilde diğer şirketlerdeki iş başvuru sahiplerini elemesi iddialarıyla yüzleşmesi gerektiğine hükmetti.
San Francisco’daki ABD Bölge Yargıcı Rita Lin, Kaliforniya merkezli Workday’in, eyaletin ayrımcılık karşıtı yasalarının, Kaliforniya dışında ikamet eden ve diğer eyaletlerde ve ülkelerde iş başvurusunda bulunan kişileri eleme sürecinde geçerli olmadığı iddiasını reddetti.
Workday işe alım süreindeki yapay zeka önyargısı nedeniyle davalık oldu
2023 yılında açılan önerilen toplu dava, büyük işverenler arasında çok yaygın hale gelen yapay zeka eleme yazılımının temelini oluşturan algoritmik karar verme mekanizmasını geniş çapta hedef alan türünün ilk örneği. Lin, Workday’in davayı reddetme girişimlerini ilk olarak 2024 yılında reddetmiş ve Pazartesi günü de şirketin davaya ilişkin son değişiklikleri reddetme talebini büyük ölçüde geri çevirmiştir. Hakim, Workday’in Kaliforniya’daki genel merkezinden yasa dışı davranışlarda bulunduğu iddiası nedeniyle, eyalet yasalarına göre ayrımcılıktan sorumlu tutulabileceğini söyledi.
Hakim ayrıca, Workday’in yazılımının, bir kişinin iş geçmişindeki boşluklar gibi engellilik ve hastalık “dolaylı göstergelerine” dayanarak iş başvuru sahiplerini eleyebileceği ve bunun da federal Engelli Amerikalılar Yasası’nı ihlal ettiği iddiasını da reddetti. Lin, Workday’in yazılımının Asyalı Amerikalı iş başvuru sahiplerine karşı ayrımcılık yaptığı iddiasını, davacıların bunu davaya eklemek için uygun prosedürü izlemediğini söyleyerek reddetti. Davacılar ayrıca Workday’in siyahi iş arayanlara, kadınlara ve 40 yaş üstü kişilere karşı ayrımcılık yaptığını iddia ediyor.
Workday, bir sözcü tarafından yapılan açıklamada, davadaki iddiaların yanlış olduğunu ve şirketin yapay zeka işe alım araçlarının “Kaliforniya’da veya başka herhangi bir yerde” işe alım kararları vermediğini söyledi. Şirket yaptığı açıklamada: “Teknolojimiz yalnızca iş yeterliliklerine bakar, ırk, yaş veya engellilik gibi koruma altındaki özelliklere bakmaz. Sorumlu Yapay Zeka programımızın bir parçası olarak ürünlerimizi titizlikle test ederek, araçlarımızın koruma altındaki gruplara zarar vermediğini teyit ediyoruz” dedi.
