Büyük dil modelleri (LL.M.) günlük yaşamı tanımlayan platformlara giderek daha fazla entegre olurken, yazılımın güvenlik özelliklerindeki önemli kusurlar ortaya çıkmaya başlıyor. McDonald’s yapay zeka sistemleri, LLM sohbet robotlarını işe alım sistemlerine hızla dahil eden ve sonuçları umursamayan şirketlerin sayısı giderek artıyor. McDonald’s’ın “sanal işe alım asistanı” olarak adlandırdığı Paradox.ai tabanlı sohbet robotunun adı Olivia.
McDonald’s yapay zeka sistemi için güvenlik önlemleri alınıyor
Olivia, adayların sahte canlı sohbet aracılığıyla yakınlarındaki işleri bulmalarına yardımcı olmaktan mutluluk duyuyor ve bu sohbeti daha da sıra dışı hale getirmek için bir insan çalışanın fotoğrafıyla tamamlıyor. McDonald’s yapay zeka teknolojisi kapsamında, bir sohbet robotu olarak Olivia o kadar da dikkat çekici değil. İş arayanları, LLM ile karşılaşılabilecek sinir bozucu halüsinasyonlarla dolu. Anlaşılmaz kişilik testleri ve eleme sorularından oluşan bir labirentte yönlendiriyor. Ancak, LLM programlarını nasıl kıracağını bilen bir bilgisayar korsanı için Olivia, McDonald’s yapay zeka alanında keşfedilmeyi bekleyen bir hazine.
Wired’ın ilk bildirdiğine göre, Olivia’nın sahte insan derisinin hemen altında gizlenmiş şaşırtıcı güvenlik açıkları vardı. Doğru bilgiye sahip bir bilgisayar korsanı, 64 milyon McDonald’s başvurusu sahibinin sohbet kayıtlarına erişebilirdi. Bu kayıtlar, tam adlar, e-posta adresleri, telefon numaraları, adresler, iş uygunlukları ve ham sohbet verileri gibi kişisel bilgileri içeriyordu.Olivia’nın dudak uçuklatan zayıflığı, “123456” kullanıcı adı ve şifresini kullanarak Paradox.ai LLM programının arka ucuna sızmayı başaran siber güvenlik araştırmacıları Ian Carroll ve Sam Curry tarafından keşfedildi. Beyaz şapkalı bilgisayar korsanları, buradan yapay zeka şirketinin “test restoranına” erişerek, McDonald’s yapay zeka sisteminin nasıl işlediğine dair bir fikir edinmeyi başardılar.
Carroll, blogunda: “McHire sistemi içinde bir test restoranının yöneticisi olduğumuz ortaya çıktı” diye yazdı. Halen Paradox.ai’nin yazılımlarını kullanmak zorunda oldukları için, ikili süreci incelemek üzere deneme pozisyonlarından birine başvurmaya karar verdi.
Uygulamanın arkasındaki koda daldıklarında, başvuru numaralarını gösteren bir parametreye, yani 64.185.742’ye hemen ulaştılar. McDonald’s yapay zeka ile kendi başvurularının hemen altındaki başvuruyu takip etmeye çalıştıklarında ise, tüm dünyanın görebileceği şekilde, başka bir iş arayanın kişisel bilgileriyle karşı karşıya kaldılar.
