GPU belleğindeki güvenlik açığı, bilgisayar korsanlarının LLM yanıtlarına erişmesine olanak tanıyabilir. Apple, Qualcomm ve AMD ürünlerinin tamamı risk altındaydı.
GPU belleğindeki güvenlik açığı, büyük dil modellerini tehdit aktörlerinin kullanımına tamamen açık bırakabilirdi. Araştırmacılar , ‘LeftoverLocals’ olarak adlandırılan bir GPU bellek güvenlik açığının, artık yerel bellek aracılığıyla bilgisayar korsanlarına verilen LLM yanıtlarını açığa çıkarabileceği konusunda uyardı.
GPU güvenlik açığı LLM çalışmalarını riske attı
Trail of Bits blogunda yayınlanan araştırmaya göre Apple, Qualcomm, AMD ve Imagination, savunmasız olarak adlandırılan büyük GPU satıcıları arasında yer alıyor. GPU’ların tümü, araştırmacıların araştırmaya ilk başladığı Eylül 2023’ten bu yana değişen düzeylerde savunmasız durumdaydı. Araştırmacılar, GPU’nun yerel belleğini kurtararak başka bir kullanıcının etkileşimli LLM oturumunu dinledikleri ekli bir videodan alıntı yaparak potansiyel saldırının kavram kanıtını (PoC) oluşturmayı başardı.
Araştırmacılar yaptıkları testlerden, ‘LeftoverLocals’ın AMD Radeon RX 7900 XT’de GPU çağrısı başına yaklaşık 5.5 MB sızdırabileceği sonucuna vardı. Bu, bir LLM’yi endişe verici derecede yüksek hassasiyetle yeniden yapılandırmak için yeterli veriydi. Yapay zeka çıkarımının yüksek performans gereksinimlerini desteklemek için GPU’ların yaygın olarak kullanıldığı göz önüne alındığında, bu haberin kurumsal yapay zeka kullanıcıları arasında ciddi endişelere yol açması muhtemel.
Singularity Üniversitesi’nde IEEE üyesi ve AI etik mühendisi Eleanor Watson, bu özel güvenlik açığının bir GPU’ya fiziksel erişim gerektirmesine rağmen, araştırmanın ciddi veri koruma risklerini vurguladığını söyledi. Watson: “Bu özel istismar türü, GPU’ya ve belleğine doğrudan erişim gerektirse de, bu, yapay zeka sistemleriyle etkileşimlerimizi gizli tutmanın zorluklarını gösteriyor” dedi. Güvenlik açığına karşı savunma yapmak için GPU’ların, çekirdek çağrıları arasında yerel belleği temizleyecek yerleşik bir sisteme ihtiyacı var. Nvidia ve Intel dahil bazı GPU satıcıları bunu zaten yapıyor, diğerlerinin ise buna ayak uydurması gerekiyor. ‘LeftoverLocals’ haberine yanıt olarak AMD, “işlemlerin GPU’da paralel çalışmasını engelleyen ve desteklenen ürünlerdeki işlemler arasındaki yerel belleği temizleyen” yeni bir mod oluşturmayı planladığını ve söz konusu modun Mart 2024’e kadar kullanıma sunulmasının beklendiğini belirtti.
