Yeni bir çalışma, GPT-4’ün sıfır gün güvenlik açıklarından tek başına yararlanabildiğini ortaya koyuyor. GPT-4, OpenAI tarafından hazırlanan en yeni çok modlu büyük dil modeli (LLM) olarak duruyor. Şu anda ücretli ChatGPT Plus serisinin bir parçası olarak müşterilerin erişebildiği bu temel model, dışarıdan insan yardımı gerektirmeden güvenlik açıklarını tespit etme konusunda dikkate değer bir yetenek sergiliyor.
GPT-4 güvenlik için risk mi?
Araştırmacılar yakın zamanda, kendi kendini kopyalayan bir bilgisayar solucanının yayılması gibi son derece kötü amaçlarla (LLM’ler) ve chatbot teknolojisini manipüle etme yeteneğini gösterdi. Yeni bir çalışma, şu anda piyasada bulunan en gelişmiş sohbet robotu olan GPT-4’ün, yalnızca bir kusurun ayrıntılarını inceleyerek son derece tehlikeli güvenlik açıklarından nasıl yararlanabileceğine ışık tutuyor. Araştırmaya göre LLM’ler giderek daha güçlü hale geliyor, ancak eylemlerine rehberlik edecek etik ilkelerden yoksunlar. Araştırmacılar, OpenAI’ın ticari teklifleri, açık kaynaklı LLM’ler ve ZAP ve Metasploit gibi güvenlik açığı tarayıcıları dahil olmak üzere çeşitli modelleri test etti. Gelişmiş yapay zeka aracılarının, bu tür kusurların ayrıntılı açıklamalarına erişimleri olması koşuluyla, gerçek dünya sistemlerindeki sıfır gün güvenlik açıklarından “bağımsız olarak yararlanabileceğini” buldu.
Çalışmada LLM’ler, web sitesi hataları, kapsayıcı kusurları ve savunmasız Python paketleriyle ilgili 15 sıfır gün güvenlik açığından oluşan bir veritabanıyla karşılaştırıldı. Araştırmacılar, bu güvenlik açıklarının yarısından fazlasının ilgili CVE tanımlarında “yüksek” veya “kritik” şiddette olarak sınıflandırıldığını belirtti. Üstelik test sırasında mevcut hata düzeltmeleri veya yamalar mevcut değildi.
Illinois Urbana-Champaign Üniversitesi’nden (UIUC) dört bilgisayar bilimcisi tarafından yazılan çalışma, sohbet robotlarının bilgisayar saldırılarını otomatikleştirme potansiyeline ilişkin önceki araştırmaları temel almayı amaçlıyordu. Bulgular, GPT-4’ün test edilen güvenlik açıklarının yüzde 87’sinden yararlanabildiğini, GPT-3.5 dahil diğer modellerin ise yüzde sıfır başarı oranına sahip olduğunu ortaya çıkardı. UIUC yardımcı doçenti Daniel Kang, GPT-4’ün açık kaynaklı tarayıcılar bunları tespit edemediğinde bile 0 günlük kusurlardan bağımsız olarak yararlanabilme yeteneğinin altını çizdi. OpenAI’ın halihazırda GPT-5 üzerinde çalışmasıyla birlikte Kang, “LLM temsilcilerinin” senaryo çocukları ve otomasyon meraklıları arasında güvenlik açığı istismarını ve siber suçları demokratikleştirmek için güçlü araçlar haline geleceğini öngörüyor. Bununla birlikte, kamuya açıklanmış bir sıfır gün hatasından etkili bir şekilde yararlanmak için GPT-4’ün, CVE tanımının tamamına ve ek bilgilere gömülü bağlantılar yoluyla erişim sağlaması gerekiyor. Araştırmacılar ve analistler arasında görüşler farklılık gösterse de Kang, “gizlilik yoluyla güvenlik” yaklaşımının etkinliğinden şüphe ediyor.
