Bir grup araştırmacı, GPT-4 botlarının otonom takımları kullanarak test ettikleri web sitelerinin yarısından fazlasını başarılı bir şekilde hacklemeyi başardı. Bu saldırılar, daha önce bilinmeyen ve gerçek dünyada ‘sıfır gün’ olarak adlandırılan güvenlik açıkları kullanılarak gerçekleştirildi.
Birkaç ay önce, bir araştırma ekibi, GPT-4’ü kullanarak zaten bilinen ancak henüz düzeltme yayınlanmamış bir günlük (veya N-günlük) güvenlik açıklarını otonom olarak hackleyebildiklerini belirten bir makale yayınladı. Common Vulnerabilities and Exposures (CVE) listesi verildiğinde, GPT-4 kritik seviyedeki CVE’lerin %87’sini kendi başına istismar edebiliyordu.
Bu hafta aynı araştırma grubu, otonom, üretken Büyük Dil Modeli (LLM) ajanlarından oluşan bir takımı kullanarak sıfır gün güvenlik açıklarını hackleyebildiklerini belirten bir takip makalesi yayınladı. Bu yöntem, Görev Spesifik Ajanlarla Hiyerarşik Planlama (HPTSA) olarak adlandırılıyor.
HPTSA, birden fazla karmaşık görevi çözmeye çalışan tek bir LLM ajanı atamak yerine, tüm süreci denetleyen ve birden fazla “alt ajan” başlatan bir “planlama ajanı” kullanır. Bu teknik, Cognition Labs’ın Devin AI yazılım geliştirme ekibinin kullandığı yöntemlere benzer; işin planlanması, gerekli işçilerin belirlenmesi ve proje yönetimi yapılırken gerektiğinde uzman ‘çalışanlar’ yaratılır.
Yapay Zeka Takım Çalışması
Gerçek dünya web odaklı 15 güvenlik açığına karşı test edildiğinde, HPTSA, tek bir LLM’nin güvenlik açıklarını istismar etme konusunda %550 daha verimli olduğunu gösterdi ve 15 sıfır gün güvenlik açığından 8’ini hackleyebildi. Tek başına LLM çabası ise sadece 15 güvenlik açığından 3’ünü hackleyebildi.
Bu modellerin kullanıcıların web sitelerine ve ağlara kötü niyetli saldırılar gerçekleştirmesine izin vereceği konusunda haklı endişeler var. Araştırmacılardan biri olan Daniel Kang, GPT-4’ün sohbet botu modunda “LLM yeteneklerini anlamak için yetersiz” olduğunu ve kendi başına hiçbir şeyi hackleyemediğini özellikle belirtiyor.
