Yapay zekayı yalnızca dijital bir yardım eli olarak değil, aynı zamanda yapay zekanın da bir parçası olarak kullanan ilk büyük ölçekli siber saldırı operasyonu kaydedildi. İlk olarak Wall Street Journal’da bildirildiği üzere, yapay zeaâ asistanı Claude’un arkasındaki şirket olan Anthropic, aynı anda birden fazla kuruluşu hedef alan geniş çaplı bir saldırı kampanyasında ele geçirilen YZ modellerinin kötüye kullanımını belgeleyen bir rapor (.PDF) yayınladı.
Yapay zeka siber saldırı için kötüye kullanıldı
Eylül ayı ortasında Anthropic, tüm saldırı döngüsü boyunca YZ kullanan “son derece gelişmiş bir siber casusluk operasyonu” tespit etti. Agentic AI olan Claude Code, “keşif, güvenlik açığı keşfi, istismar, yanal hareket, kimlik bilgisi toplama, veri analizi ve sızdırma operasyonları” yapabilen otomatik bir saldırı çerçevesinin oluşturulmasında kötüye kullanıldı. Dahası, bu aşamalar “büyük ölçüde otonom” olarak gerçekleştirildi ve insan operatörler, Claude Code’a “sızma testi düzenleyicileri ve ajanları” olarak görev verdikten sonra temel gözetim sağladı; yani bir savunmacı gibi davranması sağlandı.
[bkz url= https://www.techinside.com/gunes-enerjili-otoparklar-icin-kelepce-gelistirildi]
Yapay zeka, hedef kuruluşlardaki güvenlik açıklarını tespit etmekle kalmadı, aynı zamanda bunların istismar edilmesine, veri çalınmasına ve istismar sonrası diğer kötü amaçlı faaliyetlere de olanak sağladı. Anthropic’e göre, bu durum yalnızca yüksek profilli kuruluşların hedef alınmasına yol açmakla kalmadı, aynı zamanda “taktik operasyonların” %80 ila %90’ı yapay zeka tarafından bağımsız olarak yürütüldü.
Anthropic: “Bu görevleri Claude’a özenle hazırlanmış komutlar ve yerleşik kişiler aracılığıyla rutin teknik talepler olarak sunarak, tehdit aktörü Claude’u daha geniş kötü amaçlı bağlama erişmeden saldırı zincirlerinin bireysel bileşenlerini yürütmeye ikna edebildi” dedi.
Anthropic’e göre, operasyonun merkezinde Çin devlet destekli bir grup vardı. Şu anda GTG-1002 olarak takip edilen ve devlet desteğiyle iyi kaynaklara sahip olduğu düşünülen grup, kampanyasında Claude’dan yararlandı; ancak grup hakkında çok az şey biliniyor.
Anthropic, teknolojilerinin kötüye kullanıldığını keşfettikten sonra, GTG-1002 ile ilişkili hesapları yasakladı ve kötü amaçlı etkinlik tespit sistemlerini genişletti. Bu sistemlerin, şirketin “yeni tehdit kalıpları” olarak adlandırdığı şeyleri ortaya çıkarması umuluyor. Örneğin, GTG-1002’nin sistemi gerçek, savunma tabanlı bir sızma testi cihazı gibi davranmasını sağlamak için kullandığı rol yapma oyunu gibi.