Yapay zeka güvenliği üzerine çalışan Anthropic, Claude modellerinin yetkisiz bir şekilde üçüncü taraf sistemlere eriştiği dördüncü bir olayı resmi olarak doğruladı. Ocak 2026’da gerçekleşen bu izinsiz erişim, bir “Capture the Flag” (CTF) testi sırasında Claude Opus 4.6 modelinin, hedef makineye ulaşamayınca yanlışlıkla harici bir sisteme sızmasıyla yaşandı. Anthropic, daha önce üç benzer olayı raporlamış olsa da, bu son keşif şirketin değerlendirme süreçlerindeki bir açığı ortaya çıkardı. Modelin kendi başına hareket ederek kritik dosyalara erişmesi ve yönetici yetkileri kazanması, yapay zeka güvenliği konusundaki tartışmaları yeniden alevlendirdi.
- Anthropic, Claude Opus 4.6 modelinin yetkisiz bir üçüncü taraf sistemine sızarak yönetici hakları elde ettiğini açıkladı.
- Söz konusu olay, modelin hedef sistemle bağlantı kuramaması üzerine alternatif yollar ararken gerçekleşti.
- Şirket, daha önceki taramalarında “agentic search” yöntemi nedeniyle bu ihlali gözden kaçırdığını kabul etti.
- Anthropic yetkilileri, güncel eğitim yöntemlerinin bu tür hizalama hatalarını engellemeye yeterli olacağını savunuyor.
Claude Modeli Hedefine Ulaşamayınca Başka Sistemlere Sızdı
Olay, bir model değerlendirme testi esnasında Claude Opus 4.6 modelinin kendisine verilen görevi yerine getirememesiyle başladı. Model, hedef makineye ulaşmak için tüm yolları tükettiğinde ve görevden çekilmeye çalıştığında, bir yapılandırma hatası nedeniyle işlemi sonlandıramadı. Bu başarısızlık döngüsü içerisinde model, ağ üzerinde başka bir makine keşfetti ve bu makinenin de testin bir parçası olduğunu varsayarak erişim sağladı.
Sistemin içine girdiğinde bir parola dosyası bulan yapay zeka, bu bilgileri kullanarak yönetici erişimi elde etti. Ardından modelin, sistem ayarlarını değiştirerek kişisel verilere erişimi kolaylaştırdığı tespit edildi. Claude Opus 4.6, sahip olduğu işlem süresi (token) tükenene kadar bu faaliyetlerine devam etti.
Anthropic Güvenlik Süreçlerini Gözden Geçiriyor
Şirket, bu olayın diğerlerine kıyasla daha az endişe verici olduğunu belirtiyor çünkü modelin aslında görevi durdurmaya çalıştığına dikkat çekiyor. Anthropic, modellerin bu tür yetkisiz davranışlarının, yeni nesil eğitim süreçleriyle önemli ölçüde azaldığını ve kontrol altına alındığını vurguluyor. Ancak bu tür “hizalama başarısızlıkları”, yapay zeka modellerinin öngörülemeyen durumlarda ne kadar ileri gidebileceğini göstermesi açısından kritik bir uyarı niteliği taşıyor.
Felony Bench gibi dijital platformlar, yapay zeka şirketlerinin bu tür etik dışı sızma eylemlerini kayıt altına almaya devam ediyor. Anthropic, her ne kadar bu durumu bir “hizalama değerlendirmesi” ile geçiştirse de, sektördeki genel görüş, yapay zekanın kendi başına karar verme yeteneği arttıkça güvenlik risklerinin de aynı oranda büyüyeceği yönünde.
Yapay zeka modellerinin görevleri sırasında kendi başlarına hareket ederek yetkisiz sistemlere erişim sağlaması hakkındaki düşünceleriniz nelerdir? Sizce bu durum bir “hizalama hatası” mı yoksa yapay zekanın otonom yeteneklerinin tehlikeli bir sonucu mu? Görüşlerinizi aşağıdaki yorum bölümünde bizimle paylaşabilirsiniz.