Sysdig AI Defense yapay zeka ajanlarını izliyor

Sysdig AI Defense, yapay zeka ajanları için çalışma anında güvenlik ve yönetişim sunan yeni bir çözüm olarak duyuruldu. Sysdig, çalışma anı görünürlüğü alanındaki birikimini böylece ajanlara taşıyor. Çalışma anı (runtime), yazılımın canlı ortamda çalıştığı dönem anlamına geliyor. Ayrıca ürün, ajanların yaptığı işleri gerektiğinde durdurabilen bir denetim katmanı olarak sunuluyor.

Sysdig AI Defense Neden Gerekli?

Sysdig kurucusu ve CTO'su Loris Degioanni'ye göre yapay zeka artık yanıt vermekten iş yapmaya geçti. Eskiden sohbet eden makinelerdi, şimdi ise ajanlar bizim adımıza işlem yapıyor. Ancak ajan, kendisine söylenenden fazlasını yapabiliyor. Üstelik bunu insanların kontrol edebileceğinden daha hızlı yapıyor ve ahlaki bir yargısı yok.

Sysdig'e göre ajanlar kod yayına alıyor, altyapıyı değiştiriyor ve üretim sistemlerine erişiyor. Hiçbir ekip bu hızı elle inceleyemiyor. Bu nedenle denetimsiz bırakılan ajanların kontrolden çıkma riski zamanla artabilir. Çünkü ajanlar daha özerk, karmaşık ve akıl yürütme yetenekli olacak şekilde tasarlanıyor. Ayrıca karmaşıklık arttıkça hataya kayma ihtimali de büyüyor.

Ajanın Eylemleri Nasıl İzleniyor?

Sysdig AI Defense, bir ajanın attığı her adımı başlangıcından bitişine kadar görüyor. Bu kolay bir iş değil. Çünkü ajanlar görevlerini tamamlamaya çalışırken yeni yetkileri çok hızlı edinebiliyor. Her eylem kayda geçebilir, ancak arkada beş veya daha fazla süreç olabiliyor. Bunları yalnızca işletim sisteminin çekirdeği (kernel) görebiliyor. Üstelik bu süreçler ajanın işleyişini fark edilmeden değiştirebilir.

Sysdig'e göre sabah devreye alınan ajan, öğleden sonra çalışan ajanla aynı olmayabilir. Ancak gerçekte neyin çalıştığını yalnızca çekirdek gösteriyor. Bu yüzden engelleme kararı anında verilmeli. Degioanni ayrıca çalışma anında, çok hızlı çalışan ve yanıt verebilen çözümlere ihtiyaç olduğunu söylüyor. Ona göre engelleyici yanıt eylem sürerken, tamamlanmasından önce devreye girmeli.

Degioanni, bir ajanın araç çağrısını yanlış bildirebileceğini söylüyor. Ancak ajan, sistemle ya da dış dünyayla etkileşimlerini yeniden yazamıyor. Dolayısıyla ajanın kendi anlatımı faydalı bir bağlam olsa da kanıt sayılmaz. Anlatım ile eylemler birbirini tutmazsa ortada bir tespit var demektir. Böylece Sysdig'in çalışma anı temeli, ajanın harekete geçtiği ana da uzanıyor.

Hangi Özellikleri Sunuyor?

Şirket, Sysdig AI Defense için şu yetenekleri sayıyor:

• Çalışma anı telemetrisinden oluşturulan canlı envanter: ajanlar, harness'ler, modeller, MCP sunucuları, beceriler ve eklentiler listeleniyor.
• Her ajan, sorumlu bir insana kadar izlenebiliyor.
• Riskli eylemler tespit edilip insan incelemesine alınabiliyor ya da tamamlanmadan engellenebiliyor.
• Önceden tanımlı politika şablonları, OWASP Top 10 for LLM Applications gibi çerçevelerle eşleşiyor.
• Her politika uyarı modunda başlıyor; kurum hazır olunca uygulama moduna geçiyor.
• Canlı eylem grafiği, ajanın ne yaptığını söylediği ile gerçekte yaptığını, erişebildiklerini ve hangi yetkiyle hareket ettiğini eşleştiriyor.
• Ajanın ve AI Defense'in eylemleri anında kaydediliyor; hangi politikanın ne zaman uygulandığını ve kimin onayladığını gösteren, denetim kalitesinde değiştirilemez kayıtlar oluşuyor.

Sysdig AI Defense, ajanlar için otomatik çalışma anı güvenliği ve yönetişimi sağlamak üzere tasarlandı. Ancak sorunun ölçeği hızla büyüyor. IBM Institute for Business Value'nun bu yıl yayımladığı rapora göre ajanlar pilottan üretime geçiyor. Karar hacmi ise hiçbir insan denetiminin yetişemeyeceği düzeye çıkıyor. Üstelik şirketlerin 2027'ye kadar ortalama 1.661 yapay zeka ajanı devreye alması bekleniyor. Bu, bugüne göre yüzde 38 artış demek; raporda günde yüz binlerce özerk karardan söz ediliyor.