Küresel düzenleyiciler, giderek daha otonom hale gelen yapay zeka biçimlerinin finansal sistem için riskleri artırabileceğini ve benimsenme hızlandıkça yeni kontrollerin getirilmesi çağrısında bulundu. Finansal İstikrar Kurulu (FSB), Çarşamba günü yayınladığı bir raporda, yönetim kurullarını, sınırlı insan gözetimiyle planlama, akıl yürütme ve görevleri yerine getirme yeteneğine sahip sistemler olan “ajansiyel” yapay zeka da dahil olmak üzere, yapay zekadan kaynaklanan riskleri azaltmak için önlemler uygulamayı “şiddetle” teşvik etti.
Finans sektöründeki yapay zeka ajanları için güvenlik endişeleri artıyor
Ajan yapay zeka, halihazırda finans firmaları tarafından dolandırıcılık tespiti, müşteri hizmetleri ve arka ofis işlevleri için kullanılıyor. Cambridge Alternatif Finans Merkezi anketine katılan finans sektörü katılımcılarının %52’si aktif ajansiyel benimseme bildirdi; bunların %23’ü ölçeklendirme veya dönüşüm aşamasında, %29’u ise ajansiyel işlevleri pilot olarak uyguluyor.
Düzenleyiciler ve küresel standart belirleme kuruluşları, Anthropic’in Mythos’u piyasaya sürmesinden bu yana, finans sektöründe yapay zekanın yaygınlaşmasının yarattığı riskler konusunda uyarılarını artırdı; uzmanlar Mythos’u bankacılık sektörü için önemli siber güvenlik sorunları olarak görüyor.
Küresel standart belirleyici kuruluş olan FSB, otonom yapay zekanın yetkisiz veya yasadışı eylemler, veri ihlalleri ve bağlantılı sistemlerde aksama olasılığı da dahil olmak üzere “çok hızlı bir şekilde gerçekleşebilecek” riskler getirdiğini söyledi.
Raporda “Yapay zeka ajanları insan gözetimi için ayrı bir zorluk teşkil ediyor” denilerek, personelin farkında olmadan veya hızlı bir şekilde müdahale edemeden firmaların niyetlerinden sapabilecek eylemlerde bulunabilecekleri konusunda uyarıda bulunuldu. Bu riskleri ele almak için, standart belirleyici kuruluş bir dizi önerilen “sağlam uygulama”yı özetledi ve finans firmalarını yapay zeka kullanımına ilişkin net sınırlar belirlemeye ve güvenlik önlemleri yerleştirmeye çağırdı. Bağlayıcı olmayan yönergeler, 22 Temmuz’a kadar geri bildirimlere açık. Ayrıca, yapay zeka ajanlarının neler yapabileceğine ilişkin sınırlar içeriyor ve belirli eşiklerin üzerindeki finansal işlemler gibi yüksek riskli eylemler için insan onayı gerektiriyor. FSB, firmaların ayrıca İK kontrollerini ve süreçlerini yapay zeka ajanlarına “sentetik çalışanlar” olarak davranacak şekilde uyarlamayı da düşünebileceğini söyledi.
