İngiltere Merkez Bankası, giderek daha yetenekli hale gelen ajan sistemlerinin finansal sisteme yönelik risklerini kontrol altına almak için özel yapay zeka düzenlemelerine ihtiyaç duyulduğunu işaret ederek, teknolojiyi denetleme yaklaşımında potansiyel bir değişikliğe işaret etti.
Yıllarca mevcut çerçevelerin yapay zeka risklerini azaltmak için yeterli olduğu konusunda ısrar edildikten sonra, Başkan Yardımcısı Sarah Breeden, ajan tabanlı ödemeler ve ticaret gibi alanlardaki hızlı gelişmelerin, daha sofistike bir düzenleyici yanıt gerektirebilecek potansiyel boşlukları ortaya çıkardığını söyledi.
İngiltere Merkez Bankası yapay zeka için harekete geçti
Breeden, Portekiz’deki Avrupa Merkez Bankası Merkez Bankacılığı Forumu’nda: “Çerçevelerimiz otonom ajanları dikkate almak için oluşturulmadı ve tüm ajan eylemleri için döngüde bir insana güvenmek gerçekçi olmayacak” dedi.
Cambridge Alternatif Finans Merkezi’nin bir anketine göre, finans firmalarının %52’si halihazırda ajan tabanlı yapay zeka kullanıyor. Ticarette, ajanlar genellikle ürün önermek için kullanılırken, ticarette firmalar çoğunlukla otonom yapay zekayı düşük riskli operasyonel görevler için kullanıyor. Breeden: “Yapay zeka ajanları aynı komutlara veya tetikleyicilere benzer şekilde yanıt verirse, özellikle hedefleri orijinal amaçlardan veya kamu politikası hedeflerinden saparsa, stres durumunda oynaklığı artırabilirler” dedi.
Düzenleyiciler ve küresel standart belirleme kuruluşları, Anthropic’in Mythos modelini piyasaya sürmesinden bu yana, finans sektöründe yapay zekanın yaygınlaşmasının yarattığı riskler konusunda defalarca uyarıda bulundu. Analistler, bu modelin bankacılık sektörüne önemli siber güvenlik sorunları getirebileceğini söylüyor.
Finansal İstikrar Kurulu, Haziran ayı başlarında, insan gözetimine ayrı bir meydan okuma oluşturduğunu söylediği yapay zeka ajanlarının risklerine karşı daha sıkı önlemler alınması çağrısında bulundu.
