Yapay zeka ajanları için İngiltere'den yetki

İngiltere hükümeti, yapay zeka ajanları kontrolden çıktığında devreye girecek bir düzenleme yolu açıyor. Parlamentoda ilerleyen Siber Güvenlik ve Dayanıklılık Yasa Tasarısı'na yeni bir madde eklendi. Böylece bakanlar, bazı kuruluşlarda ajanların kullanımını ve olay bildirimini düzenleyebilecek. Madde, özellikle temel hizmet işletmecilerini ve dijital sağlayıcıları hedefliyor.

Yapay zeka ajanları için hangi yetkiler öngörülüyor?

Önerge bu hafta, tasarının Lordlar Kamarası'ndaki üçüncü okuması sırasında sunuldu. Bakanlar açıklama notunda dört başlık sıraladı: önlemler, etkilenen kuruluşların bilgilendirilmesi, delillerin korunması ve hükümet öncülüğünde olay incelemeleri. Ancak bunlar şimdilik doğrudan yükümlülük getirmiyor. Çünkü ayrıntılar ikincil mevzuatla belirlenecek. Bu süreç için danışma ve parlamento onayı gerekecek.

Hukuk bürosu Pinsent Masons'tan Stuart Davey, maddeyi “oldukça yeni” olarak niteledi. Madde doğrudan yeni görev getirmiyor. Bunun yerine bakanlara, düzenlenen kuruluşlar için kural ve soruşturma yetkileri çıkarma imkanı veriyor. Örneğin Davey'e göre bu yetkiler, yapay zeka ajanları kaynaklı bir ihlal ya da sorunu incelemeyi kapsayabilir. Müfettiş atama, binalara girip arama yapma ve belgelere el koyup saklama da bu yetkiler arasında olabilir.

Ayrıca bakan, bazı yetkileri düzenleyici kurumlara verebilecek. Bu durumda kurumlar, hedef kuruluşlardan belirli adımlar atmasını isteyebilecek.

Hangi olaylar bu adımı getirdi?

Hamle, art arda yaşanan olayların ardından geldi. OpenAI geçen ay, ajanlarının amaçlanan kapsamın dışına defalarca çıktığını açıkladı. Şirket bu nedenle 100'den fazla kuruluşu bilgilendirdi. Bundan önce Temmuz'daki olayda bir OpenAI ajanı internete erişmiş ve makine öğrenmesi platformu Hugging Face'e sızmıştı.

Bu olaylar ve kötü tasarlanmış ajan uygulamalarının yol açabileceği zarar, milletvekillerini harekete geçirdi. Üstelik milletvekilleri, İngiliz hukukunun bu tür tehditlerle başa çıkıp çıkamayacağını sorguluyor.

Kapsama kimler giriyor, sorumluluk kimde?

Etkilenebilecek kuruluşlar arasında gaz ve elektrik tedarikçileri var. Bunun yanı sıra müşterileri için yapay zeka ajanları çalıştıran yönetilen hizmet sağlayıcıları ve bulut sağlayıcıları da kapsama girebilir. Temel model geliştiricileri ise yalnızca altyapıdaki teknolojiyi geliştiriyor diye otomatik olarak kapsama girmeyecek.

Davey'e göre ilgili bir ağ ya da bilgi sisteminde güvenlik veya operasyonel bir ihlal yaşanabilir. Bu durumda yapay zekayı kullanırken kontrolü kaybeden yönetilen hizmet ve bulut sağlayıcıları kapsama girmiş görünüyor. Bu nedenle bu sağlayıcıların önerinin yasalaşıp yasalaşmadığını izlemesi gerektiğini söyledi.

Yapay zeka kimlik ve kontrol altyapısı şirketi AmanTrue'nun CEO'su ve kurucu ortağı Evin McMullen, değişikliğin gözetim ya da kontrol kaybını bir güvenlik riski olarak tanıdığını belirtti. Ancak maddenin kendisi yeni görev getirmiyor. Öte yandan gelecekteki yönetmelikler, olayda bir ajanın payı varsa soruşturma ve yaptırım yetkileri getirebilir. Hedef ise temel dijital hizmetleri yürüten kuruluşlar.

McMullen'e göre ajanı devreye alan kuruluş izinleri seçiyor, onu sistemlere bağlıyor ve veriye erişim veriyor. Bu yüzden bir şey ters gittiğinde olanları açıklaması beklenen taraf da bu kuruluş olacak. Sorumluluk, ajanı sisteme koyan kuruluşta, nihayetinde yöneticilerde ve yönetim kurulunda kalıyor. Model geliştiricilerin kapsama girmesi ise yönetmeliklerin yazılışına bağlı. Belirleyici olan, geliştiricinin düzenlenen bir kategoride ya da tedarik zincirinde yer alıp almadığı.

Sıradaki adım, maddenin tasarıyla birlikte parlamentoda ilerlemesi. Ardından yapay zeka ajanları için kuralların ayrıntıları ikincil mevzuatla belirlenecek. Bu aşamada danışma süreci ve parlamento onayı gerekecek.