İçeriğe geç
Haber Akışı Teknoloji Yapay Zeka Strateji Güvenlik Bilişim Girişimcilik Fintech Enerji Son dakika
  1. Ana sayfa
  2. Yapay Zeka

İngiltere'de yapay zeka düzenleyicisi isteniyor

İngiltere'de milletvekilleri, tehlikeli modelleri durdurma yetkisi olan bir yapay zeka düzenleyicisi için yeni bir yasa istiyor.

Ender Öztürk

okunma

İngiltere'de yapay zeka düzenleyicisi önerisini anlatan haber görseli
30 saniyede bu haberin özeti
  • İngiliz Parlamentosu'nun bir komitesi, tehlikeli yapay zeka modellerini durdurabilecek bir düzenleyici kurum için yasa öneriyor.
  • Kurum, yüksek riskli eğitim ve testleri durdurabilecek, yayınları engelleyebilecek ve riskler kontrol edilemezse hizmetleri askıya alabilecek.
  • Öneriler bağlayıcı değil ve hükümet henüz yasa konusunda taahhüt vermedi.

İngiliz milletvekilleri, tehlikeli yapay zeka modellerini durdurma yetkisi olan bir yapay zeka düzenleyicisi istiyor. Yetki yalnızca yayımlanmış modelleri değil, henüz geliştirilen modelleri de kapsıyor. Ama öneri bağlayıcı değil ve hükümet yasa konusunda henüz taahhüt vermedi.

The Register'ın haberine göre, Parlamento'nun İş, Yenilik, Bilim ve Ticaret Komitesi raporunu Çarşamba günü yayımlayacak. Raporda AI Safety and Security Bill (Yapay Zeka Emniyeti ve Güvenliği Yasası) adlı bir düzenleme öneriliyor. Komite, kurulacak yapının modeller geliştirilirken müdahale edebilmesini istiyor.

İngiltere'de yapay zeka yasa önerisi

Yapay zeka düzenleyicisinin yetkileri

Önerilen kurum yüksek riskli eğitim ve testleri durdurabilecek. Modellerin devreye alınmasını engelleyebilecek. Riskler kontrol altına alınamıyorsa yapay zeka hizmetlerini askıya alabilecek.

Büyük dil modelleri milyarlarca öğrenilmiş parametreyle eğitiliyor. Bu yüzden geliştiriciler, bir modelin her durumda ne yapacağını önceden bilemiyor. Komite başkanı Liam Byrne'e göre bazı modeller yayımlandıktan sonra güvenilir biçimde geri çağrılamıyor. Byrne, korumanın sistemler geliştirilirken ve test edilirken başlaması gerektiğini söylüyor.

Komite; OpenAI, Google DeepMind, Anthropic ve Meta temsilcilerini, araştırmacıları ve eski yapay zeka çalışanlarını dinledi. Dört şirket de güvenli olmadığını düşündüğü modeli yayımlamayacağını söyledi. Ancak şirketlerin güvenlik için ortak bir ölçütü yok. İngiltere yasaları da genel olarak yayından önce bağımsız görüş alınmasını şart koşmuyor.

Byrne'ün sözleri sert: “Günümüzün yapay zeka liderlerine, kontrol edilemeyecek tehlikeler yaratan modern Dr. Frankenstein'lar gibi davranma özgürlüğü tanıyamayız.” Komite, havacılık, ilaç ve nükleer güvenlikte olduğu gibi yapay zekada da düzenleme istiyor.

Rapordaki on boşluk

Raporun adı Guardrails for Growth: Making AI Safe. Metin, İngiltere'nin yapay zeka güvenliği yaklaşımında on boşluk tespit ediyor. Bunların arasında zorunlu olay bildiriminin olmaması, bağımsız test uzmanlarının sınırlı erişimi ve ihbarcılar için yetersiz koruma var.

İngiltere'nin AI Security Institute (AISI) adlı bir kurumu zaten var. Kurum, dünyanın en güçlü modellerinden bazılarını test ederek ad yaptı. Fakat çalışması gönüllü iş birliğine dayanıyor. Güvenlik kaygısı yaratan bir modelin yayımlanmasını durdurma yetkisi de yok.

Milletvekilleri AISI'nin test işine devam etmesini, uygulama yetkisinin ise ayrı bir düzenleyicide olmasını istiyor. Yüksek riskli ilan edilen sistemlerin geliştiricileri güvenlik iddialarını kanıtlarla desteklemek zorunda kalacak. Bağımsız araştırmacıların bu sistemleri incelemesine izin vermeleri gerekecek. Bir modelin yeteneklerinde ya da korumalarında önemli değişiklik olursa yeni bir inceleme başlayacak.

Eski yapay zeka çalışanları da komiteye, güvenlik kaygısını dile getirmenin bedeli olabildiğini anlattı. Kısıtlayıcı sözleşmeler, ticari baskılar ve mali caydırıcılar çalışanları susturabiliyor. Milletvekilleri ihbarcılar için daha güçlü yasal koruma ve yapay zeka olaylarının ile ucuz atlatılan vakaların zorunlu bildirimini istiyor.

Ekonomi ve takvim

Komite, OECD'nin verimlilik tahminlerinden yola çıkarak hesap yaptı. Buna göre yapay zeka, önümüzdeki on yılda İngiltere ekonomisini 400 milyar sterline kadar büyütebilir. Komite, AISI'de oluşan uzmanlıkla bağımsız model testinden gelir elde etme fırsatı da görüyor. Daha güçlü güvencelerin özellikle küçük firmaları teknolojiyi benimsemeye teşvik edebileceğini savunuyor.

Byrne'e göre yapay zeka şirketleri güvenlik iddialarını kanıtlamak zorunda olmalı. Bağımsız uzmanlar bu iddiaları inceleyebilmeli. Riskler kontrol edilemediğinde ise düzenleyici müdahale edebilmeli. Kamuya hangi risklerin yüklenmesi gerektiğine Parlamento'ya karşı sorumlu bakanlar karar vermeli.

Milletvekilleri yeni yasaların bir sonraki parlamento döneminde yürürlüğe girmesini istiyor. Ayrıca İngiltere'nin 2027'de G20 başkanlığını devralacağını hatırlatıyor. Bu dönemde yapay zeka testleri, olay bildirimi ve riskli model yayınları için daha sıkı kurallar konusunda diğer ülkelerin ikna edilmesini öneriyorlar.

Haberde hata mı var?Bize bildirin

Senin fikrin ne?

Bu gelişme hakkında sen ne düşünüyorsun?

Yorumlar

İlk yorumu siz yazın.

Yorumlar yapay zeka destekli ön elemeden geçer; son karar moderatördedir. Topluluk kuralları

Günün teknolojisi, sabah 08.00’de

Seçtiğiniz konularda günün 5 önemli haberi, her biri 30 saniyelik özetiyle. Reklamsız, tek tıkla ayrılırsınız.

Reklam