Anthropic yapay zeka laboratuvarları geliştirme çalışmalarını durdurmaya çağırdı. İnsanların kontrolü kaybetme riskiyle karşı karşıya olduğu konusunda uyardı.
Anthropic, büyük yapay zeka laboratuvarlarını, geliştirme çalışmalarında koordineli ve doğrulanabilir bir duraklama düşünmeye çağırıyor. Teknolojideki hızlı ilerlemelerin yakında yapay zeka sistemlerinin kendilerini toplumun riskleri yönetebileceğinden daha hızlı geliştirmelerine olanak sağlayabileceği konusunda uyarıyor.
Anthropic yapay zeka laboratuvarları için riskleri açıkladı
Claude’un yaratıcısı, yapay zekânın kendi başına görevleri tamamlama yeteneğinin yaklaşık her dört ayda bir ikiye katlandığını ve teknolojinin insan müdahalesi olmadan gelişebileceği nokta olan “özyinelemeli kendi kendini geliştirme”ye doğru ilerlediğini söyledi. Yayınlanan uzun bir blog yazısında: “Sistemler kendi haleflerini tamamen oluşturabiliyorsa, onları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerimiz çok daha önemli hale gelir” diyen şirket, bir duraklamanın toplumun “büyük sonuçlarıyla başa çıkmasına” olanak sağlayacağını ekledi.
Anthropic kurucu ortağı Jack Clark ve Anthropic Enstitüsü lideri Marina Favaro: “Henüz orada değiliz ve özyinelemeli kendi kendini geliştirme kaçınılmaz değil. Ancak çoğu kurumun hazır olduğundan daha erken gelebilir” diye yazdı. Gelişmiş yapay zeka sistemlerinin insan kontrolünden çıkıp toplumsal zarara yol açabileceğine dair korkular, teknolojinin giderek daha yetenekli hale gelmesiyle birlikte arttı. Anthropic’in kendi Mythos modeli, bu yılın başlarında mevcut kodlardaki güvenlik açıklarını bulma yeteneğiyle bankacılık ve yazılım dahil olmak üzere sektörlerde şok etkisi yarattı. Ancak özellikle önde gelen yapay zeka laboratuvarlarının çoğunun bulunduğu ABD’de düzenleme yavaş ilerliyor.
Trump yönetiminin bu hafta başında yayınladığı bir başkanlık kararnamesi, laboratuvarların en yetenekli modellerini kamuya açıklanmadan önce gönüllü olarak hükümet siber güvenlik testine sunmalarını isteyerek sorumluluğu laboratuvarların kendilerine yükledi. Yapay zeka araştırmacıları daha önce de bir duraklama çağrısında bulunmuştu ancak pek başarılı olamamıştı. Yapay zekâ laboratuvarı xAI’ın sahibi Elon Musk, kar amacı gütmeyen Future of Life Institute’ün 2023 yılında yapay zeka geliştirme çalışmalarını altı aylığına durdurarak güvenlik önlemleri için zaman tanıma çabasına destek verenler arasındaydı.