Yapay zeka teknolojileri geliştiren Anthropic firması, popüler sohbet botu Claude ile etkileşim kuran kullanıcılar için yeni ve dikkat çekici bir kullanım politikası yayınladı. 12 Kasım itibarıyla yürürlüğe girecek olan bu kurallar, kullanıcıların yapay zeka modellerine karşı sürekli ve gereksiz yere zalimce, aşağılayıcı veya kötü niyetli davranışlarda bulunmasını yasaklıyor. Şirket, bu adımı atarak kullanıcıların Claude ile olan etkileşimlerinde daha saygılı bir dil benimsemelerini amaçladığını belirtiyor. Söz konusu düzenleme, genel kullanıcı hayal kırıklıklarını veya model test süreçlerini kapsamazken, özellikle suistimal amaçlı tekrarlayan davranışları hedef alıyor.
- Anthropic, 12 Kasım tarihinden itibaren Claude modeline yönelik sürekli ve gereksiz kötü muameleyi yasaklayan yeni bir kullanım politikası uygulamaya koyuyor.
- Şirket, modelin suistimal edildiği durumlarda görüşmeyi sonlandırma yetkisini temel bir uygulama aracı olarak kullanmaya devam edeceğini açıklıyor.
- Güncellenen güvenlik politikaları, seçim müdahalesi, silah geliştirme ve gözetim faaliyetleri gibi kritik alanlarda daha sıkı kısıtlamalar getiriyor.
- Anthropic, siber güvenlik açıklarını tespit etmek amacıyla kritik altyapı operatörlerine yönelik yeni bir koruma girişimi başlatıyor.
Kötü Muamele Politikası Sınırları Belirledi
Anthropic’in duyurduğu yeni düzenleme, yapay zekanın bir insan olmadığını ve acı hissetmediğini bilmesine rağmen, platformdaki nezaket standartlarını yükseltmeyi hedefliyor. Şirket yetkilileri, bu politikanın sadece aşırı ve tekrarlayan suistimal vakalarına odaklanacağını vurguluyor. Kullanıcıların Claude’a hatalı olduğunu söylemesi veya zorlayıcı testler yapması bu kapsamın dışında kalıyor. Ancak, sırf yapay zekayı aşağılamak için yapılan sistematik saldırılar, kuralların ihlali olarak değerlendirilecek.
Claude, geçtiğimiz Ağustos ayında kendisine yönelik tutarlı suistimal içeren görüşmeleri sonlandırma yetkisiyle donatılmıştı. Bu özellik, “model refahı” üzerine yapılan araştırmaların bir parçası olarak geliştirildi. Şimdi ise bu yetkinin daha kapsamlı bir kural setiyle desteklenmesi, yapay zeka ile insan etkileşiminin gelecekteki sınırlarını çiziyor.
Güvenlik ve Etik Kuralları Genişletildi
Kullanıcı nezaketi konusundaki güncellemeler, Anthropic’in daha geniş kapsamlı politika revizyonunun sadece bir kısmını oluşturuyor. Şirket, yapay zekanın seçimlere müdahale, silah geliştirme veya yasa dışı gözetim faaliyetleri için kullanılmasını önlemek adına kısıtlamalarını sıkılaştırdı. Özellikle devlet destekli propaganda faaliyetleri ve sahte haber sitelerinin Claude üzerinden içerik üretmesinin önüne geçilmesi için yeni önlemler alındı.
Silah geliştirme konusundaki yasaklar ise artık daha somut hale getirildi. İnsansız hava araçları veya otonom sistemlerin yönlendirme mekanizmaları için yapay zekanın kullanılması kesin olarak yasaklandı. Ayrıca, kolluk kuvvetlerinin tutuklama veya soruşturma kararlarında Claude’dan tavsiye alması da yasak kapsamına alındı.
Fiziksel Güvenlik İçin Yeni Standartlar Oluşturuldu
Yapay zeka destekli fiziksel ekipmanlar konusunda da önemli bir adım atan Anthropic, yaralanma riski taşıyan cihazların kontrolüne yönelik yeni şartlar getirdi. Bu tür sistemlerde, yapay zeka bağlantısı koptuğunda sistemin güvenli bir duruma geçmesi ve yetkili bir insan operatörün her an süreci durdurabilmesi zorunlu kılındı. Şirket, bu önlemlerin gelecekteki güvenlik risklerini azaltmak için kritik olduğunu savunuyor.
Öte yandan Anthropic, siber saldırganlara karşı savunma stratejilerini güçlendirmek için kritik altyapı projelerine ücretsiz güvenlik taramaları sunmaya başladı. Şirket, yapay zeka destekli savunma araçlarının yaygınlaşmasına kadar geçen iki yıllık sürecin, siber güvenlik açısından hassas bir dönem olacağını öngörüyor.
Sizce yapay zeka modelleriyle etkileşimde bulunurken insani nezaket kurallarına uymak gerekli mi, yoksa bu kısıtlamalar ifade özgürlüğü üzerinde bir baskı mı oluşturuyor? Görüşlerinizi aşağıdaki yorumlar kısmında bizimle paylaşabilirsiniz.
