Anthropic, Pentagon’un yapay zeka sistemlerindeki güvenlik önlemlerini kaldırma talebine uymayacağını, şirketin “tedarik zinciri riski” olarak nitelendirilip Savunma Bakanlığı sistemlerinden çıkarılacağı ve 200 milyon dolarlık bir sözleşmenin tehlikeye gireceği tehditlerine rağmen bunu yapmayacağını söyledi.
Anthropic Pentagon anlaşmazlığını çözmeye çalışıyor
Pentagon’un Anthropic ile olan anlaşmazlığı, yapay zeka girişiminin, teknolojisinin ABD’de otonom olarak silah hedefleme ve gözetim yapma amacıyla kullanılmasını engelleyecek güvenlik önlemlerini kaldırmayı reddetmesinden kaynaklanıyor. Pentagon sözcüsü Sean Parnell, X kanalında yaptığı açıklamada, bakanlığın Amerikalıların kitlesel gözetimi için yapay zeka kullanmakla ilgilenmediğini ve insan müdahalesi olmadan çalışan otonom silahlar geliştirmek için de yapay zeka kullanmak istemediğini söyledi.
Parnell: “İşte istediğimiz şey: Pentagon’un Anthropic’in modelini tüm yasal amaçlar için kullanmasına izin verin. Aksi takdirde, Anthropic ile ortaklığımızı sonlandıracağız ve onları tedarik zinciri riski olarak değerlendireceğiz” dedi. Yapılan bir açıklamada, Anthropic CEO’su Dario Amodei, şirketin Pentagon’un yapay zeka modellerini kitlesel iç gözetim veya tamamen otonom silahları çalıştırmak için kullanmasına karşı olduğunu vurguladı; bunun nedeni ise “gelişmekte olan yapay zeka sistemlerinin yeterince güvenilir olmaması”ydı.
Şirkete yakın bir kaynak, Anthropic’in Pentagon’u yapay zekayı bu amaçlardan herhangi biri için kullanmayı planlamakla suçlamadığını, ancak ürün güvenliği konusunda bir değerlendirme sunduğunu söyledi. Kaynak, yapay zeka sistemlerinin “hayat-ölüm hedeflemesi” için yeterince güvenilir olmadığını, çünkü yeni senaryolarda tahmin edilemez şekilde davrandıklarını ve bunun da silah bağlamında “dost ateşi, görev başarısızlığı veya istenmeyen tırmanmaya” yol açabileceğini söyledi.
Kaynak, yapay zekanın kitlesel iç gözetim için kullanılmasının sorunlu olduğunu, çünkü mevcut yasaların yapay zekanın büyük miktarda veriyi bir araya getirerek varabileceği sonuçları kısıtlamadığını belirtti. Bu, yapay zekanın “hiçbir yasanın açıkça yasaklamadığı ancak anayasal korumaların ruhuna açıkça aykırı olan” nüfus düzeyinde profiller oluşturabileceği anlamına geliyordu, diye eklediler.
Amodei, Pentagon’un yeniden değerlendirmesini umduğunu ancak Pentagon sözleşmeyi iptal etmeye karar verirse şirketin “başka bir sağlayıcıya sorunsuz bir geçiş sağlamak için çalışacağını” söyledi. Amodei, Pentagon’un, şirket güvenlik önlemlerini sürdürürse Anthropic’i sistemlerinden çıkarmak, tedarik zinciri riski olarak belirlemek ve güvenlik önlemlerinin kaldırılmasını zorlamak için Savunma Üretim Yasası’nı devreye sokmakla tehdit ettiğini söyledi.