Otonom silahlar için denetim çağrısı

Stop Killer Robots Kampanyası Başkanı Peter Asaro, otonom silahlar için uluslararası bir düzenleme çağrısı yaptı. Asaro'nun anlattığına göre İran'ın Minab kentindeki bir ilkokula yönelik saldırıda 150'den fazla çocuk öldürüldü. Ancak ona göre asıl eksik, yapay zekanın hazırladığı hedef listesini inceleyecek bir insan protokolüydü.

Otonom silahlar ölüme yol açarsa kim sorumlu?

Asaro bu değerlendirmeleri 6-7 Kasım'da İstanbul'da yapılan TRT World Forum'da paylaştı. Forumun bu yılki teması “Merkezsiz Dünya: Kurallar Geçersiz Kaldığında Kim Liderlik Eder?” idi. Ayrıca konuşmada otonom sistemlerin hukuki sorumluluğu, sivillere etkisi ve denetim ihtiyacı ele alındı.

Hukuki çerçeve, olayın sivil ya da askeri olmasına göre değişiyor. Ölüme neden olan sivil bir robot ya da yapay zeka ise iç hukuk, ürün sorumluluğu ve ticaret hukuku geçerli oluyor. Bu alanda şirketler ve mühendisler sorumlu tutulabilir.

Silahlı çatışmalarda ise uluslararası insancıl hukuk ve Cenevre Sözleşmeleri devreye giriyor. Devletler, güç kullanımından doğan ölümlerden sorumlu tutuluyor. Savaş suçu işleyen asker ya da komutanlar da bireysel olarak sorumlu olabilir, ama bunun için suç kastının kanıtlanması gerekiyor.

Karar sürecinin tam anlaşılamadığı otonom sistemlerde operatörü sorumlu tutmak oldukça zor. Çünkü operatörler olayı beklemediklerini ya da sonuçlarını öngöremediklerini savunabilir. Bu nedenle Asaro, hesap verilemeyen bu tür askeri kararları “son derece tehlikeli” olarak niteledi.

Minab saldırısı ve yapay zeka hedef listeleri

Asaro, ABD ordusunun hedef listelerini yapay zekayla oluşturduğunun artık bir bakıma ortaya çıktığını söyledi. Minab'daki okul da belirlenen hedeflerden biriydi. Liste ise eski bilgilere dayanıyordu.

Normal şartlarda bir insan bu listeleri gözden geçirir. Böylece verinin eski olduğu ve binanın okul olduğunu gösteren yeni bilgiler fark edilirdi. Asaro'ya göre suçu veri tabanına atmak yetmez, çünkü incelemeyi bir insanın yapması gerekirdi.

Askeri alanda sivillere büyük zarar verme potansiyeli taşıyan otonom silahlar için düzenleme şart, diyor Asaro. Ayrıca Gazze ve İran'da İsrail Savunma Kuvvetleri (IDF) ile ABD güçlerinin yapay zekayla hedef sayısını ciddi ölçüde artırdığını belirtiyor. Bunun siviller üzerindeki etkisi çok büyük oldu.

Asaro'ya göre bu sistemler büyüyüp yaygınlaştıkça savaşın hızı ve şiddeti muazzam ölçüde artacak. Daha kısa sürede daha fazla hedef bombalanabilir hale gelecek. Bu da çatışmaların temelindeki sorunlara siyasi çözüm bulmayı ve barışa ulaşmayı zorlaştıracak.

Öte yandan itirazın bir de insan onuru boyutu var. Makinelerin ölüm kalım kararı vermesine izin verilirse insan yalnızca bir “veri” olarak görülür. Makineler hesap yapabilir, ancak bunun ne anlama geldiğini gerçekten kavrayamaz.

BM sürecinde sıradaki adım

Kampanya, 10 yılı aşkın süredir otonom silahlar için yasak ve denetim öngören uluslararası bir anlaşma üzerinde çalışıyor. Ayrıca BM Belirli Konvansiyonel Silahlar Sözleşmesi bünyesinde tartışmaları başlatma konusunda belli bir mesafe katedildi.

Asıl sınav ise çok yakın. Önümüzdeki yıl yeni bir anlaşma protokolü için müzakere yetkisi verilip verilmeyeceği, 1,5 hafta sonra oylanacak. Asaro bunun gerçekleşmesini istiyor. Ancak devletlerin bu adımı atmama ihtimali de var.

Bu yüzden kampanya yoğun bir lobi faaliyeti yürütüyor. Dünya genelinde 300 sivil toplum kuruluşunu temsil eden yapı; devletler, diplomatlar, parlamentolar ve medyayla temas kuruyor. Sıradaki somut adım, BM'deki müzakere yetkisi oylaması.