Yapay zekanın hata yapabileceği uyarısını hepimiz gördük. Bir sohbet robotu için bu genellikle bir gerçeği uydurmak, bir soruyu yanlış anlamak veya size yanlış cevap vermek anlamına geliyor. Aynı teknolojiyi bir silaha koyarsanız, bu hatalar çok farklı sonuçlar doğurabilir.
Otonom dronlar küresel ölçekte güvenlik riski taşıyor
New York Times’ın bir araştırması, Ukrayna’nın Zaporizhzhia kentinde 6 Temmuz’da Rus insansız hava aracı saldırısının ayrıntılarını ortaya koydu; saldırıda 19 yaşında bir üniversite öğrencisi de dahil olmak üzere üç sivil öldü. İnsan operatörler insansız hava aracını bir benzin istasyonuna doğru uçacak şekilde programlamıştı, ancak otonom bir yapay zeka sistemi, muhtemelen propan tankları olmak üzere, saldıracağı nesneyi tam olarak seçti. İnsansız hava aracı hedefe ulaşamadı ve yakınlarda patladı. Times’ın alıntı yaptığı bir uzman, bunu bu tür kendi kendini hedef alan yapay zeka sistemini kullanan bir Rus insansız hava aracı tarafından sivillerin öldürüldüğü ilk belgelenmiş vaka olarak tanımladı. Daha önceki yapay zeka destekli insansız hava araçları genellikle hedef seçiminde bir insanı işin içine katarken, son yaklaşımı yazılıma bırakıyordu. Zaporizhzhia’dan kurtarılan sistem daha da ileri gitti.
Araştırmacılar gemide bir Nvidia Jetson Orin bilgisayar buldu; Ukraynalı yetkililer ise sistemin tanıma ve saldırma konusunda eğitildiği nesne türlerini ortaya koyan bir kod bulunduğunu söyledi. Tamamen otonom hedefleme, nihai hedef seçme sürecinden insanı ortadan kaldırır.
1979 tarihli bir IBM eğitim kılavuzunda, bugün rahatsız edici derecede geçerli olan bir uyarıda: “Bir bilgisayar asla sorumlu tutulamaz, bu nedenle bir bilgisayar asla yönetim kararı vermemelidir” ifadeleri yer alıyor. Yaklaşık elli yıl sonra, bilgisayarlara çok daha büyük sonuçlar doğuracak kararlar verme sorumluluğu veriliyor.