Ön yargılar, katil robotlardan daha tehlikeli

0

Google’ın yapay zeka şefi John Giannandrea, süper akıllı katil robotlardan endişe duymadığını belirtti. Giannandrea, her dakika milyonlarca karar vermek için kullanılan makine öğrenme algoritmalarının içerisinde bulunan ön yargılardan endişe duyduğunu açıkladı.

Makine öğrenmesindeki ön yargı sorunu teknoloji, tıp ve hukuk gibi kritik alanlara yayılarak daha da önemli bir tehlike haline geliyor. Uzmanlar, algoritmik ön yargının pek çok sanayide zaten yaygın olduğunu ve hemen hemen hiç kimsenin onu tanımlamak veya düzeltmek için bir çaba göstermediğini söylüyor.

Algoritmaların tasarım ve geliştirme süreçlerini kapsayan makine öğreniminde, bizlerin sunduğu verilerden yararlanıyor. Yani aslında bizlerin davranış şekilleri bu makinelere aktarılıyor. Dolayısıyla bizlerin ön yargıları, makine öğrenimi ile yazılım sistemlerine aktarılıyor.

North Affinity adlı bir şirket tarafından yapılan COMPAS adlı bir sistem, sanıkların yeniden güvence alma ihtimalini tahmin etmeyi teklif etti. Bazı hakimler tarafından bir mahkumun şartlı tahliye edilip edilmediğini belirlemek için kullanıldı. COMPAS elde edilen sonuçları açıklamadı ancak ProPublica tarafından yapılan bir soruşturma, modelin azınlıklara karşı ön yargılı olabileceğine dair kanıtlar buldu.

Elon Musk, geçtiğimiz günlerde yapay zekanın Kuzey Kore’den daha büyük bir tehdit olduğunu ve 3. Dünya Savaşı’na neden olabileceğine yönelik açıklama yapmıştı.

Yorum Ekle

Posta adresiniz, gizli kalacaktır.

İzin verilen HTML tagları, <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>