2022’de ChatGPT’nin piyasaya sürülmesinden bu yana, yapay zeka (YZ) kültürel manzaraya hakim oldu. Hukuk uygulayıcıları da dahil olmak üzere çeşitli sektörlerde benimsenme hızla gerçekleşti. Genellikle YZ kullanımını düzenleyecek etkili politikalar veya yasalar gibi çok az veya hiç önlem alınmadan oldu.
Yapay zeka destekli güvenlik nedeniyle halk endişeleniyor
Hukuk uygulayıcılarında YZ’nin büyük ölçüde düzenlenmemiş kullanımı son derece endişe vericidir; polisin meşruiyetini tehlikeye atar ve adalet sisteminin bütünlüğünü tehlikeye atabilir, çünkü kamuoyu polisin kullandığı kanıtların YZ tarafından tehlikeye atılmadığına güvenemez.
Usul adaleti veya adalet algısı, polisin meşruiyeti için çok önemlidir. Bu, hem tarafsız kolluk uygulamaları hem de kamuoyu ve mahkemelerle doğru bilgilerin paylaşılması yoluyla sağlanır. YZ programlamasının önyargı ve bilgi çarpıtmalarıyla dolu olduğu iyi belgelenmiştir. Kanıtlar, YZ önyargısının “gerçeklikten daha kötü” olabileceğini bile göstermektedir.
Önyargı ve YZ ile ilgili sorunlar hakkındaki tartışmalar devam ederken, polisin YZ’yi seçici olarak kullanmasının doğası gereği önyargılı olduğu ve bu nedenle derhal durdurulması gerektiği açıktır. Polisin delilleri manipüle etmek için teknolojiyi kullanması, özellikle yapay zekanın herkes tarafından kolayca kullanılabilmesi nedeniyle, kolluk kuvvetlerinde standart bir uygulama haline geliyor. Örneğin, Haziran ayında Birleşik Krallık’ta ön saflarda görev yapan kıdemli bir dedektif, “birçok vakada delil materyali oluşturmak” için yapay zekayı uygunsuz bir şekilde kullandı. Bu arada, Amerika Birleşik Devletleri ve Kanada’daki polisler, uyuşturucu ele geçirmelerine ait yapay zeka tarafından oluşturulmuş görüntüleri resmen yayınladı.
Yapay zekanın yüz tanıma ve gözetim teknolojilerine sürekli entegrasyonu, yanlış tanımlama tehlikeleri konusunda da endişeleri artırdı. Yapay zekanın, kadınların ve daha koyu ten rengine sahip kişilerin görüntülerini tanımlamada doğru olmaktan çok yanlış olma olasılığının daha yüksek olduğu biliniyor.
Bu yılın başlarında, Kuzey Dakota’daki polis, yapay zeka yüz tanıma teknolojisini kullanarak Tennessee’li bir büyükanneyi işlemediği suçlarla bağlantılı olarak yanlış tanımladı; sonuç olarak, beş aydan fazla gözaltında tutuldu.
Geçen yılın sonlarında Maryland’de, bir polis memuru, yapay zeka destekli bir lise gözetim sisteminin bir paket cipsi olası bir ateşli silah olarak yanlış tanımlaması nedeniyle, şüphelenmeyen bir gence silah çekti.
