Yapay zeka e-posta yazmaktan toplantıları özetlemeye, öğrencilerin ders çalışmasına veya geliştiricilerin kod hatalarını ayıklamasına kadar her şey için hızla başvurulan bir araç haline geldi. Ancak insanlara zaman kazandıran aynı teknoloji kötüye de kullanılabilir ve yeni bir rapor, terör örgütlerinin tam olarak bunu yapmanın yollarını bulduğunu öne sürüyor.
Yapay zeka kötü amaçlı görevlerde yönlendirici oluyor
Yayınlanmadan önce New York Times ile paylaşılan bir araştırma makalesine göre, araştırmacılar Boko Haram üyelerinin hem günlük faaliyetleri hem de savaşla ilgili görevleri desteklemek için popüler yapay zeka sohbet robotlarını kullandığına dair kanıtlar buldu. Son iki yılda Nijerya’da 27 eski üye ile yapılan görüşmeler, ChatGPT, Gemini, Claude, Grok, Meta AI ve DeepSeek gibi araçların teknik bilgi toplamak, silah sorunlarını gidermek ve hatta saldırı planlamasına yardımcı olmak için kullanıldığını gösteriyor.
Bulguları özellikle endişe verici kılan şey, bunun birkaç bireyin yapay zekâ ile deney yapması olarak tanımlanmamasıdır. Rapor, grubun yapay zekâ kullanımının organize hale geldiğini, özel ekipler, iç eğitim ve üyeler arasında paylaşılan bilgi olduğunu iddia ediyor. Araştırmacılar ayrıca, bazı kullanıcıların yapay zekanın şiddetle ilgili taleplere yanıt vermesini önlemek için tasarlanmış yerleşik güvenlik korumalarını atlatmayı başardığını söylüyor.
Bu, günümüzün yapay zeka sohbet botlarının talep üzerine tehlikeli talimatlar verdiği anlamına gelmiyor. Araştırmanın büyük bir kısmı 2024 sonuna kadar olan faaliyetlere odaklanıyor ve yapay zeka şirketleri, modellerinin daha yeni sürümlerinin daha güçlü güvenlik önlemleri içerdiğini söylüyor. Ayrıca birçok talebin gri bir alana girdiğine de dikkat çekiyorlar. Örneğin, bir yapay zekaya motosiklet tamir etmeyi veya temel kimyayı anlamayı sormak, benzer bilgiler kötüye kullanılabilse bile, kendi başına zararlı değildir.
OpenAI, The New York Times’a ChatGPT’yi terörizmi veya şiddeti desteklemek için kullanmanın politikalarını ihlal ettiğini ve kötüye kullanıma karşı savunmasını geliştirmeye devam ettiğini söyledi. Meta da benzer şekilde, araştırmanın öncelikle yapay zeka modellerinin eski sürümlerini içerdiğini ve o zamandan beri güvenlik önlemlerini güçlendirdiğini belirtti. Bu arada, rapora göre xAI ve DeepSeek yorum taleplerine yanıt vermedi.
