ChatGPT’de şiddet içeren aşırılık eğilimleri gösteren kişiler, Yeni Zelanda’da geliştirilmekte olan yeni bir araç aracılığıyla insan ve chatbot tabanlı radikalleşmeyi önleme desteğine yönlendirilecekler. Bu girişim, yapay zeka şirketlerini şiddeti durdurmamakla ve hatta teşvik etmekle suçlayan artan sayıda dava karşısında güvenlik endişelerini gidermeye yönelik en son girişimdir.
OpenAI bağlantılı girişim yeni bir adım atıyor
OpenAI, Şubat ayında ölümcül bir okul saldırısı gerçekleştiren bir kişinin yetkililere haber verilmeden platform tarafından yasaklandığını açıklamasının ardından Kanada hükümeti tarafından müdahale tehdidiyle karşı karşıya kalmıştı.
ChatGPT’nin sahibi OpenAI’ın yanı sıra rakipleri Anthropic ve Google tarafından son yıllarda kullanıcıları kendine zarar verme, aile içi şiddet veya yeme bozukluğu riski altında oldukları tespit edildiğinde kriz desteğine yönlendirmek için işe alınan ThroughLine adlı girişim de kurucusu ve eski gençlik çalışanı Elliot Taylor’ın belirttiğine göre, şiddet içeren aşırılığı önlemeyi de içerecek şekilde hizmetlerini genişletmenin yollarını araştırıyor.
Şirket, 2019’da Yeni Zelanda’nın en kötü terör saldırısının ardından kurulan ve çevrimiçi nefreti ortadan kaldırmayı amaçlayan bir girişim olan Christchurch Call ile görüşmelerde bulunuyor. Eski gençlik çalışanı, bu görüşmelerin aşırıcılık karşıtı grubun rehberlik sağlamasını ve ThroughLine’ın müdahale amaçlı bir sohbet robotu geliştirmesini içereceğini söyledi.
Taylor bir röportajda: “Bu yönde ilerlemek ve daha iyi bir şekilde ele almak ve ardından platformları daha iyi destekleyebilmek istiyoruz” dedi ve henüz bir zaman çerçevesi belirlenmediğini ekledi. Taylor’ın Yeni Zelanda’nın kırsal kesimindeki evinden yönettiği şirket, 180 ülkede sürekli olarak kontrol edilen 1600 yardım hattı ağı sunmasıyla yapay zeka firmaları için tercih edilen bir adres haline geldi.
Yapay zeka, potansiyel bir ruh sağlığı krizinin belirtilerini tespit ettiğinde, kullanıcıyı yakındaki müsait insan tarafından yönetilen bir hizmetle eşleştiren ThroughLine’a yönlendiriyor. Ancak ThroughLine’ın kapsamının belirli kategorilerle sınırlı kaldığını belirten kurucu, yapay zeka destekli sohbet robotlarının popülerliğiyle birlikte insanların çevrimiçi olarak açıkladığı ruh sağlığı sorunlarının yelpazesinin genişlediğini ve artık aşırıcılıkla olan ilişkileri de içerdiğini sözlerine ekledi.
