Anthropic seçim güvenliği için harekete geçti!

Yapay zeka algılama modelleri ve kurallarının bir kombinasyonuna dayanan Prompt Shield adı verilen teknoloji, Anthropic bünyesindeki sohbet robotu Claude’un ABD merkezli bir kullanıcısı oylama bilgisi istediğinde bir açılır pencere gösteriyor.

Açılır pencere, kullanıcıyı partizan olmayan Democracy Works örgütünün bir kaynağı olan ve güncel, doğru oylama bilgilerini bulabilecekleri TurboVote’a yönlendirmeyi teklif ediyor.

Anthropic, Prompt Shield’ın Claude’un siyaset ve seçimle ilgili bilgi alanındaki eksiklikleri nedeniyle gerekli olduğunu söylüyor. Anthropic, Claude’un belirli seçimler hakkında gerçek zamanlı bilgi sağlayacak kadar sık ​​eğitim almadığını ve dolayısıyla bu seçimler hakkında halüsinasyon görmeye (yani gerçekleri uydurmaya) eğilimli olduğunu kabul ediyor.

Anthropic, Claude sohbet robotunu daha da kullanışlı hale getiriyor

Popüler üretken yapay zekâ uygulaması ChatGPT’yi geliştiren OpenAI, Cuma gününden bu yana adeta varoluşsal bir krizin ortasında. CEO Sam Altman’ı kovan yönetim kurulu hiç ummadıkları bir tepkiyle karşılaştı ve firma…

Bir sözcü şunları söyledi: “Claude’u piyasaya sürdüğümüzden beri ‘acil kalkanımız’ var; bu, kabul edilebilir kullanıcı politikamıza dayalı olarak bir dizi farklı zarar türünü işaretliyor.” “Seçime özel acil kalkan müdahalemizi önümüzdeki haftalarda başlatacağız ve kullanımı ve sınırlamaları izlemeyi amaçlıyoruz… Politika yapıcılar, diğer şirketler, sivil toplum ve sivil toplum kuruluşları ve seçime özel kuruluşlar da dahil olmak üzere çeşitli paydaşlarla konuştuk.”

Şu anda sınırlı bir test gibi görünüyor. Claude yaklaşan seçimlerde nasıl oy kullanılacağını sorduğumda açılır pencereyi sunmadı, bunun yerine genel bir oylama kılavuzu verdi. Anthropic, Prompt Shield’ı daha fazla kullanıcıya genişletmeye hazırlanırken ince ayar yaptığını iddia ediyor.

Araçlarının siyasi kampanya ve lobi faaliyetlerinde kullanılmasını yasaklayan Anthropic, seçim müdahalesini önlemeye yönelik politikalar ve teknolojiler uygulayan en son GenAI tedarikçisi.

Zamanlama tesadüf değil. Dünyadaki nüfusun yaklaşık %49’unu temsil eden en az 64 ülkede ulusal seçim yapılması planlandığından, bu yıl küresel olarak tarihte her zamankinden daha fazla seçmen sandık başına gidecek.

Ocak ayında OpenAI, insanların gerçek adayları veya hükümetleri taklit eden, oy vermenin işleyişini yanlış anlatan veya insanları oy vermekten caydıran botlar oluşturmak için viral AI destekli sohbet robotu ChatGPT’yi kullanmasını yasaklayacağını söyledi. Anthropic gibi OpenAI de şu anda kullanıcıların araçlarını siyasi kampanya veya lobicilik amacıyla kullanarak uygulama geliştirmelerine izin vermiyor; bu, şirketin geçen ay yinelediği bir politika.

OpenAI, Prompt Shield’a benzer bir teknik yaklaşımla; Ulusal Dışişleri Bakanları Birliği tarafından idare edilen, partizan olmayan bir web sitesi olan CanIVote.org‘a oy verme konusunda lojistik sorular soran ChatGPT kullanıcılarını yönlendirmek için tespit sistemleri de kullanıyor.

OpenAI, Anthropic ile birleşmeyi teklif etti

Yapay zeka sektörü, son günlerde büyük bir çalkantıya sahne oluyor. Önde gelen yapay zeka şirketlerinden biri olan OpenAI, rakip konumdaki Anthropic ile birleşme yolunda ilerlemek istediğini duyurdu. Bu önemli gelişme,…

ABD’de Kongre, her iki partinin de desteğine rağmen yapay zeka endüstrisinin siyasetteki rolünü düzenlemeye yönelik bir yasayı henüz geçirmedi. Bu arada, ABD eyaletlerinin üçte birinden fazlası, federal mevzuatın durması nedeniyle siyasi kampanyalarda deepfake’leri ele almak için yasa tasarılarını kabul etti veya sundu.

Mevzuat yerine, gözlemcilerin ve düzenleyicilerin baskısı altındaki bazı platformlar, GenAI’in seçmenleri yanıltmak veya manipüle etmek için kötüye kullanılmasını engellemek için adımlar atıyor.

Google, geçen Eylül ayında, YouTube’da ve Google Arama gibi diğer platformlarında GenAI kullanan siyasi reklamların, görüntülerin veya seslerin sentetik olarak değiştirilmesi durumunda belirgin bir açıklamanın eşlik etmesi gerektiğini belirtmişti. 

Ayrıca Meta da siyasi kampanyaların, kendi mülkleri genelinde reklam yaparken GenAI araçlarını (kendi aracı da dahil) kullanmasını da yasakladı.