Kanada’da, dokuz kişinin ölümüne yol açan okul saldırısının ardından ülke çapında yaşanan öfke sonrasında sunulan yapay zeka sohbet botlarını düzenlemeye yönelik yasa tasarısı, akademisyenler ve hukuk uzmanları arasında şüphe uyandırdı. Uzmanlar, yasanın içerdiği boşluklar ve uzun zaman diliminin çabayı baltalayabileceği konusunda uyarıda bulundu.
Yapay zeka sohbet botları düzenlemesi için görüşmeler devam ediyor
OpenAI’ın Şubat ayındaki olayda şüpheliden gelen rahatsız edici ChatGPT mesajlarını polise bildirmediğini kabul etmesinin ardından hükümet üzerinde harekete geçmesi için kamuoyu baskısı arttı. Tasarı, yeni bir dijital düzenleyici kurum öneriyor ve Avustralya’yı örnek alarak 16 yaşın altındaki çocuklar için sosyal medyayı yasaklayacak. Yeni kurum, sohbet botlarının kullanıcıların zararlı içerik arama riskini azaltmasını ve intihar ve kendine zarar verme gibi konuları tartıştıkları takdirde kriz müdahale adımlarını içermesini gerektirecek. Ancak yasa tasarısı, ayrıntı eksikliği, gizliliği korurken boşluklardan kaçınmanın zorluğu ve önlemlerin uygulanması için gereken uzun zaman dilimi nedeniyle eleştirilere maruz kaldı.
Toronto Üniversitesi’nde teknoloji ve gizlilik üzerine çalışan doçent Evan Light: “Eğer bu bir yasa taslağı ise, pratik anlamda faydalı olacağına dair yüksek umutlarım yok” dedi. Tasarının ne kadar yetersiz olduğunu görünce şok olduğunu belirten Light, internet kullanımına getirilen kısıtlamaların VPN’ler (kullanıcıların internet adreslerini gizleyen sanal özel ağlar) veya diğer yollarla kolayca aşılabileceğini de sözlerine ekledi.
Miller tasarıyı duyurduğu basın toplantısında, gizlilik endişeleri ile sosyal medya ve yapay zeka sohbet robotu kullanımını düzenleme çabaları arasında bir denge kurulması gerektiğini belirterek, önerilen yasanın WhatsApp veya Signal gibi özel mesajlaşma uygulamaları için geçerli olmadığını kaydetti. Ayrıca, yeni düzenleyici tarafından belirlenen kriterleri karşılayan şirketlerin sosyal medya yasağından muafiyet alabileceğini söyledi.
Miller, Britanya Kolombiyası’ndaki Tumbler Ridge’deki silahlı saldırıyı örnek göstererek, Kanada’nın çevrimiçi zararın trajik sonuçlarına tanık olduğunu belirtti. 18 yaşındaki şüphelinin OpenAI’nin ChatGPT platformundaki hesabı, şirket içinde şiddet içerikli olarak işaretlenmişti ancak polise bildirilmemişti. Miller, şirketin “vahim bir insan hatası” yaptığını ve hükümetin artık sosyal medyayı ve yapay zeka sohbet botlarını “tasarım gereği daha güvenli” hale getirmek için adımlar attığını söyledi.
