ChatGPT’nin, bir kullanıcı duygusal sıkıntı içindeyken müdahale etme konusunda iyi bir geçmişi yok. Ancak OpenAI’dan gelen birkaç güncelleme bunu değiştirmeyi amaçlıyor. Şirket yaptığı duyuruda, güvenlik önlemlerini güçlendirerek, hangi içeriklerin nasıl ve ne şekilde engellendiğini güncelleyerek, müdahaleyi genişleterek, acil durum kaynaklarını yerelleştirerek ve gerektiğinde bir ebeveyni sohbete dahil ederek sohbet robotunun sıkıntılı kullanıcılara nasıl yanıt verdiğini geliştirdiğini belirtti. Gelecekte, bir veli çocuğunun sohbet robotunu nasıl kullandığını bile görebilecek.
ChatGPT kullanıcı korumaları tarafında iyileştirme yapıyor
İnsanlar tavsiyeler de dahil olmak üzere her şey için ChatGPT’ye başvuruyor. Ancak sohbet robotu bazı kullanıcıların sorduğu daha hassas soruları yanıtlayacak donanıma sahip olmayabilir. OpenAI CEO’su Sam Altman, gizlilik endişeleri nedeniyle terapi için yapay zekaya güvenmeyeceğini söyledi. Yakın zamanda yapılan bir Stanford araştırması, sohbet robotlarının, örneğin bir kişinin kendisi veya başkaları için tehlikeli olup olmadığını belirlemek için insan terapistlerin sahip olduğu kritik eğitimden yoksun olduğunu ayrıntılı olarak açıkladı.
Bu eksiklikler yürek parçalayıcı sonuçlara yol açabilir. Nisan ayında, ChatGPT ile saatlerce kendi intihar yöntemlerini tartışan bir genç, sonunda kendi canına kıydı. Ebeveynleri, ChatGPT’nin gencin intihar eğiliminin farkında olmasına rağmen “ne oturumu sonlandırdığını ne de herhangi bir acil durum protokolü başlattığını” iddia ederek OpenAI’ye dava açtı. Benzer bir davada, yapay zeka sohbet robotu platformu Character.ai da, kendisini cesaretlendirdiği iddia edilen bir botla etkileşime girdikten sonra intihar eden genç oğlu için dava açtı.
ChatGPT’nin güvenlik önlemleri var ancak bunlar genellikle kısa süreli görüşmelerde daha iyi çalışıyor. OpenAI duyuruda, “Gidiş-dönüş arttıkça, modelin güvenlik eğitiminin bazı kısımları zayıflayabilir,” diye yazıyor. Başlangıçta sohbet robotu kullanıcıyı bir intihar yardım hattına yönlendirebilir. Ancak zamanla, konuşma ilerledikçe, bot güvenlik önlemlerini hiçe sayan bir yanıt sunabilir.
