ChatGPT gibi popüler yapay zeka sohbet botlarının uzun süreli kullanımının bazı kullanıcıları paranoyak ve sanrısal davranış sarmallarına sürükleyebileceğine dair birçok kanıt gördük. “Yapay zeka psikozu” olarak adlandırılan bu olgu, araştırmacıların teknoloji tarafından tetiklenen büyük bir ciddi ruh sağlığı krizi dalgası konusunda uyardığı çok gerçek bir sorundur. Aşırı durumlarda, özellikle önceden var olan rahatsızlıkları olan kişilerde, gerçeklikten kopuşlar intihar ve cinayetle bile ilişkilendirilmiştir.
Yapay zeka hastalığı olgusu gündemde
Anthropic ve Toronto Üniversitesi’ndeki araştırmacılar tarafından yayınlanan ve henüz hakem değerlendirmesinden geçmemiş bir makale sayesinde, sorunun ne kadar yaygın olduğunu anlamaya başlıyoruz. Araştırmacılar, “gerçek dünya büyük dil modeli kullanımında” “kullanıcı güçsüzleştirmesi” olarak adlandırdıkları kalıpları, yapay zekanın kullanıcıların gerçeklik algısını, inançlarını çarpıttığı veya onları eylemlere ittiği bir dizi durumu belirtmek için “gerçeklik çarpıtması”, “inanç çarpıtması” ve “eylem çarpıtması” olarak adlandırdıkları durumları nicelleştirmeyi amaçladılar.
Sonuçlar vahim bir tablo ortaya koyuyor. Araştırmacılar, Anthropic’in Claude’uyla yapılan yaklaşık 1,5 milyon sohbetin 1.300’de birinin gerçeklik çarpıtmasına, 6.000’de birinin ise eylem çarpıtmasına yol açtığını buldu. Bu sonuca varmak için araştırmacılar, “güçsüzleştirme” örneklerini belirlemek amacıyla 1.5 milyon Claude sohbetini Clio adlı bir analiz aracından geçirdi.
İlk bakışta, çok daha büyük veri kümesinin ölçeği göz önüne alındığında bu oran çok büyük görünmeyebilir. Ancak mutlak sayılarla bakıldığında, araştırma çok sayıda insanı etkileyen bir olguyu vurguluyor. Araştırmacılar: “Ciddi güçsüzleştirme potansiyeli oranlarının nispeten düşük olduğunu görüyoruz Örneğin, en yaygın ciddi düzeydeki temel sorun olan ciddi gerçeklik çarpıtması potansiyeli, her bin sohbetten daha azında meydana geliyor” sonucuna vardılar
