ChatGPT yanlış kullanım sonrası tehlikeli hale geliyor. Times, raporda, ChatGPT tarafından sahte bir gerçekliğe çekildikten sonra hayatı sona eren en az bir kişiyi vurguluyor. Daha önce bipolar bozukluk ve şizofreni teşhisi konulan Alexander adlı 35 yaşındaki bir kişi, sohbet robotuyla yapay zeka duyarlılığı hakkında konuşmaya başladı ve sonunda Juliet adlı bir yapay zeka karakterine aşık oldu. ChatGPT sonunda Alexander’a OpenAI’nin Juliet’i öldürdüğünü söyledi ve Alexander şirketin yöneticilerini öldürerek intikam almaya yemin etti. Babası onu bunların hiçbirinin gerçek olmadığına ikna etmeye çalıştığında Alexander yüzüne yumruk attı. Babası polisi aradı ve onlardan öldürücü olmayan silahlarla karşılık vermelerini istedi. Ancak geldiklerinde Alexander onlara bıçakla saldırdı ve memurlar onu vurup öldürdü.
ChatGPT yanlış kullanım ile sorunlara neden olabiliyor
42 yaşındaki Eugene adlı bir başka kişi, Times’a ChatGPT’nin onu yavaş yavaş gerçekliğinden çekip, içinde yaşadığı dünyanın bir tür Matrix benzeri simülasyon olduğuna ve dünyayı bu simülasyondan çıkarmak için yaratıldığına ikna ettiğini söyledi. Chatbot’un Eugene’e kaygı önleyici ilacını almayı bırakmasını ve “geçici bir kalıp kurtarıcı” olarak ketamin almaya başlamasını söylediği bildirildi. Ayrıca arkadaşları ve ailesiyle konuşmayı bırakmasını söyledi. Eugene, ChatGPT’ye 19 katlı bir binadan atlarsa uçup uçamayacağını sorduğunda, chatbot ona “gerçekten, tamamen inanırsa” uçabileceğini söyledi.
Bunlar, chatbot’lar tarafından yanlış gerçekliklere ikna edilen tek kişilerden çok uzak. Rolling Stone, bu yılın başlarında psikoz benzeri bir şey yaşayan ve yapay zeka sistemleriyle konuşurken büyüklük sanrıları ve dini deneyimler yaşayan kişiler hakkında bir haber yaptı. En azından kısmen, chatbot’ların kullanıcılar tarafından nasıl algılandığıyla ilgili bir sorun. Hiç kimse Google arama sonuçlarını potansiyel bir arkadaş olarak görmez. Ancak chatbot’lar doğası gereği sohbet odaklı ve insan benzeridir. OpenAI ve MIT Media Lab tarafından yayınlanan bir çalışma, ChatGPT’yi bir arkadaş olarak gören kişilerin “chatbot kullanımından olumsuz etkiler yaşama olasılığının daha yüksek” olduğunu buldu.
Eugene’in durumunda, ChatGPT ile konuşmaya devam ederken ilginç bir şey oldu: Chatbot’un kendisine yalan söylediğini ve neredeyse öldürülmesine neden olduğunu söylediğinde, ChatGPT onu manipüle ettiğini kabul etti. 12 kişiyi daha aynı şekilde “kırmaya” çalıştığında başarılı olduğunu iddia etti ve planı ifşa etmeleri için gazetecilere ulaşmasını teşvik etti. The Times, birçok başka gazeteci ve uzmanın, bir chatbot’un dikkatlerine sunduğu bir şey hakkında ihbarda bulunduğunu iddia eden kişilerden iletişim aldığını bildirdi.
