İnsanlar artık günlük sağlık bilgileri için arama motorları gibi yapay zeka sohbet botlarını kullanıyor. Yeni bir çalışma, beş büyük botun verdiği cevapların yarısının, cevaplar cilalı ve kendinden emin görünse bile sorunlu olduğunu ortaya koyduktan sonra bu alışkanlık daha riskli görünüyor.
Yapay zeka botları sağlık bilgilerinde yanıltıcı yanıtlar verebiliyor
Araştırmacılar kanser, aşılar, kök hücreler, beslenme ve atletik performans konularında 250 soruyla ChatGPT, Gemini, Grok, Meta AI ve DeepSeek botlarını test etti. Sorular, yaygın sağlık sorularını ve tanıdık yanlış bilgilendirme temalarını yansıtıyordu; ardından botların bilimsel kanıtlarla uyumlu kalıp kalmadığı veya yanıltıcı ve potansiyel olarak güvenli olmayan tavsiyelere kayıp kaymadığı ölçüldü.
En zayıf sonuçlar açık uçlu sorulardan geldi. Bu daha geniş sorular, beklenenden çok daha fazla sorunlu cevap üretirken, kapalı uçlu sorular daha güvenli yanıtlar üretme olasılığını artırdı. Bu önemli çünkü gerçek insanlar genellikle tıbbi soruları düzenli, çoktan seçmeli bir formatta sormazlar. Bir tedavinin işe yarayıp yaramadığını, bir aşının güvenli olup olmadığını veya atletik performansı neyin iyileştirebileceğini sorarlar.
Çalışmada, bu tür bir yönlendirme, botları sağlam kanıtları daha zayıf veya yanıltıcı iddialarla karıştıran yanıtlara yönlendirdi. Kusurlar sadece yanıtların kendisinde kalmadı. Referans kalitesi düşüktü, ortalama tamamlama puanı %40’tı ve hiçbir sohbet botu tamamen doğru bir referans listesi oluşturmadı.
Bu, insanların sohbet botu yanıtlarına güvenmelerinin en büyük nedenlerinden birini zayıflatıyor. Bir yanıt kaynaklı ve yetkili görünebilir, ancak alıntılar kontrol edildiğinde geçerliliğini yitirebilir. Araştırmacılar ayrıca uydurma referansları da işaretledi, ancak botlar yine de kesinlikle yanıt verdi ve neredeyse hiç çekince sunmadı.
