Yapay zeka sohbet botları son derece popüler ancak uzmanları endişelendiren, kolayca erişilebilen yanlış bilgiler arasında ciddi derecede tuhaf ve potansiyel olarak tehlikeli sağlık tavsiyeleri vermeleriyle biliniyorlar. Ortaya çıkışları, sayısız kullanıcıyı koltuk uzmanına dönüştürdü ve bu kullanıcılar genellikle eski, yanlış atfedilen veya tamamen uydurma tavsiyelere güvenmekle sonuçlanıyor. Örneğin, The Guardian tarafından yapılan yakın tarihli bir araştırma, çoğu arama sonuç sayfasında yer alan Google’ın Yapay Zeka Genel Bakışlarının, takip edilmesi halinde ciddi sağlık risklerine yol açabilecek birçok yanlış sağlık bilgisi verdiğini ortaya koydu. Ancak uzmanların yapay zekânın sağlık tavsiyelerine güvenilmemesi gerektiği yönündeki tekrarlanan uyarılarından etkilenmemiş gibi görünen OpenAI, tıbbi kayıtlarınızı alarak “sizin için daha alakalı ve faydalı” yanıtlar üretecek ChatGPT Health adlı yeni bir özellik başlatarak bu konuda ısrarını sürdürüyor.
ChatGPT Health tıbbi verilerle çalışıyor
“Doktorlarla yakın işbirliği içinde tasarlanmış” ve “güçlü gizlilik, güvenlik ve veri kontrolleri” üzerine inşa edilmiş olmasına rağmen, özellik “tıbbi bakımı desteklemek için tasarlanmıştır, yerini almak için değil.” Aslında, son derece kendi kendini baltalayan bir uyarı ile piyasaya sürülüyor: özel sağlık özelliğinin “teşhis veya tedavi amaçlı olmadığı” belirtiliyor. Şirketin web sitesinde, “ChatGPT Health, insanların sağlık ve esenliklerini anlama ve yönetmede daha aktif bir rol almalarına yardımcı olurken, klinik uzmanlardan alınan bakımı destekler, yerini almaz” ifadesi yer alıyor.
[bkz url= https://www.techinside.com/istek-uzerine-eglence-neden-aninda-erisim-artik-yeni-standart/]
Gerçekte, kullanıcıların bunu OpenAI’nin ince yazıda uyardığı türden sağlık tavsiyeleri için kullanacakları kesin ve bu da şirket için yeni utanç verici durumlara yol açacaktır. Bu durum, şirketin mevcut sorunlarını daha da artıracaktır. Business Insider’ın bildirdiğine göre, ChatGPT, hukuk ve tıp uzmanlarının hayal kırıklığına uğramasına neden olarak herkesi amatör avukat ve doktor haline getiriyor.
Miami merkezli tıbbi ihmal avukatı Jonathan Freidin, yayın organına, insanların ChatGPT gibi sohbet botlarını firmasının müşteri iletişim formunu doldurmak için kullanacaklarını söyledi. Freidin: “ChatGPT veya Gemini’nin doktorların veya hemşirelerin çeşitli şekillerde bakım standardının altında kaldığını söylemesi nedeniyle dava açma hakkına sahip olduklarını düşünen çok daha fazla arayan görüyoruz. Bu doğru olabilir, ancak bu mutlaka geçerli bir dava anlamına gelmez” dedi.
Yapay zeka endüstrisinin gizlilik koruması ve önemli veri sızıntılarıyla ilgili geçmişi göz önüne alındığında, tüm bu riskler her zamankinden daha önemli. Demokrasi ve Teknoloji Merkezi’nin kıdemli danışmanı Andrew Crawford verdiği demeçte: “Yeni yapay zeka sağlık araçları, hastaları güçlendirme ve daha iyi sağlık sonuçları elde etme vaadi sunuyor, ancak sağlık verileri insanların paylaşabileceği en hassas bilgilerden bazılarıdır ve korunmalıdır” dedi.
