Yapay zekânın hızla gelişimi, pek çok sektörde de farklı uygulama alanları bulmasını sağladı. Bu sektörlerden birisi de sağlık sektörü. Örneğin Dell Technologies Türkiye Genel Müdürü Işıl Hasdemir yapay zekâ teknolojilerinin teşhis ve tedavide giderek daha önemli ve başarılı hale geldiğini açıklamıştı. Ancak öte yandan, her sektörde olduğu gibi yeni teknolojiler sahtecilik ve dolandırıcılıkta da kullanıldığı için sağlık sigortalarını düzenleyen yasala kurumlar yapay zekâya temkinli yaklaşıyor. Bunun son örneği, ABD’de ulusal sağlık sigortası programını yönetene federal kurum CMS’nin konuyla ilgili yayınladığı bildiri oldu.

CMS, sağlık sigortası şirketlerine gönderdiği bir notta, ABD hükümetinin sağlık hizmetleri kapsamına uygunluğu belirlemek için kullanılan yapay zeka algoritmalarının giderek daha fazla yasaklandığını söyledi.  14 sayfalık bilgi notu, Sağlık ve İnsani Hizmetler Bakanlığı’na bağlı kuruluşun geçen yıl Nisan ayında yayınlanan Medicare Advantage kurallarıyla ilgili çok çeşitli konulara değiniyor.

Ancak notta yer alan ve sağlık hizmeti kararlarının alınmasında kullanılan algoritmalarla ilgili bölümler, Medicare Advantage kapsamının reddedilmesinde bu tür yazılımların kullanılmasına ilişkin tartışmaları ele almak için özel olarak hazırlanmış gibi görünüyor ve bu da çok sayıda davaya yol açtı. Medicare Advantage, ABD federal hükümetinin standart Medicare tekliflerine özel olarak işletilen bir alternatif.

Yapay zekâ algoritmaları hastaları mağdur mu ediyor?

CMS’nin notunda, “Sigorta kapsamını hastanın tıbbi geçmişi, doktorun tavsiyeleri ya da klinik notlar yerine daha geniş bir veri setine dayanarak belirleyen bir algoritma 2023 Nisan ayında yürürlüğe giren Medicare kurallarıyla uyumlu olmayacaktır” deniliyor.  Örneğin Medicare Advantage planları sunan UnitedHealthcare’e Kasım ayında iki yaşlı adamın mirasçıları tarafından dava açıldı ve şirket, hastanede iyileşme sürelerini kısaltmak da dahil olmak üzere hastalara bakım vermemek için hatalı bir yapay zeka sistemi kullanmakla suçlandı.

Şirket tarafından kullanılan sağlık hizmetleri yapay zekâ modeli nH Predict AI, belirli bakım ihtiyaçlarına dayalı olarak verilen insan kararlarına güvenmek yerine, bireysel hastaların ihtiyaçlarını hesaba katmayan genel sağlık hizmetleri verilerini kullanmakla suçlanıyor. Dava dilekçesinde, “Medicare Advantage Planları kapsamında, hastanede üç gün kalan hastalar genellikle bir huzurevinde 100 güne kadar kalma hakkına sahiptir” denildi.

nH Predict aynı zamanda yüksek oranda hatalı karar vermekle de eleştiriliyor. Davaya göre, nH Predict’in tespitlerinin yüzde 90’ı temyizde bozulmuş durumda.

Sağlık sigortası şirketi Humana’ya da Aralık ayında aynı gerekçelerle dava açılmıştı ve CMS notu tam da bu davalarda gündeme getirilen hususları – yatan hasta bakımının reddedilmesi – yasalara aykırı olarak nitelendiriyor.

“Bir algoritma veya yazılım aracı, sağlayıcılara veya [Medicare Advantage] planlarına potansiyel bir kalış süresini tahmin etmede yardımcı olmak için kullanılabilir, ancak bu tahmin tek başına akut hastalık sonrası bakım hizmetlerini sonlandırmak için temel olarak kullanılamaz” diyen CMS, yapay zeka algoritmalarının yatan hasta kabullerini reddetmek veya düşürmek için de temel olarak kullanılamayacağını ekledi.

CMS, “Kamuya açık olarak yayınlanan kapsam kriterleri statik ve değişmez olduğundan, yapay zeka kapsam kriterlerini zaman içinde değiştirmek için kullanılamaz. Tahmine dayalı algoritmalar veya yazılım araçları, açıkça kamuya açıklanmamış ve kanıt standardına uygun olarak kabul edilmemiş diğer dahili teminat kriterlerini uygulayamaz” diyor.