Yapay zeka (AI) modelleri, son yıllarda giderek daha popüler hale geldi. Bu modeller, metin oluşturmak, dilleri çevirmek ve hatta yaratıcı içerikler üretmek için kullanılabiliyor. Ancak, AI modellerinin de bir dezavantajı var: Halüsinasyonlara eğilimli olabilirler.
Halüsinasyon, gerçekte var olmayan şeyleri görme, duyma, hissetme veya tatma olarak tanımlanır. AI modelleri, eğitim aldıkları verilerdeki boşlukları doldurmak için gerçekleri uydurarak halüsinasyon gösterebilirler. Bu uydurma gerçekler o kadar zarifçe yapılıyor ki dikkatsiz bir zihin çok rahat bir şekilde kandırılabilir.
Vectara, önde gelen çeşitli yapay zeka sohbet robotlarını ‘halüsinasyon görmeme’ konusundaki becerilerine göre sıralayan bir yapay zeka halüsinasyon tablosu yayınladı.Tabloya göre, GPT-4, en düşük halüsinasyon oranı ve en yüksek doğrulukla en iyi başarımı gösterdi. GPT-4, OpenAI tarafından geliştirilen ve halihazırda ChatGPT üzerinde kullanılan bir büyük dil modeli.
Listenin ikinci sırasında, GPT-3.5 yer aldı. GPT-3.5 de OpenAI tarafından geliştirilen bir büyük dil modeli.Listenin en altında ise Google’a ait iki büyük dil modeli yer aldı. Google Palm Chat, kendisine verilen materyal üzerinde yüzde 27’nin üzerinde halüsinasyon oranı yakalayarak en güvenilmez model oldu.
Vectara’nın ölçümlerine göre Google Palm Chat’in yanıtları tamamen halüsinasyon kalıntılarıyla dolu.Vectara’nın araştırması, yapay zeka modellerinin güvenilirliğini değerlendirmek için önemli bir adım. Bu araştırma, kullanıcıların bu modelleri kullanırken daha dikkatli olmalarını sağlamaya yardımcı olabilir.
Halüsinasyonlar neden olur?
AI modelleri, halüsinasyon göstermenin birkaç farklı nedeni vardır. Bunlardan biri, eğitim aldıkları verilerin kalitesidir. Veriler eksik veya yanlışsa, modeller gerçekleri uydurarak boşlukları doldurmaya çalışabilir.
Bir diğer neden ise, modellerin tasarımıdır. Bazı modeller, daha yaratıcı ve özgün metinler üretmek için tasarlanmıştır. Bu modeller, bazen gerçekleri uydurarak daha ilginç veya eğlenceli yanıtlar üretebilirler.
Halüsinasyonları nasıl önleyebilirim?
AI modellerinin halüsinasyon göstermesini önlemenin birkaç yolu vardır. Bunlardan biri, modelleri güvenilir kaynaklardan gelen verilerle eğitmektir. Bir diğeri ise, modellerin tasarımını daha gerçekçi yanıtlar üretecek şekilde değiştirmek.
Kullanıcılar olarak, AI modellerini kullanırken daha dikkatli olmamız önemlidir. Modellerin yanıtlarını her zaman doğru olarak kabul etmemeliyiz. Modellerin yanıtlarının doğruluğunu kontrol etmek için başka kaynaklardan da bilgi edinmeliyiz.
