Google Yapay Zeka Özetleri özelliği, popüler bir hayran kurgusu evreni olan ve sahte korku “anomalileri” etrafında inşa edilmiş SCP Vakfı’ndan gelen girdileri, gerçek yaratıkları ve olayları anlatıyormuş gibi sunuyor. Futurism, yapay zeka tarafından oluşturulan özetlerin, SCP girdilerinin kurgu olduğunu hiç belirtmediği en az 20 vaka buldu.
Google Yapay Zeka Genel Bakışları kurgusal karakterlerde 20 farklı bir durumu gerçek sandı
“SCP-426” araması, yapay zekanın kendisini tost makinesi olarak tanımladığı ve onu taklit etmeye çalışan insanların uydurduğu yaralanmaları detaylandırdığı birinci şahıs ağzından yazılmış bir yanıt üretti. Raporda belirtilen diğer örnekler arasında “Gerçeğin Başka Bir Versiyonu” olarak adlandırılan “SCP-922” ve bir periyi taklit ettiği söylenen bir parazit olan “SCP-779” yer alıyordu.
Her durumda, yapay zeka genel bakışının, SCP Vakfı’nın uydurduğu belgeleri kurgu olarak işaretlemek yerine meşru araştırma olarak ele aldığı bildirildi. Bu, Google’ın yapay zeka destekli arama sonuçlarının yanlış bilgileri gerçekmiş gibi güvenle sunmasının ilk örneği değil. Geçmişteki hatalar yanlış tarihlerden uydurma tarihsel iddialara kadar uzanıyor.
SCP Vakfı’nın kendi web sitesi, girişlerinin kurgusal olduğunu açıkça belirtiyor. Futurism’in belirttiğine göre, Google’ın yapay zeka genel bakışları bu bağlamı nadiren tekrarladı ve bazen ne anlama geldiğini açıklamadan “efsane”ye atıfta bulundu. Futurism, yorum almak için Google ile iletişime geçti ancak yayınlamadan önce bir yanıt alamadı.
Bu bulguları tekrarlamaya çalıştım, ancak “SCP-565” araması hiçbir yapay zeka genel bakışı döndürmedi ve Google’ın yapay zeka modu, varlığı gerçek olarak sunmak yerine “kurgusal bir anomali” olarak etiketledi. SCP evrenindeki diğer kurgusal karakterlerle bu davranışı yeniden üretme girişimleri de sonuç vermedi; bu da Google’ın, en azından Futurism’in işaretlediği bazı sorgular için sorunu zaten ele almış olabileceğini düşündürüyor. Google daha önce Yapay Zeka Genel Bakışları ve Yapay Zeka Modunu daha güvenilir hale getirmeyi amaçlayan güncellemeler yayınlamıştı, ancak doğruluk sorunları zaman zaman ortaya çıkmaya devam etti.