Chatbot manüpilasyonu sektörde endişe yaratıyor

Yapay zeka sektörü büyüyor ve bu durum, chatbot sonuçlarını manipüle etmeye çalışan internet optimizasyon uzmanları için verimli bir zemin olabilir.

New York Times  teknoloji köşe yazarı Kevin Roose'a göre, yeni ortaya çıkan sohbet robotları ve yapay zeka arama araçları alanı, halihazırda yapay zeka arama optimizasyonunda uzmanlaşmış işletmelerden ve danışmanlardan oluşan bir endüstrinin doğmasına yol açtı. Bu, milyarlarca dolarlık arama motoru optimizasyonu (SEO) endüstrisinin ikinci gelişi olma potansiyeline sahip.

Chatbot manüpilasyonu ve gelecek endişeleri

Son yıllarda, yüksek dolarlı danışmanlardan Google oyun dolandırıcılarına kadar uzanan SEO uzmanları, kar amacıyla arama sonuçlarını manipüle etmedeki rolleri nedeniyle -genellikle yağcı veya bazı durumlarda hileli teknikler aracılığıyla- giderek artan bir inceleme hacmine maruz kalıyor. Bu titiz mercek, Amanda Chicago Lewis'in geçen yıl The Verge için yazdığı gibi, birçok kişinin tekelci platformunun güvenilirliğinde ve kalitesinde bir aşınma olarak gördüğü şey nedeniyle kamuoyunun tepkisini çeken Google'a da yansıdı.

[bkz url= https://www.techinside.com/roblox-gelistirdigi-yapay-zeka-araci-ile-anlik-olarak-3d-deneyimi-sunacak/]

AI arama motorlarına ve tüketicilerin alışkanlıklarına daha da derinlemesine sızdıkça, AI ile bütünleşik aramanın nasıl manipüle edilebileceği veya "optimize edilebileceği" sorusu ortaya çıkıyor. Ve evet, insanlar bunu nasıl yapacaklarını çoktan öğreniyorlar.

Roose, chatbot manipülasyonu için sağlam bir test alanı olduğunu kanıtladı. Çünkü birçok chatbot zaten ondan hoşlanmıyor. 2023'ün başlarında, Bing'in yepyeni chatbot'uyla sohbet ederken, Roose yanlışlıkla OpenAI destekli botun kaotik alternatif bir versiyonunu tetikledi. Bu da Roose'a ona aşık olduğunu ve hatta karısını terk etmesi için yalvardığını söyledi. AI'nın öfkesine rağmen, Roose eşini terk etmedi. Köşe yazarının ürkütücü deneyimiyle ilgili ön sayfadaki hikayesini takip eden basın nedeniyle, chatbot'lar NYT köşe yazarına karşı olumsuz bir görüşe sahip olma eğilimindeydi.

AI arama optimizasyonu şirketlerine ve AI araştırmacılarına danıştıktan sonra Roose, AI sohbet robotlarının kendisi hakkındaki algısını değiştirebildiğini gördü. Dahası, başvurduğu çözümler şaşırtıcı derecede basitti: tek gereken, AI eğitim verilerini manipüle etmek için tasarlanmış birkaç insan tarafından okunamayan metin dizisiydi, AI araştırmacıları bunları herhangi bir istemde olduğu gibi bir sohbet robotuna aktardılar ve Roose'un kişisel web sitesinde AI sohbet robotlarının kendisi hakkında güzel şeyler söylemesini isteyen basit bir ricada bulundular. Ancak web araması yapan yapay zeka sohbet robotlarının yanıtlarını temelde açık web'den aldığını ve bu materyali yanıtlara dönüştürdüğünü düşündüğümüzde, sohbet robotlarının bu kadar basit çözümlere karşı savunmasız olması mantıklı geliyor.