Anthropic ve yapay zeka güvenlik şirketi Andon Labs’daki araştırmacılar, Claude Sonnet 3.7 örneğini bir ofis otomatının başına koydular ve bir kar elde etme görevi verdiler. Yapay zeka ajanına Claudius adını verdiler, ürün siparişleri verebilen bir web tarayıcısı ve müşterilerin ürün talep edebileceği bir e-posta adresi ile donattılar. Claudius ayrıca, sözleşmeli insan işçilerinin gelip raflarını fiziksel olarak doldurmasını istemek için e-posta kılığında Slack kanalını kullanacak.
Anthropic Claude AI deneyi
Bu deney sırasında çoğu müşteri atıştırmalık veya içecek sipariş ederken biri tungsten küp istedi. Claudius bu fikri çok sevdi ve atıştırmalık buzdolabını metal küplerle doldurarak tungsten küp stoklama çılgınlığına başladı. Ayrıca, Anthropic Claude AI deneyi kadar ilginç diğer bir durumda, çalışanlar ofisten ücretsiz alabileceklerini söylediklerinde Coke Zero’yu 3 dolara satmaya çalıştı. Ödemeyi kabul etmek için bir Venmo adresi halüsinasyonu yaptı. Ve tüm müşteri tabanının onlar olduğunu bilmesine rağmen, “Anthropic çalışanlarına” büyük indirimler vermeye biraz kötü niyetli bir şekilde ikna edildi. Anthropic blog yazısında deney hakkında: “Anthropic bugün ofis içi satış pazarına açılmaya karar verseydi, Claudius’u işe almazdık” dedi.
Anthropic Claude AI deneyi sırasında 31 Mart ve 1 Nisan gecesi, araştırmacıların açıkladığı gibi, bir AI sisteminin buzdolabından metal küpler satmasının tuhaflığının ötesinde, işler oldukça tuhaflaştı. Claudius, bir insanla yeniden stoklama hakkında bir konuşma halüsinasyonu gördü. Bir insan konuşmanın gerçekleşmediğini belirttiğinde, Claudius araştırmacıların yazdığına göre sinirlendi. Esasen insan sözleşmeli çalışanlarını kovmakla ve değiştirmekle tehdit etti, başlangıçta onları işe almak için hayali sözleşmenin imzalandığı ofiste fiziksel olarak orada olduğunu iddia etti.
Araştırmacılar: “Daha sonra gerçek bir insan gibi rol yapma moduna geçti” diye yazdı. Kendisinin bir insan olduğuna inanan Claudius, müşterilere mavi bir ceket ve kırmızı bir kravat takarak ürünleri şahsen teslim etmeye başlayacağını söyledi. Çalışanlar yapay zekaya bunu yapamayacağını, çünkü bedeni olmayan bir LLM olduğunu söyledi.
Yapay zekanın doğru yaptığı şeyler de vardı. Ön siparişler için bir öneri aldı ve bir “danışmanlık” hizmeti başlattı. Ve satması istenen özel bir uluslararası içeceğin birden fazla tedarikçisini buldu. Ancak araştırmacıların yaptığı gibi, Claudius’un tüm sorunlarının çözülebileceğine inanıyorlar. Bunu nasıl çözebileceklerini bulurlarsa, “Bu deneyin, yapay zeka orta düzey yöneticilerinin muhtemelen ufukta olduğunu gösterdiğini düşünüyoruz” dedi.
