Çin’de geliştirilen ve amacı kullanıcılarıyla sohbet edip oyun oynamak olan iki yapay zeka botu, BabyQ ve XiaoBing ABD’nin hayat tarzına özenmeye başlayınca fişleri çekildi.
Çin’in popüler mesajlaşma servisi QQ üzerinde çalışan iki robottan biri tatil için nereye gitmeliyim sorusunu soranla ABD’yi öve öve bitiremeyip ABD’ye gitmeleri gerektiği cevabını verirken diğeriyle Çin Komünist Partisi’nin uygulamalarını eleştiren cevaplar vererek geliştiricilerini şaşırttılar.
Yapay zekanın istemedikleri bir yöne doğru evrildiğini gören geliştiriciler ise çareyi iki botu kapatmakta buldular.
2016 yılında da Microsoft’un Twitter’da kullanıcılarla sohbet etmesi için geliştirdiği bir yapay zeka botu, sadece 24 saat içinde ırkçı bir karakter geliştirince Microsoft botun hesabını kapatmıştı.