Çoğu insan yapay zekayı düşündüğünde, aklına gelen ilk şey muhtemelen süper zeka veya üretkenliği artırma vaadi değil, dolandırıcılık oluyor. Son yıllarda gelişmiş ve kolay erişilebilir üretken yapay zeka araçlarının yaygınlaşması, bu tür kötü niyetli faaliyetleri katlanarak kolaylaştırdı.
Geçtiğimiz yılın başlarında yaşanan akılda kalıcı bir olayda, Hong Kong merkezli bir firmada çalışan bir finans çalışanı, şirket yöneticileri olduğuna inandığı kişilerle yaptığı görüntülü görüşmede kendisine talimat verilmesinin ardından dolandırıcılara 25 milyon dolar aktardı; ancak bu kişiler aslında yapay zeka tarafından oluşturulmuş deepfake’lerdi. Bu ayın başlarında ise kimliği belirsiz bir kişi, aralarında bir Kongre üyesinin de bulunduğu bir avuç devlet yetkilisiyle yaptığı görüşmelerde ABD Dışişleri Bakanı Marco Rubio’nun sesini taklit etmek için yapay zeka kullandı.
Yapay zeka dolandırıcılığı ile mücadele
Mastercard ve Financial Times Longitude (bir pazarlama ajansı ve Financial Times Group’un bir yan kuruluşu) tarafından yakın zamanda yapılan bir ankete göre, kart çıkaran kuruluşların %42’si ve kart satın alan kuruluşların %26’sı, yapay zeka araçlarının son iki yılda dolandırıcılık girişimlerinden 5 milyon dolardan fazla tasarruf etmelerine yardımcı olduğunu söyledi.
Finans sektöründe, bir kart çıkaran kuruluş, banka veya kredi kartı sağlayan bir firmadır (Chase veya başka bir büyük bankayı düşünün), alıcılar ise ödemeleri kabul edenlerdir (Stripe ve Square’i düşünün).
Haziran ayında yayınlanan anket bulgularına göre, bu kuruluşların çoğu, iki faktörlü kimlik doğrulama ve uçtan uca şifreleme gibi daha geleneksel yöntemlerle birlikte dijital güvenliklerini artırmak için yapay zeka araçlarını kullanmaya başladı.
Ankete katılanlar, siber güvenliklerini artırmak ve dolandırıcılığa karşı korunmak için çeşitli yapay zeka destekli teknikler kullandıklarını bildirdi. En sık bahsedilen teknik, anormallik tespitiydi; yani olağandışı istekleri işaretleyen otomatik bir alarm. Diğer kullanım örnekleri arasında siber güvenlik sistemlerindeki güvenlik açıklarının taranması, öngörücü tehdit modellemesi, “etik hackleme” (sistem güvenlik açıklarını aramanın başka bir biçimi) ve çalışanların becerilerinin geliştirilmesi yer alıyor.
Katılımcıların büyük çoğunluğu (%83), “Yapay Zeka’nın dolandırıcılık soruşturması ve çözümü için gereken süreyi önemli ölçüde azalttığını” ve müşteri kaybını azalttığını belirtti. Daha da fazlası (%90), önümüzdeki yıllarda dolandırıcılık önlemede yapay zeka kullanımları artmazsa “finansal kayıplarının muhtemelen artacağını” kabul etti.
