OpenAI, kötü amaçlı yazılım yaymak için kullanılan ChatGPT hesaplarına baskı yapıyor. ChatGPT gibi araçlar, tehdit aktörleri tarafından kampanyaları otomatikleştirmek ve güçlendirmek için kullanılıyor.
OpenAI kötü amaçlı yazılım ile mücadele ediyor
OpenAI, yapay zeka araçlarının kötü amaçlı kullanımını önlemeye devam ederken, devlet destekli tehdit aktörleriyle bağlantılı çok sayıda ChatGPT hesabını kapattı. Şirket, geçen hafta sonu yaptığı açıklamada, Çin, Rusya ve İran’daki gruplarla bağlantıları bulunan yasaklı 10 hesabın siber suç kampanyalarını desteklemek amacıyla kullanıldığını açıkladı.
OpenAI, kaldırma işlemini ayrıntılarıyla açıkladığı blog yazısında: “Uzman soruşturma ekiplerimiz için yapay zekayı bir güç çarpanı olarak kullanarak, son raporumuzdan bu yana geçen üç ayda sosyal mühendislik, siber casusluk, aldatıcı istihdam planları, gizli etki operasyonları ve dolandırıcılık gibi kötüye kullanım faaliyetlerini tespit edebildik, engelleyebildik ve ifşa edebildik” dedi.
Kampanyalardan dördünün Çin’de başlatıldığı, İngilizce, Çince ve Urduca paylaşımlar yapıldığı ve bunların TikTok, X, Reddit ve Facebook gibi sosyal medya sitelerinde paylaşıldığı görülüyor. Konu başlıkları arasında Tayvan, özellikle Çin Komünist Partisi’ne karşı direnişi anlatan bir video ve masa oyunu olan Reversed Front’a yönelik saldırılar ve Belucistan’daki Çin yatırımlarını ve ABD Uluslararası Kalkınma Ajansı’nın (USAID) kapatılmasını açıkça eleştiren Pakistanlı aktivist Mahrang Baloch’a yönelik paylaşımlar yer aldı.
Bu arada, Rusça konuşan bir tehdit aktörü tarafından işletildiği anlaşılan bir grup ChatGPT hesabı yasaklandı. OpenAI, bunların Windows cihazlarını hedef almayı amaçlayan kötü amaçlı yazılım türlerini geliştirmek ve iyileştirmek için kullanıldığını söyledi. Tehdit aktörleri ayrıca chatbot’u birden fazla dilde kodları hata ayıklamak ve komuta-kontrol altyapılarını kurmak için kullandılar. Çin bağlantılı diğer hesaplar ABD politikaları, özellikle de gümrük vergileri hakkında sosyal medya paylaşımları yapmak için kullanıldı.
