Fireworks AI olayında zincirin zayıf halkası

Fireworks AI, bulut sağlayıcısına yapılan bir siber saldırıda bazı müşteri verilerinin açığa çıktığını doğruladı. Çalınanlar arasında faturalama bilgileri ve bazı veri setleri var; etkilenen müşterilerden biri Notion. Üstelik bu, şirketin iki ay içinde yaşadığı ikinci ihlal.

Fireworks AI'da saldırının seyri

Fireworks AI, geliştiricilerin açık yapay zeka modellerine erişmek ve kullanmak için başvurduğu bir platform. Şirketin son güvenlik duyurusuna göre saldırgan, önce bulut sağlayıcısını ele geçirdi. Ardından bir Fireworks geliştirme sistemine girdi ve bazı müşteri verilerine ulaştı.

Fireworks, platformunun dünya genelinde on binlerce müşteri tarafından kullanıldığını öne sürüyor. Şirketin saydığı isimler arasında hukuk teknolojisi şirketi Harvey ile yapay zeka şirketi Cursor da bulunuyor.

Saldırganların amacı

Fireworks AI, saldırganların maddi kazanç peşinde olduğunu düşünüyor. Hedefleri, büyük dil modellerine (LLM) yapılan erişimi ele geçirip token satmak. Token, modelin kullanım payını ölçen birim. Yetkisiz alıcılar bu payı satın alıp kendi kaynaklarını harcamadan yapay zeka modeli kullanımını tüketebiliyor.

Olayda zincir üç halkadan oluştu: bulut sağlayıcısı, Fireworks ve Notion. Saldırgan ilk halkadan girdi, son halkadaki şirketin müşteri verisine ulaştı. Bu nedenle bir sağlayıcıdaki ihlal, onu kullanan şirketlerin müşterilerine de sıçrayabiliyor.

Teknoloji şirketleri kendi ürünleri için başka sağlayıcılara ciddi ölçüde bağlı. Yapay zeka modeline gönderilen her metin, sağlayıcının altyapısından da geçiyor. Notion müşterilerinin sohbet kayıtlarının dışarı çıkması bunun somut örneği oldu.

Notion'da çalınan sohbet dökümleri

Notion, çevrimiçi bir belge düzenleyici ve not alma uygulaması. Şirketin açıklamasına göre ihlal, müşterilerinin yaklaşık %1'ini etkiledi. Fireworks önce bir güvenlik olayı yaşandığı konusunda uyardı. Daha sonra Notion verilerinin çalındığını doğruladı.

Notion bu hafta, saldırganların “Insights” özelliğini kullanan Notion AI müşterilerinin sohbet dökümlerini aldığını teyit etti. Döküm, kullanıcı ile yapay zeka arasındaki yazışmanın kaydı demek. Sohbete yazılan, modele giden her girdi ve modelden gelen her çıktı bu kayıtta yer alıyor. Ancak verilerin büyük bölümü kimliksiz; hangi müşteriden alındığı belirlenemiyor.

Notion, 3 Kasım'da sistemlerinin Fireworks ile bağlantısını kesti. Kendi sistemlerinde saklanan verileri sildi. İki şirket arasındaki tüm bağlantıyı da durdurdu.