Çok sayıda LLM sunucusu hassas kurumsal, sağlık ve çevrimiçi verileri açığa çıkarıyor. LLM otomasyon araçları ve vektör veritabanları hassas verilerle dolu olabilir ve hırsızlığa karşı savunmasız olabilir. Yüzlerce açık kaynaklı büyük dil modeli (LLM) oluşturucu sunucusu ve düzinelerce vektör veritabanı, açık web’e son derece hassas bilgiler sızdırıyor.
LLM sunucuları yeterli güvenliği sağlamıyor
Şirketler yapay zkayı iş akışlarına entegre etmek için acele ederken, bazen bu araçları ve onlara güvendikleri bilgileri nasıl güvence altına alacaklarına yeterince dikkat etmiyorlar. Yeni bir raporda, Legit güvenlik araştırmacısı Naphtali Deutsch, web’i iki tür potansiyel olarak savunmasız açık kaynaklı (OSS) AI hizmeti için tarayarak bunu gösterdi: Yapay zeka araçları için veri depolayan vektör veritabanları ve LLM uygulama oluşturucuları – özellikle açık kaynaklı program Flowise. Araştırma, üretken AI devrimine katılmak için tökezleyen kuruluşlar tarafından farkında olmadan ifşa edilen bir dizi hassas kişisel ve kurumsal veriyi ortaya çıkardı.
Deutsch, “Birçok programcı bu araçları internette görüyor, sonra onları kendi ortamlarına kurmaya çalışıyor” diyor. Ancak aynı programcılar güvenlik hususlarını geride bırakıyor.
lowise, her türlü LLM uygulamasını oluşturmak için düşük kodlu bir araçtır. Y Combinator tarafından desteklenir ve GitHub’da on binlerce yıldıza sahip. İster müşteri destek botu olsun, ister akış aşağı programlama ve diğer görevler için veri üretme ve çıkarma aracı olsun, geliştiricilerin Flowise ile oluşturdukları programlar büyük miktarda veriye erişme ve yönetme eğilimindedir. Bu nedenle, Flowise sunucularının çoğunun parola korumalı olması şaşırtıcı değildir.
Ancak bir parola yeterli güvenlik sağlamaz. Bu yılın başlarında, Hindistan’daki bir araştırmacı, programın API uç noktalarında birkaç karakteri büyük harfle yazarak tetiklenebilen Flowise 1.6.2 ve önceki sürümlerinde bir kimlik doğrulama atlama güvenlik açığı keşfetti. CVE-2024-31621 olarak izlenen sorun, CVSS Sürüm 3 ölçeğinde “yüksek” 7,6 puan aldı.
Legit’in Deutsch’u CVE-2024-31621’i kullanarak 438 Flowise sunucusunu kırdı. İçerisinde GitHub erişim belirteçleri, OpenAI API anahtarları, Flowise parolaları ve düz metin API anahtarları, Flowise uygulamalarıyla ilişkili yapılandırmalar ve istemler ve daha fazlası vardı. Deutsch: “GitHub API belirteci ile özel depolara erişim sağlayabilirsiniz” diyor.