Yapay zeka çöplüğü olarak adlandırılan, LLM düzeyindeki kişilerin ürettiği düşük kaliteli görseller, videolar ve metinler son birkaç yıldır interneti ele geçirmiş durumda; web sitelerini, sosyal medya platformlarını, en azından bir gazeteyi ve hatta gerçek dünya olaylarını kirletiyor. RunSybil yapay zeka ile hata oluşturma konusunda dikkate alınması gereken bir örnek.
RunSybil yapay zeka ile hata analizi yapıyor
Siber güvenlik dünyası da bu sorundan muaf değil. Geçtiğimiz yıl, siber güvenlik sektöründeki kişiler, yapay zeka kaynaklı hata ödül raporları hakkında endişelerini dile getirdiler. Bu raporlar, aslında var olmayan RunSybil AI ile hata güvenlik açıklarını bulduklarını iddia eden raporlardı. Çünkü bu raporlar, büyük bir dil modeli kullanılarak oluşturulmuş ve güvenlik açığını ortaya çıkardıktan sonra profesyonel görünümlü bir yazıya dönüştürülmüştü.
Yapay zeka destekli hata avcıları geliştiren bir girişim olan RunSybil’in kurucu ortağı ve CTO’su Vlad Ionescu verdiği demeçte: “İnsanlar kulağa mantıklı gelen, teknik olarak doğru görünen raporlar alıyor. Sonra da bunları araştırıp ‘Aman Tanrım, bu güvenlik açığı nerede?’ diye düşünmeye başlıyorsunuz” dedi. Ionescu, “Sonuç olarak, RunSybil yapay zeka ile hata bulmakta karşılaştığınız her şeyin baştan beri bir halüsinasyon olduğu ortaya çıktı. Teknik detaylar LLM tarafından uydurulmuş” dedi.
Meta’nın kırmızı ekibinde şirketi içeriden hacklemekle görevli olarak çalışan Ionescu, sorunlardan birinin, hukuk lisansı (LL.M.) programlarının yardımcı olmak ve olumlu yanıtlar vermek üzere tasarlanmış olması olduğunu açıkladı. Ionescu: “Eğer bir rapor isterseniz, size bir rapor verecektir. Sonra insanlar bunları kopyalayıp RunSybil yapay zeka ile hata ödül platformlarına yapıştıracak ve platformları, müşterileri bunaltacak ve bu da sinir bozucu bir durumla karşılaşmanıza neden olacak” dedi.
Geçtiğimiz yıl, bunun gerçek dünyada örnekleri görüldü. Güvenlik araştırmacısı Harry Sintonen, açık kaynaklı güvenlik projesi Curl’ün sahte bir rapor aldığını açıkladı. Sintonen, Mastodon’da paylaştığı bir gönderide, “Saldırgan çok kötü hesap yapmış,” diye yazdı.
Sintonen’in paylaşımına yanıt olarak, kâr amacı gütmeyen kuruluşlara yönelik bir teknoloji platformu olan Open Collective’den Benjamin Piouffle, onların da aynı sorunla karşılaştığını, gelen kutularının “yapay zeka çöpleriyle dolu” olduğunu söyledi. GitHub’da CycloneDX projesini sürdüren bir açık kaynak geliştiricisi, “tamamen yapay zeka kaynaklı” raporlar aldıktan sonra bu yılın başlarında hata ödülünü tamamen kaldırdı.
