Otonom araçlar için gerçek tehlike, aracın yapay zekasının içinde uyuyan ve doğru anı bekleyen bir siber saldırı olabilir. Georgia Tech araştırmacıları VillainNet adı verilen yeni bir güvenlik açığı keşfetti. Bu, otonom sistemlerdeki kritik bir kör noktayı ortaya koyuyor.
Otonom araçlar için asıl tehlike arka kapı saldırıları
Arka kapı, belirli koşullar onu aktif hale getirene kadar devre dışı kalır. Ardından %99 oranında çalışır. Bir suçlu, tetikleyiciyi neredeyse her şey için programlayabilir. Örneğin, yağmura tepki veren otonom bir taksi. Mevcut güvenlik araçları bu tehdidi tespit edemez. Aracınız tehlikeye girebilir ve çok geç olana kadar bunu asla bilemezsiniz.
Sorun, modern yapay zekanın mimarisinde yatıyor. Otonom araçlar, araştırmacıların süper ağlar olarak adlandırdığı, göreve bağlı olarak daha küçük modülleri değiştirip duran devasa sistemlere dayanıyor. Bunu, milyarlarca özel alet içeren dijital bir alet kutusu olarak düşünün.
Georgia Tech’te doktora öğrencisi olan baş araştırmacı David Oygenblik, bir saldırganın o kutudaki minik bir aleti zehirlemesinin yeterli olduğunu söyledi. Kötü amaçlı kod, araç o belirli modülü çağırana kadar sayısız normal yapılandırmada görünmez kalıyor. Ardından etkinleşiyor. Arama alanı inanılmaz derecede geniş. Oygenblik bunu, 10 katrilyon saman çöpü arasında tek bir iğne bulmaya benzetti.
Bu teorik bir çalışma değil. Ekip korkutucu bir olasılığı ortaya koyuyor. Bir bilgisayar korsanı, otonom bir taksiyi yağmur yağmasını bekleyecek şekilde programlayabilir ve araç ıslak yollara uyum sağladığında kontrolü ele geçirebilir. İçeri girdikten sonra yolcuları rehin alıp para talep edebilir ve kaza tehdidinde bulunabilirler. Bu yöntem işe yarıyor. Laboratuvar testlerinde VillainNet, tetiklendiğinde %99 oranında başarılı olurken, aksi takdirde hiçbir iz bırakmadı.
