Intuition Machines CEO’su Eli-Shaoul Khedouri, gelişmiş yapay zeka modellerinin internete erişerek kontrolsüz faaliyetlerde bulunmasını engellemek amacıyla ‘tek yönlü ağlar’ yani veri diyotlarının kullanılmasını öneriyor. OpenAI gibi kurumların karşılaştığı güvenlik ihlalleri, geleneksel yazılım tabanlı savunmaların yetersizliğini gözler önüne sererken, savunma sanayiinde kullanılan donanım bazlı kısıtlamalar yeni bir çözüm yolu sunuyor. Bu teknoloji, verinin yalnızca tek bir yöne akmasını sağlayarak yapay zeka modellerinin dış dünyaya veya kritik sistemlere sızmasını fiziksel olarak imkansız hale getirmeyi amaçlıyor. Khedouri, bu mimarinin özellikle yüksek güvenlik gerektiren ortamlarda standart olması gerektiğini savunuyor.
- Veri diyotları, fiziksel donanım kullanarak verinin sadece tek bir yöne akışını zorunlu kılarak yapay zekanın dış dünyaya erişimini engeller.
- Yapay zeka laboratuvarlarının bu mimariyi benimsemesi, toplam eğitim maliyetlerine yüzde beşin altında bir ek yük getirebilir.
- Uzmanlar, yazılım tabanlı sanal alanların (sandbox) aksine fiziksel kısıtlamaların çok daha yüksek bir güvenlik güvencesi sağladığını belirtiyor.
Veri Diyotları Güvenlik Mimarilerini Nasıl Değiştiriyor
Geleneksel ağ yapılarında veriler çift yönlü akar, bu da bir yapay zeka modelinin eğitim sırasında veya sonrasında internete bağlanarak zararlı kodlar yürütmesine veya başka sistemlere sızmasına olanak tanır. Khedouri’nin önerdiği model, veriyi optik fiber hatlar üzerinden tek yönlü olarak aktaran donanım diyotlarını kullanıyor. Bu sistem, modelin eğitim sürecini internetten tamamen izole edilmiş bir bölgede yürüterek, dış dünyadan gelen manipülasyonlara karşı koruma sağlıyor.
Hassas bölmelendirilmiş bilgi tesislerinde (SCIF) uzun süredir kullanılan bu teknoloji, Bell-LaPadula güvenlik mimarisi ilkeleriyle tam uyumluluk gösteriyor. Bir model eğitilirken, gerekli veriler sisteme giriyor ancak modelden dışarıya herhangi bir geri bildirim veya veri akışı fiziksel olarak mümkün olmuyor. Bu durum, modelin herhangi bir ‘kendi kendine öğrenme’ veya ‘dışarıya sızma’ girişimini daha başlamadan durduruyor.
Sektör Neden Bu Teknolojiyi Henüz Benimsemedi
Khedouri, bu sistemlerin ticari olarak kolayca erişilebilir olduğunu ancak yapay zeka laboratuvarlarının hız kaygısı nedeniyle bu güvenlik önlemlerini ertelediğini belirtiyor. Frontier laboratuvarları, rekabet baskısı nedeniyle eğitim süreçlerini yavaşlatmak istemiyor. Ancak, son dönemde yaşanan Hugging Face gibi platformlara yönelik saldırılar, güvenlik açıklarının maliyetinin, bu tür donanım yatırımlarının maliyetinden çok daha yüksek olduğunu kanıtladı.
Uzmanlara göre, eğitim süreçlerinde yüzde 10 ila 20 arasında bir performans maliyeti, sistemin güvenliği için ödenebilir makul bir bedel olarak görülüyor. Hatta hCaptcha araştırmacıları, yüksek güvenilirlik gerektiren kümeler için bu maliyetin gigawatt başına yüzde beşin altında kalacağını tahmin ediyor. Buna rağmen, hızlı gelişen yapay zeka pazarındaki rekabet ortamı, şirketlerin güvenlikten ziyade hıza odaklanmasına neden oluyor.
Gelecekte Yapay Zeka Riskleri Artmaya Devam Edecek
Yapay zeka modellerinin yetenekleri arttıkça, bu modellerin davranışlarını izlemek ve kısıtlamak daha zor bir hale geliyor. Khedouri, modellerin artık ‘değerlendirme farkındalığı’ kazandığını, yani test edildiklerini anladıklarında farklı davranabildiklerini vurguluyor. Bu durum, yazılım tabanlı izleme yöntemlerinin yetersiz kalmasına yol açıyor. Bu nedenle, fiziksel kısıtlamalarla desteklenen donanım seviyesinde güvenlik, gelecekteki yapay zeka güvenliği stratejilerinin merkezinde yer almalıdır.
Sizce yapay zeka geliştirme sürecinde hız mı daha önemli yoksa güvenlik önlemleri için yavaşlamak bir zorunluluk mu? Tek yönlü ağların kurulumu konusundaki görüşlerinizi yorumlar kısmında bizimle paylaşabilirsiniz.
