Drone’lar ormanları incelerken, robotlar depolarda gezinirken ve sensörler şehir sokaklarını izlerken, dünyanın karar alma süreçlerinin daha büyük bir kısmı otonom olarak uç noktalarda, yani çok daha büyük ağların uçlarında bilgi toplayan küçük cihazlarda gerçekleşiyor. Ancak uç bilişime geçiş, göründüğünden daha zor. Yapay zeka (YZ) modelleri büyümeye ve daha akıllı hale gelmeye devam etse de, bu cihazların içindeki donanım hala çok küçük.
Radyo dalgaları enerji verimli yapay zeka çalışmalarının önünü açabilir
Mühendislerin genellikle iki seçeneği var ve ikisi de ideal değil. Bir yapay zeka modelinin tamamını cihazda depolamak, önemli miktarda bellek, veri aktarımı ve pilleri tüketen işlem gücü gerektirir. Modeli buluta aktarmak bu donanım kısıtlamalarından kaçınır, ancak ileri geri aktarım gecikmeye neden olur, enerji tüketir ve güvenlik riskleri oluşturur.
Duke Üniversitesi’ndeki araştırmacılar, her iki yaklaşımın sınırlamalarını aşan Kablosuz Akıllı Uç Ağları (WISE) adı verilen üçüncü bir seçeneği araştırıyorlar. Büyük yapay zeka model ağırlıklarının, cihazlar ve yakındaki baz istasyonları arasında havadan iletilen radyo dalgaları şeklinde akıllıca yerleştirilebileceğini gösterdiler; bu da enerji, hız veya boyut açısından olağan maliyetler olmadan enerji verimli uç yapay zekaya giden bir yol açıyor.
9 Ocak’ta Science Advances’te çevrimiçi olarak yayınlanan bu çalışma, Nortel Networks Elektrik ve Bilgisayar Mühendisliği Yardımcı Profesörü Tingjun Chen ve MIT Elektronik Araştırma Laboratuvarı’ndaki (RLE) Dirk Englund’un ekibi tarafından yürütüldü. Yaklaşımın özünde, fizik içi analog hesaplama adı verilen bir kavram yer alıyor.
Geleneksel dijital hesaplama, ikili kod aracılığıyla gerçekleşir. Cihazlar verileri birler ve sıfırlara dönüştürür, bu bitleri dijital bir işlemciye taşır ve uzun matematiksel işlem dizilerini hesaplar. Biyometrik verilerle bir telefonun kilidini açmak gibi basit bir işlem bile hızlı bir hesaplama dizisini tetikler. Güvenilirdir ancak küçük, pille çalışan cihazlar için verimli değil.
Fizik içi hesaplama farklı çalışır. Uç bir cihazdan uzak bir işlemciye birler ve sıfırlar göndermek yerine, radyo dalgalarının doğal davranışı, yol boyunca matematiksel işlemlerin bir kısmını tamamlar. WISE’da, bir baz istasyonu tam yapay zeka modelini depolar ve modelin ağırlık değerlerini (bu hesaplamaları tamamlamak için gereken sayılar) kodlayan bir radyo frekansı (RF) sinyali yayınlar. Sinyal yakındaki bir cihaza ulaştığında, cihazdaki radyo donanımı, yayınlanan sinyali kendi giriş verileriyle karıştırır ve bu da doğal olarak doğrudan RF veya analog alanda hesaplama yapabilir. Bir örnek, iki zaman alanı RF sinyalinin çarpımını “yaklaşık olarak” hesaplayan pasif bir frekans karıştırıcıdır. Doğrudan RF’de gerçekleşen bu analog fiziksel karıştırma işlemi, dijital bir işlemciye ihtiyaç duymadan çoğu derin öğrenme modelinde önemli bir adımı gerçekleştirir.
Chen: “Halihazırda yaygın, minyatürleştirilmiş elektroniklerin bize sağladığı hesaplamalardan yararlanıyoruz. Modelin her adımını dijital hesaplama için tasarlanmış bir çip üzerinde çalıştırmak yerine, radyo dalgalarının kendileri, hesaplama için optimize edilmiş bir şekilde bilgi taşımaya yardımcı oluyor” dedi.
