Qualcomm, Snapdragon ve Qualcomm platformlarında çalışan cihazlarda kullanıma hazır, önceden optimize edilmiş yapay zeka modellerinden oluşan her şey dahil bir kitaplık olan AI Hub’ı tanıttı. Bu modeller, doğal dil işleme, bilgisayar görüşü ve anormallik tespiti dahil olmak üzere çok çeşitli uygulamaları destekliyor. Mobil ve uç cihazlar için kritik bir faktör olan minimum güç tüketimiyle yüksek performans sunmak üzere tasarlanmış durumda.
Qualcomm AI Hub kitaplığı çözümü
Qualcomm AI Hub kütüphanesi şu anda Whisper, ControlNet, Stable Diffusion ve Baichuan 7B dahil 75’ten fazla popüler yapay zeka ve üretken yapay zeka modelini içeriyor. Tüm modeller çeşitli çalışma zamanlarında paketlenmiş. Tüm çekirdeklerde (NPU, CPU ve GPU) Qualcomm AI Engine’in donanım hızlandırmasından yararlanacak şekilde optimize edilmiş durumda. Qualcomm’a göre dört kat daha hızlı çıkarım süreleri sağlayacak.
AI Hub ayrıca kaynak çerçeveden popüler çalışma zamanlarına model çevirisini de otomatik olarak gerçekleştiriyor. Doğrudan Qualcomm AI Engine doğrudan SDK’sıyla çalışır ve donanıma duyarlı optimizasyonlar uyguluyor. Geliştiriciler, ihtiyaçlarına göre modelleri arayabiliyor, indirebiliyor ve uygulamalarına entegre ederek zamandan ve kaynaklardan tasarruf sağlayabiliyor. AI Hub ayrıca geliştiricilere bu modelleri özelleştirmeleri için araçlar ve kaynaklar sağlıyor. Her ikisi de platformda bulunan Qualcomm Neural Processing SDK ve AI Model Efficiency Toolkit’i kullanarak bunlara ince ayar yapabiliyor. AI Hub’ı kullanmak için geliştiricilerin PyTorch, TorchScript, ONNX veya TensorFlow Lite formatında eğitimli bir modele ve belirli bir cihaz (Samsung Galaxy S23 Ultra gibi) veya bir dizi cihaz olabilen dağıtım hedefini iyi anlamaları gerekiyor.
Ancak AI Hub yalnızca deneyimli geliştiricilere yönelik değil. Aynı zamanda yapay zeka dünyasına adım atanlar için kapsamlı belgeler ve eğitimler sağlayan bir öğrenme platformu olarak da hizmet veriyor. Qualcomm, AI Hub’ı yeni modeller ve ek platformlar ve işletim sistemleri desteğiyle düzenli olarak güncellemeyi planlıyor . Geliştiriciler, bu modellere Qualcomm platformlarını temel alan bulutta barındırılan cihazlarda erişmek için kaydolabilir ve yeni özelliklere ve yapay zeka modellerine erken erişim elde edebiliyor.
