Muse Ember: Meta'nın ucuz yapay zeka modeli

Meta, giriş seviyesindeki yapay zeka modeli Muse Ember'i tanıttı. Şirketin iddiasına göre model, Anthropic'in Claude Haiku 5.5 modeliyle aynı puanı yaklaşık üçte bir fiyata alıyor. Fakat asıl ayrıntı fiyatta değil: Muse Ember, Meta'nın amiral gemisi Muse Wonder ile eğitilen ilk model.

Yine de Meta, Muse Wonder'ı iş akışının hangi kısmında kullandığını açıklamadı. Bir ihtimal, modelin eğitim sonrası aşamada (post-training) devreye girmesi. Bu aşamada model, ek verilerle eğitilerek yeteneklerini keskinleştiriyor. Nitekim Thinking Machines Labs yakın zamanda, nispeten küçük bir dil modelinin bile eğitim sonrası çalışmaları baştan sona yürütebildiğini gösterdi. Öte yandan Anthropic geçen hafta, modellerinin yakında makine öğrenimi araştırmalarını önemli ölçüde hızlandırabileceğini açıkladı.

Muse Ember ajan rolü için optimize edildi

Uygulamalar, Muse Wonder gibi öncü dil modellerini çoğu zaman yapay zeka kümelerinin bir parçası olarak kullanıyor. Kullanıcı bir istek girdiğinde öncü model bunu küçük görevlere böler. Ardından bu görevleri, daha ucuz bir modelle çalışan ajanlara dağıtır. Böylece öncü model planı yapıyor, ucuz model işi uyguluyor. Meta, Muse Ember'in tam olarak bu ikinci rol için optimize edildiğini söylüyor.

Kıyaslamalarda Haiku ve Luna ile yarışıyor

Meta, modeli Artificial Analysis Index ile değerlendirdi. Endeks, kodlama ve finansal analiz gibi alanları kapsayan dokuz kıyaslamanın sonuçlarını bir araya getiriyor. Endeks puanı, modellerin farklı işlerdeki genel başarısını tek rakamda topluyor. Buna göre Muse Ember, Haiku 5.5 ile aynı skora ulaştı. OpenAI'ın benzer sınıftaki GPT-6 Luna modelini ise geride bıraktı.

Aynı iç değerlendirmede Meta, üç modeli dokuz kıyaslamada daha test etti. Üçü de “max” modundaydı. Yani maliyet verimliliğini değil, erişebildikleri en yüksek donanım gücünü kullandılar. Muse Ember bu testlerin yedisinde Haiku ve Luna'nın önüne geçti.

Fark en çok iş görevlerinin otomasyonunda açıldı. Sonuçların çoğunda fark birkaç puanla sınırlı kaldı, ancak AutomationBench-AA'da yüzde 17'lik üstünlük var. Bu test, Gmail ve Salesforce gibi popüler bulut uygulamalarını kapsayan 657 görevden oluşuyor.

Bağlam penceresi ve fiyat

Modelin bağlam penceresi, yani tek seferde okuyabildiği metin miktarı, 1 milyon token. Bu, uzun iş belgelerinin modele verilebilmesi demek. Ayrıca istemlere görsel, ses ve video eklenebiliyor.

• Bağlam penceresi: 1 milyon token
• Girdi: görsel, ses ve video içeren istemler
• Yanıt uzunluğu: 512.000 tokene kadar

Token, modelin metni işlerken kullandığı en küçük parça; ücretlendirme de bu birim üzerinden yapılıyor. Model, Meta'nın Model API'si üzerinden milyon girdi tokeni başına 10 sent, milyon çıktı tokeni başına 50 sent ücretle sunuluyor. Yerleşik önbellek, sık kullanılan istemleri yeniden kullanarak aynı işlemin tekrarlanmasını önlüyor. Bu özellik açıkken girdi fiyatı milyon token başına 0,4 sente düşüyor.