Meta CEO’su Mark Zuckerberg, devamlı çalışan yerel ajan tabanlı iş akışlarını desteklemek üzere özel olarak geliştirilen, 30 milyar parametreli bir yapay zeka modeli Muse Glimmer’ın kullanıma sunulduğunu duyurdu.
Meta Superintelligence Labs tarafından geliştirilen bu model, Apache 2.0 lisansı kapsamında Hugging Face’te açık ağırlıklı olarak sunuluyor. Bu sayede geliştiriciler ve kurumlar, bulut altyapısına veya aktif bir internet bağlantısına ihtiyaç duymadan tüketici sınıfı donanımlar üzerinde karmaşık yapay zeka görevlerini yerel olarak yürütebiliyor.
Meta, temel modeller kod üretimi ve akıl yürütme alanlarında olağanüstü ilerlemeler kaydetmiş olsa da, bulut bağımlılığının gerçek zamanlı tepki süresi ve gizlilik açısından hassas bağlamlar için hala önemli bir sorun olduğunu belirtti. Muse Glimmer, tek bir tüketici sınıfı GPU’suna sahip masaüstü bilgisayarlar ve dizüstü bilgisayarlarda verimli bir şekilde çalışarak bu sorunu çözüyor ve fonksiyon çağırma, yerel yazılım geliştirme, uzun vadeli planlama ve “LLM hakem” değerlendirmesi gibi iş akışlarını destekliyor.
Sıkı donanım kısıtlamaları dahilinde en ileri düzeyde performans elde etmek için Meta, çok aşamalı bir eğitim metodolojisi kullandığını ifade etti. Muse Glimmer, ön eğitim aşamasında logit tabanlı bilgi damıtımıyoluyla Meta’nın daha büyük Muse Spark modelinden akıl yürütme yeteneklerini devraldı. Bunu, uzun bağlamlı ajan tabanlı verilere odaklanan eğitim aşaması ve ardından kodlama, ajan ve genel akıl yürütme alanlarında denetimli ince ayar (SFT) ile pekiştirmeli öğrenmeyi birleştiren son eğitim aşaması izledi. Meta, modelin kullanıma sunulmadan önce Meta’nın Gelişmiş YZ Ölçeklendirme Çerçevesi’nde belirlenen standartlara göre değerlendirildiğini ve modelin SWE-Bench, DeepSearch QA, MCP-Atlas ve 𝛕-Bench gibi önemli benchmark testlerinde güçlü bir performans sergilediğini doğruladı.
Yerel kurulumların teknik zorluklarına değinen Meta, Muse Glimmer’daki iki temel mühendislik atılımına dikkat çekti:
Gelişmiş Cihaz İçi Kuantizasyon (Nicemleme): Yaklaşık 4-bit hassasiyetine sıkıştırılan dil modeli, 20 GB’ın altında bir bellek ile çalışıyor. Bu durum, modelin çalışma belleğini (KV önbelleği), algı kodlayıcısını ve spekülatif kod çözme taslak modelini (speculative decoding drafter) standart bir 24 GB veya 32 GB bellek sınırında eşzamanlı olarak desteklemek adına yeterli bir çalışma alanı bırakıyor.
Hızlandırılmış Spekülatif Kod Çözme: Model, DFlash tabanlı ve paralel olarak token blokları öneren hafif bir yardımcı ağ barındırıyor. Bu teknoloji, çıkış kalitesinden ödün vermeksizin Mac M4/M5 Max işlemciler ve NVIDIA RTX-5090 ekran kartları da dahil olmak üzere tüketici sistemlerinde üretim hızını önemli ölçüde artırıyor.
Metin işlemenin yanı sıra Meta; Muse Glimmer’ı, ardışık metin ve görsel girdileri işleyebilen özel bir algı kodlayıcısı ile tasarladı. Bu sayede ajanlar grafikleri, belgeleri ve ekran görüntülerini sorunsuz bir şekilde analiz edebiliyor. Model ayrıca hata kurtarma mekanizmaları, OpenClaw gibi orkestrasyon şablonlarıyla iskele yapısı (scaffold) uyumluluğu, kontrol edilebilir akıl yürütme yeteneği ve 100’den fazla dilde çok dilli destek sunuyor.
Meta, donanım optimizasyonları ve barındırma seçenekleri sunmak adına AMD, Arm, Dell, Intel, NVIDIA, Together AI, Fireworks AI ve OpenRouter dahil olmak üzere önemli donanım ve platform ortaklarıyla yürüttüğü sürekli iş birliğini vurguladı. Şirket, llama.cpp, MLX, ExecuTorch, Ollama, LM Studio, vLLM ve TorchTitan gibi geliştirici çalıştırma zamanlaması ortamları ile entegrasyonların gelecek günlerde kullanıma sunulacağını ifade etti.
Meta, Muse Glimmer’ın kullanıma sunulmasının açık yapay zeka araştırmalarını paylaşmaya yönelik uzun süreli geleneğini devam ettirdiğini, açık kaynak ekosistemini güvenli, özel ve yerelleştirilmiş otonom ajanlar inşa etme konusunda güçlendirmeyi hedeflediğini belirtti. Geliştiriciler model ağırlıklarına, kurulum kılavuzlarına ve teknik dokümantasyona Hugging Face ve Meta’nın YZ Geliştirici Merkezi platformu üzerinden bugün erişebilirler.