NVIDIA, 120 milyar parametreli açık modeli Nemotron 3.5 Super VL'yi yayımladı

NVIDIA, metin, görsel, belge ve videoyu tek modelde işleyen açık ağırlıklı yeni modeli Nemotron 3.5 Super VL'yi yayımladı. Şirketin açıklamasına göre 120 milyar parametreli model, sürekli çalışan kurumsal ajanlar için tasarlandı ve geliştiricilerin ayrı bir metin modeli ile ayrı bir görsel modeli kullanma ihtiyacını ortadan kaldırıyor.

NVIDIA, modelin yanı sıra iki uç model de duyurdu: Nemotron 3.5 Bolt 74B-A9B ve Bolt E4B. Şirkete göre Super VL, seyrek etkinleştirmeli (mixture-of-experts) mimaride toplam 120 milyar parametre barındırıyor ancak her token için yalnızca 12 milyar parametre devreye giriyor. Model bağlam penceresi 1 milyon token'a kadar çıkabiliyor.

Nemotron 3.5 Super VL neler yapabiliyor?

Model kartına göre Super VL; metin, görsel ve video girdilerini alıp metin üretebiliyor; akıl yürütme, araç çağırma ve kod yazma işlerini aynı model içinde yapıyor. Video tarafında destek en fazla 2 dakikalık MP4 klipleriyle sınırlı. Akıl yürütme adımı sohbet şablonu üzerinden açılıp kapatılabiliyor.

Ağırlıklar OpenMDW-1.1 lisansıyla dağıtılıyor. NVIDIA ayrıca NeMo Gym kapsamında açık veri setleri, eğitim tarifleri ve takviyeli öğrenme ortamları da yayımladı.

Hangi donanımda çalışıyor?

NVIDIA'nın verdiği bilgilere göre NVFP4 kontrol noktası tek DGX Spark, tek H200, iki H100 veya tek GB200 üzerinde çalıştırılabiliyor. BF16 kontrol noktası da yayımlandı.

Şirket hızı dört teknikle açıklıyor: birden fazla token önerip tek ileri geçişte doğrulayan çoklu token tahmini, DGX Spark için geliştirilen ve jeton üretimini 2,3 kata kadar hızlandıran LiLiCorr adlı spekülatif taslak modeli, nicemleme farkındalıklı damıtmayla desteklenen NVFP4, ve ajan turları arasında önbelleği koruyan bağlam yeniden kullanımı.

NVIDIA ekibinin aktardığına göre model, yaklaşık 26 trilyon token üzerinde eğitildi. Eğitim sonrası aşamada 3,8 milyon örnek ve onlarca ortamda takviyeli öğrenme kullanıldı; sürekli ön eğitimle 10 milyar Hintçe token eklendi.

Kıyaslama testlerinde nasıl sonuç verdi?

Aşağıdaki skorlar NVIDIA'nın model kartında paylaştığı NVFP4 kontrol noktasına ait. Şirkete göre Super VL, ajan testlerinde Nemotron 3 Ultra'yı geçiyor: Hermes Bench'te yüzde 63,44'e karşı yüzde 56,33, LangChain testlerinde yüzde 87,05'e karşı yüzde 84,3. Ultra, toplamda yaklaşık 4,6 kat daha fazla parametre taşıyor.

NVIDIA ekibi, Baseten uç noktası üzerinden Artificial Analysis ajan görevlerinde saniyede 600'ün üzerinde çıktı token'ı ölçtüklerini bildirdi. Şirketin grafiği, Inkling Small'a kıyasla 5 kat hız farkına işaret ediyor.

Model kartındaki en yüksek skor GPQA-Diamond testinde 89,90; en düşük skor ise tau3-bench banking testinde 17,78. Karşılaştırma tablolarındaki skorlar üreticilerin kendi beyanlarına dayanıyor ve test düzenekleri farklılık gösterebildiği için birkaç puanlık farkların dikkatle değerlendirilmesi gerekiyor.

NVIDIA Nemotron 3.5 Bolt modelleri ne sunuyor?

Bolt 74B-A9B, yerel ajanları hedefliyor. NVIDIA'nın lansman notlarına göre Super VL'den damıtılan model, yerel 2 bit nicemleme sayesinde RTX ve DGX Spark sistemlerinde 24 GB belleğe sığıyor. Şirket, modelin PinchBench'te kendi sınıfındaki açık modeller arasında birinci, BrowseComp'ta ikinci sırada yer aldığını belirtiyor. Model Hugging Face üzerinden şimdi kullanılabiliyor; llama.cpp, Ollama, LM Studio, Unsloth ve vLLM desteği bulunuyor.

4 GB boyutundaki Bolt E4B ise 23 Ekim'de geliyor. GeForce RTX, Jetson ile RTX veya DGX Spark üzerindeki sesli asistanlar ve gömülü ajanları hedefliyor.

Neden önemli?

NVIDIA'nın aynı modelde metin, görsel, belge ve video işleyebilen açık ağırlıklı bir seçenek sunması, kurumsal ajan geliştiren ekipler için ayrı modelleri yönetme yükünü azaltmayı amaçlıyor. Şirketin paylaştığı erken sonuçlara göre Scale AI, Skydance için tedarikçi kredi işlemede yüzde 40 daha düşük çıkarım maliyeti ve 5 kat daha düşük gecikme elde etti. Ramp, fişten JSON'a çıkarma işinde yüzde 50'ye kadar daha yüksek iş hacmi ve 10 kat daha düşük gecikme bekliyor. AI21 ise Alice tehdit istihbaratı ürününde yüzde 40 daha yüksek doğruluk bildirdi.

Model; Hugging Face, OpenRouter, ModelScope ve NVIDIA NIM üzerinden erişilebiliyor. Desteklenen çalışma ortamları arasında Blackwell ve Hopper üzerinde vLLM, SGLang ve TensorRT-LLM ile yerel kullanım için llama.cpp ve Unsloth yer alıyor. Üretim kurulumları için Dynamo tarifleri KV farkındalıklı yönlendirme ekliyor; NVIDIA, kullanıcı başına saniyede 50 token hızında 16 B200 GPU ile 8 kat daha fazla kullanıcıya hizmet verildiğini ve ilk token gecikmesinin yüzde 85 düştüğünü aktarıyor.

Özelleştirme tarafında NeMo AutoModel üzerinden SFT ve LoRA, NeMo RL üzerinden takviyeli öğrenme çalıştırılabiliyor. Türkiye'deki geliştiriciler için modelin kullanım koşullarının ve erişim kapsamının ne olacağına dair ayrı bir açıklama yapılmadı; ağırlıklar açık lisansla yayımlandığı için erişim bölgeye bağlı görünmüyor.