NVIDIA, ajanlar için Vera CPU'yu tanıttı: x86'ya göre watt başına 1,6 kat fazla ajan

NVIDIA, yapay zekâ ajanlarının GPU ile akıl yürütme ve CPU ile yürütme arasında gidip geldiği iş yükleri için geliştirdiği Vera CPU'yu tanıttı. Şirketin açıklamasına göre Vera, 100 megawattlık bir veri merkezi karşılaştırmasında hem en hızlı hem de en verimli x86 işlemcilerinin önüne geçiyor.

NVIDIA, Vera'nın en hızlı x86 CPU'ya kıyasla watt başına 1,6 kat daha fazla ajan çalıştırdığını, en verimli x86 CPU'ya göre ise 2 kat daha hızlı ajan performansı sunduğunu bildirdi. Şirkete göre bu, sağlayıcıların hız ve kapasite dengesi için farklı x86 parçalarını karıştırmasına gerek kalmadan tek bir CPU ile farklı ajan iş yüklerini karşılamasını sağlıyor.

NVIDIA Vera CPU neden öne çıkıyor?

NVIDIA, yapay zekâ ajanlarının yalnızca yanıt üretmediğini, bilgi aradığını, veritabanlarını sorguladığını, kod yazıp test ettiğini ve eyleme geçtiğini hatırlatıyor. Bu adımların her biri bir CPU'ya dayanıyor. Şirket, işletmeler daha fazla ajan devreye aldıkça yapay zekâ fabrikalarının bu adımları hızla yürütebilen ve mevcut güç sınırları içinde çok sayıda ajanı aynı anda destekleyebilen CPU'lara ihtiyaç duyduğunu belirtiyor.

NVIDIA'nın karşılaştırması, güç kısıtlı veri merkezlerinde her watt için yapılan işi en üst düzeye çıkarmayı hedefliyor. Şirket, Vera'nın hem hızlı ajan performansını hem de watt başına yüksek kapasiteyi tek bir CPU'da sunduğunu iddia ediyor.

Hangi ortaklar Vera ile hangi sonuçları aldı?

NVIDIA, Vera'yı erken kullanan ortakların üretim benzeri testlerde elde ettiği sonuçları da paylaştı. Perplexity, ajan tabanlı kodlama görevlerini Vera ile geleneksel CPU'lara göre 1,5 kat daha hızlı çalıştırdı ve Vera'yı yaklaşan bir üretim sisteminde kullanmayı planlıyor.

DeepInfra, üretim ajan iş yükü için ajan orkestrasyonunda en iyi x86 işlemcinin hızına kıyasla 2,2 kata kadar hız elde etti ve test edilen dört mimari arasında en hızlısı oldu. ClickHouse, Vera'ya özel bir ayar yapılmamış standart ikili dosyasıyla 176 çekirdek üzerinde neredeyse doğrusal ölçeklendi ve ClickBench donanım sıralamasında zirveye yerleşti.

DuckLabs, Intel Xeon 6 temel alınan sisteme göre TPC-H SF1000 testinde yaklaşık 1,5 kat medyan performans elde etti. Daytona, Vera ile 1.000 ajan sanal alanını 10,8 saniyede devreye aldı; aynı işlem x86 ile 88,4 saniye sürdü. Şirket, 2.000 eşzamanlı sanal alanda saniyede 12,7 tamamlanan işe ulaştı. Modal ise karşılaştırılabilir x86 donanımına göre çekirdek başına 2 kata kadar sanal alan verimi elde etti ve kazanımların yoğun yük altında arttığını bildirdi.

Neden önemli?

Yapay zekâ ajanlarının yaygınlaşmasıyla veri merkezlerinde CPU tarafındaki yük artıyor. NVIDIA, güç sınırlı yapay zekâ fabrikalarında operatörlerin her watt için en fazla işi üreten altyapıyı seçmesi gerektiğini vurguluyor. Vera'nın tek bir CPU'da hem hız hem kapasite sunması, sağlayıcıların altyapı tercihini tek ürüne indirmesini amaçlıyor.

NVIDIA, Vera CPU hakkında daha fazla bilgi için ayrı bir tanıtım sayfasına yönlendiriyor. Vera'nın Türkiye'deki kullanıcılara ne zaman ve hangi koşullarla sunulacağına dair kaynak metinde bir bilgi yer almıyor.