Baidu, 280 milyar parametreli ERNIE 5.5 Flash Base modelini açık kaynak olarak yayınladı

Baidu, 280 milyar parametreli açık temel modeli ERNIE 5.5 Flash Base'i yayınladı. Şirket, modeli bilinçli olarak ince ayar ve eğitim sonrası işlemlerden geçirmeden sunuyor; modeli nereye taşıyacaklarına geliştiricilerin karar vermesi bekleniyor.

Şirketin paylaştığı bilgilere göre ERNIE 5.5, girdi başına 14 milyar parametresi etkin olan bir mixture-of-experts mimarisi kullanıyor. Model, 33,5 trilyon token ile ön eğitildi ve eğitim sırasında 128 bin tokene kadar bağlam penceresiyle çalıştırıldı. İnce ayar ve çıkarım aşamalarında ise 1 milyon tokene kadar bağlam desteği sunacak şekilde tasarlandı.

ERNIE 5.5 Flash Base neler yapabiliyor?

Baidu'ya göre model, akıl yürütme, kod yazma ve uzun bağlam gerektiren görevlerdeki testlerde benzer büyüklükteki açık temel modellerle rekabet ediyor. Şirketin karşılaştırdığı modeller arasında DeepSeek V4 Flash ve MiMo V2.5 yer alıyor.

Modelin ağırlıkları Hugging Face platformunda FP8 ve BF16 formatlarında indirilebiliyor. Bu, geliştiricilerin modeli kendi donanımlarında çalıştırıp kendi verileriyle uyarlayabileceği anlamına geliyor.

Eğitilmiş sürüm ne zaman gelecek?

Baidu, modelin eğitim sonrası işlemlerden geçirilmiş bir sürümünün de takip edeceğini duyurdu. Ancak bu sürüm için bir takvim paylaşılmadı.

Neden önemli?

Baidu'nun ham bir temel modeli açık ağırlıklarla yayınlaması, geliştiricilere kendi uygulamaları için başlangıç noktası sağlıyor. Modelin ince ayara hazır sunulması, özellikle belirli bir alana özel asistan veya kod aracı geliştirmek isteyen ekipler için esneklik anlamına geliyor. Öte yandan modelin tek başına kullanıma hazır bir sohbet ürünü olmadığı, performansın büyük ölçüde geliştiricinin yapacağı uyarlamaya bağlı olduğu belirtiliyor.

Türkiye'deki geliştiricilerin modele Hugging Face üzerinden erişip erişemeyeceği ya da erişimin bir kısıtlamaya tabi olup olmadığı kaynak metinde yer almıyor.