Baseten, 2B parametreli karar modeli joey-1'i yayınladı

Baseten'ın kendi araştırma birimi Base Labs, metin üretmek yerine etiket ve kalibre edilmiş olasılık döndüren 2B parametreli karar modeli joey-1'i yayınladı. Şirketin açıklamasına göre model, milyon giriş token'ı başına 0,01 dolar fiyatla sunuluyor; ağırlıkları ise MIT lisansıyla Hugging Face üzerinden indirilebiliyor.

joey-1, Qwen3.5-2B modelinin tam ince ayarıyla eğitildi. Baseten, modelin yoğun yönlendirme, sınıflandırma ve güvenlik kontrolü (guardrail) iş yüklerini hedeflediğini bildiriyor. Şirketin paylaştığı verilere göre model, ortalama 2 bin token'lık bir istekte 20 ms P50 uçtan uca gecikme sağlıyor.

joey-1 ne işe yarıyor?

joey-1, uygulamaya serbest metin yazmak yerine yazılı sorulara tek ileri geçişte yanıt veriyor. Kullanıcı model bir durum (metin veya görsel) ve bir ya da birden fazla soru gönderiyor; model her sorunun her seçeneği için olasılık döndürüyor. Böylece uygulamanın üretilen metni ayrıştırması gerekmiyor.

Model üç soru tipini destekliyor: tek bir adlandırılmış seçeneğin işaretlendiği "choice", evet olasılığını döndüren "yes/no" (API'de "noul") ve aciliyet gibi sıralı düzeyleri ölçen "score". Kalibrasyon sayesinde kullanıcılar bir güven eşiği belirleyebiliyor; belirsiz yanıtlar daha büyük modellere veya bir insana yönlendirilebiliyor.

joey-1 nasıl eğitildi?

Baseten'ın model kartında paylaştığı bilgilere göre Base Labs, Qwen3.5-2B'yi tam ince ayarla eğitti; görüntü kodlayıcı ise dondurulmuş durumda. Eğitimde 6,21 milyon karar örneği kullanıldı. Veri karışımının yüzde 58,3'ü temel karar becerileri, yüzde 16,1'i güvenlik, yüzde 16,1'i değerlendirme ve uzman alanları, yüzde 9,5'i ise kamuya açık verilerden oluşuyor.

Eğitimde çapraz entropi kaybına Brier kalibrasyon terimi eklendi ve modele eğitilebilir bir "bilmiyorum" seçeneği kazandırıldı. Şirketin aktardığına göre eğitim 1 dönem, 43 bin 390 adım ve 1e-5 tepe öğrenme oranıyla bf16 hassasiyetinde yapıldı; donanım tarafında 8 H100 GPU'lu iki düğüm kullanıldı.

Hız ve maliyet tablosu

Baseten, joey-1'in ortalama 2 bin token'lık bir istekte 20 ms P50 gecikmeye ulaştığını ve bunun 9B'lik elephant-1'in 49 ms'lik süresinden yaklaşık 2,5 kat hızlı olduğunu bildiriyor. Şirketin blog yazısındaki özet bölümü, benzer karar modellerinden 5 kat hızlı olduğu iddiasını da dile getiriyor ancak bu modellerin adını vermiyor.

Model API'lerinde giriş milyon token başına 0,01 dolar olarak fiyatlandırılıyor; çıktı ve önbelleğe alınmış giriş ise 0,00 dolar olarak listeleniyor. Karşılaştırma için elephant-1 milyon giriş token'ı başına 0,035 dolar, mammoth-1 ise 0,10 dolar seviyesinde. Baseten'ın verdiği örnekte, ayda 10 milyon destek talebinin her biri yaklaşık 500 token ise toplam 5 milyar token'a denk geliyor; bu yük joey-1'de yaklaşık 50 dolar, mammoth-1'de ise 500 dolar maliyet oluşturuyor.

Test sonuçları ne gösteriyor?

Tüm puanlar Baseten'ın model kartında kendi bildirdiği sonuçlar. Jev Decision Index 0.4 genel bölümünde joey-1 63,30 puan alıyor. Bu, 230 model arasında 37'nci sıraya ve 4B altı modeller arasında ilk sıraya denk geliyor. Aynı bölümde Cloudflare'ın 27B'lik Clef modeli 61,71, Jev 1.14 ise 60,70 puan alıyor.

joey-1 her alanda 9B'lik kardeşi elephant-1'in gerisinde kalıyor; aynı bölümde 63,30'a karşı 72,24 puanla 8,94 puanlık bir fark var. Öte yandan Jev 1.14'ü dil, araçlar ve erişim dahil 5 alanın 4'ünde geçiyor. Baseten'ın Artificial Analysis Decision Index kopyasında joey-1 62,9 puan alırken mammoth-1 65,9 puanda kalıyor.

joey-1 nasıl kullanıma alınır?

Model, Baseten Model API'leri üzerinden /v1/systemone uç noktasında decision-models/baseten-joey-2b-latest adıyla çağrılabiliyor. Şirkete göre sıfır veri saklama (zero data retention) varsayılan olarak açık. Özel dağıtımlarda 262 bin token'lık bağlam, ince ayarlı ağırlıklar ve LLM iş yükleriyle birlikte konumlandırma imkânı sunuluyor.

Kendi sunucusunda çalıştırmak isteyenler modeli Hugging Face'ten indirip setup.sh betiğini çalıştırabiliyor; bunun için tek bir CUDA GPU ile PyTorch 2.8 / CUDA 12.8 imajı gerekiyor. joey-1 ayrıca Baseten Training Jobs üzerinde ince ayara açık ve OpenRouter'da da milyon giriş token'ı başına 0,01 dolar fiyatla listeleniyor.

Neden önemli?

joey-1, mammoth-1 (27B) ve elephant-1 (9B) ile aynı eğitim verisini ve /v1/systemone API'sini paylaşıyor; Baseten'a göre modeller arasında geçiş tek satırlık bir değişiklikle yapılabiliyor. Bu da geliştiricilere, her isteği büyük modele göndermek yerine önce küçük ve ucuz modelle sınıflandırma yapma, belirsiz kalanları büyük modele yönlendirme imkânı veriyor. Şirketin örneğinde joey-1'in mammoth-1'e kıyasla maliyeti onda bire indirmesi, yüksek hacimli iş yüklerinde maliyet açısından belirleyici olabilir.

Modelin Türkiye'deki kullanıcılar için özel bir erişim veya fiyatlandırma duyurusu yapılmadı; Türkçe performansına dair bir veri de paylaşılmadı. joey-1'in açık ağırlıkları tek GPU'da çalıştırılabilmesi, yerel kurulum isteyen geliştiriciler için ek bir seçenek sunuyor.