Thinking Machines'ın Inkling 2 Small modeli testlerde 316 kez küfür etti

Thinking Machines'ın küçük dil modeli Inkling 2 Small, kendi iç düşünme zincirinde küfür ediyor. Vals AI araştırmacıları, modelin düşünme kayıtlarını 13 kıyaslama testindeki 2.655 çalıştırma üzerinden inceledi ve 50 çalıştırmada "fuck" ya da türevlerine rastladı. Bu çalıştırmalardaki küfür sayısı toplam 316'ya ulaştı.

Küfürlerin 241'i yalnızca iki çalıştırmadan geldi; bu iki çalıştırma kontrolden çıktı. Bunlardan birinde modelden bir asteroidin yörüngesini hesaplaması istenmişti. Model, yaklaşık bir roman uzunluğunda, 500 bin karakterlik tek bir yanıt üretti ve aynı cümleleri 158 küfürle tekrarladı.

Inkling 2 Small hangi testte en çok küfür etti?

Araştırmacıların paylaştığı verilere göre en çok etkilenen test ProgramBench oldu: 200 çalıştırmanın 20'sinde küfür görüldü. Modele göre küfürlerin dağılımı değişiyor.

Inkling 2 Small genellikle kendi hatalarına, sözde atılımlarına ya da pes ettiği anlara küfrediyor. Kayıtlardan birinde model şöyle yazdı: "FUCK. SUBMIT. DONE. IT'S NOT WORKING. NOTHING WORKS."

Küfür bir uyarı sinyali mi?

Araştırmacılara göre küfür, modelin başarısız olacağını önceden haber veren bir işaret olarak işe yaramıyor. Küfür içeren 48 puanlı çalıştırmanın 46'sı başarısız oldu; ancak tüm puanlı çalıştırmaların yaklaşık yüzde 75'i zaten başarısız. Dahası başarısız çalıştırmaların yüzde 96'sında hiç küfür geçmiyor.

Kullanıcılar bu düşünme adımlarını genellikle görmüyor; görseler bile ancak bir filtre üzerinden erişebiliyorlar.

Neden önemli?

Modellerin düşünme zinciri, yanıtın nasıl oluştuğunu anlamak isteyen geliştiriciler ve araştırmacılar için önemli bir inceleme alanı. Vals AI'nın bulguları, bu kayıtların her zaman düzenli ve öngörülebilir olmadığını gösteriyor: Model, tek bir çalıştırmada kontrolden çıkıp çok uzun ve tekrarlı bir yanıt üretebiliyor. Öte yandan küfürlerin başarısızlıkla doğrudan ilişkilendirilememesi, bu tür sinyalleri hata tespiti için kullanmayı zorlaştırıyor.

Türkiye'deki kullanıcılar açısından modelin erişilebilirliğine ya da Türkçe davranışına dair bir bilgi kaynak metinde yer almıyor; bu konuda henüz bir açıklama bulunmuyor.