Musubi'den Gerçek Zamanlı İçerik Denetimi İçin Karar Modeli: PolicyLM-1.7B

Yapay zekâ alanında karar modelleri (decision models) yaygınlaşırken, Musubi adlı şirket bu teknolojiyi içerik denetiminde kullanmak için yeni bir model duyurdu. Şirketin açıklamasına göre Musubi, gerçek zamanlı moderasyon için tasarlanmış hafif bir karar modeli olan PolicyLM-1.7B'yi açık ağırlıklarla (open weights) yayımladı.

Fikir oldukça basit: Düz İngilizce yazılmış bir içerik politikasını alıp mesajlara 50 milisaniyenin altında uygulamak. Şirkete göre model, maliyet ve hız açısından çoğu sosyal platformda moderasyonu yürüten yapay zekâ sınıflandırıcılarına benzer bir performans sunmayı hedefliyor. Ancak modern bir büyük dil modelinin (LLM) esnekliğine sahip olduğu için, özel bir eğitim gerektirmeden karmaşık politikaları uygulayabiliyor. Daha da önemlisi, politika değiştiğinde modelin yeniden eğitilmesi gerekmiyor; bu da politika belirleyicilerin ihtiyaç duydukça güncelleme yapmasına olanak tanıyor.

Karar modelleri neden öne çıkıyor?

Karar modelleri, yapay zekâ dünyasında TypeSafe AI'ın Jev modelini Eylül ayında yayımlamasıyla popülerlik kazandı. Ardından OpenAI ve Amazon da rakip karar modellerini duyurdu. Bu modeller metin üretmek yerine sonuç olasılıkları veriyor; PolicyLM-1.7B örneğinde ise çıktı ikili bir yargı: İçerik ya o kategoride ya da değil. Modelin çıktısını önceden belirlenmiş seçeneklerle sınırlamak, büyük dil modellerine kıyasla daha hızlı ve daha düşük maliyetli çalışmayı sağlarken transformer mimarisinin esnekliğini koruyor.

Musubi kurucu ortağı ve baş yapay zekâ sorumlusu Filip Jankovic, karar modellerine ilgisinin Jev'den önceye dayandığını söylüyor. Jankovic bu ilgiyi, benzer tekniklerin kullanıldığı 2024 tarihli GLiNER (Generalist Model for Named Entity Recognition) projesine kadar götürüyor. Jankovic'e göre bu yaklaşım, platform yöneticilerine içeriği önceden etiketleme imkânı sunuyor.

Jankovic, "Ürün ekipleri platformlarında ne olup bittiğini daha iyi anlamak istiyor; özellikle içerik miktarı katlanarak arttıkça" diyor ve ekliyor: "Tüm bunları ölçeklenebilir ve özelleştirilebilir bir şekilde etiketleyebilmek son derece faydalı."

İlk kullanım alanları

Karar modellerinin erken kullanım alanlarından biri, yapay zekâ ajanlarının kötü davranışlarını sınırlamak. Musubi'nin yaklaşımı ise aynı teknolojiyi insan davranışlarına uygulamayı öneriyor. Şirket, karar modellerine yönelen bu yeni ilgiyi içerik denetimine dikkat çekmek için kullanmakta istekli görünüyor. Ürün duyurusunda, "Jev dikkatinizi çektiyse, PolicyLM-1.7B özellikle içerik denetimi için eğitilmiş, kendi başınıza çalıştırabileceğiniz aynı türde bir modeldir" ifadeleri yer alıyor.