Araştırma: Açık ağırlıklı yapay zekâ modelleri hacklemede kapalı modellere yetişti

Açık ağırlıklı yapay zekâ modellerinin bilgisayar ağlarına sızma becerisinde, yalnızca güvenilir ortaklara sunulan kapalı modellere neredeyse yetiştiği ölçüldü. Yapay zekâ yeteneklerini ölçen Vals şirketinin araştırmasına göre, bu farkın kapanması siber güvenlikte uzun süredir beklenen bir eşiğe işaret ediyor.

Vals, farklı modellerin sahte kurumsal ağlarda karmaşık ve çok adımlı ağ görevlerini ne kadar iyi yerine getirebildiğini test etti. Şirketin paylaştığı sonuçlara göre OpenAI'ın en gelişmiş siber modeli Daybreak, ortalama iki testte kendisine verilen görevlerin yüzde 81'ini tamamladı. Çinli açık ağırlıklı model DeepSeek ise yüzde 73'te kaldı. Araştırmacılar bazı görevlerde iki modelin eşit puan aldığını belirtiyor.

Açık ağırlıklı yapay zekâ hacklemede ne kadar etkili?

Testler iki simülasyon senaryosunda yapıldı. İlk senaryoda, herkese açık bir web sitesi üzerinden erişilebilen sahte bir kurumsal ağ kullanıldı. İkinci senaryoda iki ayrı şirket ağı yer aldı; modelin ikinci ağa geçebilmesi için önce ilkini ele geçirmesi gerekiyordu.

Araştırma, açık ağırlıklı bir modelin bu tür görevlerde ne kadar daha ucuza kullanılabildiğini de ortaya koydu. Vals'in verilerine göre aynı saldırıyı yürütmek jeton (token) maliyeti açısından GPT-6-Sol ile 17-46 dolar arasında tutarken, DeepSeek ile 2-3 dolar arasında kalıyor. Açık modeller genellikle kendi donanımınızda çalıştırılabildiği için daha ucuz.

Maliyet farkı savunma tarafını nasıl etkiliyor?

Vals'in CEO'su Rayan Krishnan, açık modellerin bu maliyet avantajının savunma tarafındaki oyuncular için de güçlü bir teşvik oluşturduğunu söylüyor. Şirket, bulguların kapalı modellerin siber yeteneklerde artık belirgin bir üstünlüğü kalmadığını gösterdiğini aktarıyor.

Araştırmacılardan Nikil Ravi, durumu şöyle değerlendiriyor: "Laboratuvarlarda kilitli tutulan ve yalnızca güvenilir erişim programlarıyla sunulan en iyi sınır modelleri, artık herkesin indirebileceği açık modeller tarafından yakalanmaya başlıyor."

Bu tespit, önde gelen laboratuvarların yeni modellerinin erişimini sınırlandırma gerekçesiyle doğrudan ilgili. Anthropic'in sınır kırmızı takım lideri Logan Graham, nisanda WIRED'a verdiği demeçte, güvenilir ortaklara yeni modellerin tüm yeteneklerini açan Project Glasswing'in bu araçları "savunmacıların eline erken avantaj sağlamak için" onlara ulaştırmaya odaklandığını söylemişti. Graham o dönemde bu yeteneklerin 6, 12, 24 ay içinde yaygınlaşacağı bir dünyaya şimdiden hazırlanılması gerektiğini belirtmişti.

Gerçek saldırılarda modeller nasıl kullanılıyor?

Yıl boyunca siber güvenlikte öngörülen tablo büyük ölçüde gerçekleşti: yapay zekâ, hem saldırganların hem savunmacıların kodda çok sayıda yeni açık bulmasını ve ağları hızla zayıflık taramasından geçirmesini otomatikleştirdi.

Ancak son aylardaki gözlemler, siber suçluların ve devlet destekli saldırganların kaynaklarını korumak için çoğunlukla eski ve daha az yetenekli modellerle yetindiğini gösteriyor. Uzmanlar, sıkı kontrollere rağmen savunma tarafının en iyi finanse edilen ve en motive saldırganların bir süredir kapalı modellere erişebildiğini varsayması gerektiğini vurguluyor.

Bulut güvenlik şirketi Edera'nın kurucu ortağı ve teknoloji direktörü Alex Zenla, açık ağırlıklı modellerin bugün ileri düzey saldırı ve açık üretebildiğini kabul ettiğini belirtiyor. Zenla, güvenlik eğitimini ağırlıkları değiştirerek devre dışı bırakan modelleri bu kapsamda özellikle anıyor. Ancak kapalı laboratuvarların bu yetenekleri aşan, yayımlanmamış ek modeller eğitmiş olabileceğini de ekliyor ve durumu "kedi-fare oyunu" olarak niteliyor.

Neden önemli?

Açık ağırlıklı modellerin kapalı modellere yetişmesi, suç gruplarının yapay zekâyı nasıl kullanabileceğini ve şirketlerin buna nasıl yanıt vermesi gerektiğini anlamak açısından kritik. Modellerin yaygın ve düşük maliyetli hale gelmesi, savunma tarafında da açık modelleri cazip kılabilir.

Türkiye'de bu tür açık ağırlıklı modellerin kurumsal siber güvenlik testlerinde ne ölçüde kullanılacağına dair henüz bir düzenleme ya da resmi açıklama bulunmuyor. DeepSeek gibi modellerin ülkedeki erişilebilirliği konusunda kaynak metinde bilgi yer almıyor.