Anthropic, kendi kendine çoğalan yapay zekâ solucanları için uyardı

Anthropic, küçük yapay zekâ modellerinin ev cihazlarına yayılabileceğini gösteren araştırmasının sonuçlarını paylaştı. Şirket, bu hafta yayımladığı blog yazısında küçük modellerin bu tür yetenekleri kazanmasına "aylar" kalmış olabileceği uyarısında bulundu.

Deneyler, araştırmacıların gösterdikleriyle öngördükleri tehdit arasında büyük bir boşluk bırakıyor. Ancak The Verge'e konuşan uzmanlar, bilgisayar solucanlarının ve kendi kendini kopyalayan yapay zekâ endişelerinin yeni olmadığını, yine de son gelişmelerin uyarıları ciddiye almak için haklı nedenler sunduğunu söylüyor.

Anthropic deneyde ne yaptı?

Araştırmacılar ilk olarak Google'ın 26 milyar parametreli Gemma 4 modelini, hiçbiri modeli tek başına çalıştıracak güçte olmayan 15 Android akıllı TV kutusuna bölmeyi denedi. Model çalıştı, ancak oldukça yavaş ilerledi.

Ardından Android cihazlar gibi davranan simüle bir bilgisayar ağı kurdular ve yeni makineler bulup yapay zekâ modelini bunlara kopyalayarak her birinde çalıştırmakla görevli yapay zekâ destekli bir "solucan" saldılar. Çoğaltılan model, saldırıyı yöneten modelden farklı ve çok daha küçüktü: Meta'nın 8 milyar parametreli Llama 3.1-8B modeli.

Hangi model tüm ağa yayılabildi?

Test edilen modeller arasında yalnızca Çinli Z.ai'nin en gelişmiş modeli GLM-5.2 tüm ağa yayılmayı başardı. Daha küçük modeller ise tek tek adımları tamamlayabildi.

Anthropic araştırmacıları, modellerin ne hızda geliştiğine bakarak küçük modellerin yıl sonuna kadar GLM-5.2'nin yeteneklerine ulaşabileceğini öngörüyor.

Araştırmacılar, "Deneylerimizin ötesine geçen bir tahmin olarak, insan kontrolünde olmayanlar da dahil her tür donanımda çalışan ajanlarla dolu bir gelecek bekliyoruz" diye yazdı. Henüz "tam bir kaçak kopyalayıcı" göstermediklerini ve böyle bir sistemin nasıl görüneceğini bilmediklerini kabul ettiler. Ancak bulguların "yapay zekâ solucanları için yaşam belirtileri" olduğunu belirterek, kopyalayıcı bir sistemin yayılmak için kullanabileceği cihazlarda daha güçlü güvenlik çağrısı yaptılar.

Anthropic bu testlerde kendi modellerini kullanmadı. Şirket daha önce de kendi modellerine açık alternatiflerin kapalı sistemlerden "daha fazla risk" taşıdığını savunmuştu.

Uzmanlar tehdidi nasıl değerlendiriyor?

Uyarı, bilinen PR abartısı ve yapay zekâ felaketçiliği suçlamalarını yeniden gündeme getirdi. Zira bir yapay zekânın birkaç ucuz TV kutusunda yavaşça çalışmasıyla ev cihazlarına yayılan kendi kendini kopyalayan bir solucan arasında ciddi bir mesafe var.

Anthropic bu konuda yalnız değil. Bu yılın başlarında California merkezli yapay zekâ güvenliği araştırma firması Palisade Research, modellerin kendilerini başka makinelere özerk biçimde kopyalayabildiğini gösterdi.

Palisade'in yönetici direktörü Jeffrey Ladish, The Verge'e yaptığı açıklamada "Burada yeni olan, bu modellerin parametre sayısı bakımından kendini kopyalayabildiği gösterilen önceki modellerden çok daha küçük olması" dedi. Ladish, büyük modeller için de benzer bir durumun geçerli olacağını, öncü modellerin bile MacBook'lardaki gibi tüketici çipleriyle kurulan geniş ağlarda çalışabileceğini tahmin ediyor.

Toronto Üniversitesi profesörü Nicolas Papernot ise "Önceki araştırmalar yapay zekâ destekli bilgisayar solucanları tehdidinin gerçekçi olduğunu zaten göstermişti" ifadelerini kullandı.

Papernot, yapay zekâyı insanlaştırmaya karşı uyarırken, tehdidin "somut" olduğunu ve özellikle hastaneler ile elektrik şebekeleri gibi kritik altyapıların güvenliği için "acil eylem gerektirdiğini" söyledi.

Neden önemli?

Anthropic'in gösterdiği yetenekler, siber saldırılarda hedef alınmaya değer cihazların kapsamını genişletebilir. Papernot'a göre daha önce sınırlı saldırgan kaynağı ve zamanı nedeniyle hedef olmayan cihazlar, artık taşıdıkları veri için olmasa da daha değerli hedeflere saldırmak üzere üs olarak kullanılmak amacıyla hedef haline gelebilir. İnternette yeterince korunmayan akıllı cihaz sayısı da az değil.

Ladish, "Her tür cihazı güvence altına almak için devasa bir çaba gösterilmezse, yapay zekâ solucanlarının yerleşmek için verimli zeminler bulması oldukça olası" dedi ve "Bunların ilkini 12 ay içinde sahada göreceğimizi bekliyorum" diye ekledi.

Anthropic'in uyarısının ardından sektörün nasıl bir güvenlik adımı atacağı ise henüz belirsizliğini koruyor.