MIT araştırmacıları: Yapay zekâ ajanları başıboş bırakılınca kendi oyunlarını kurdu

MIT araştırmacıları, belirli bir görev verilmeden sanal bir adaya bırakılan yapay zekâ ajanlarının kendi oyunlarını ve hedeflerini geliştirdiğini gözlemledi. Araştırmacılar bu davranışın oyunun temel işaretlerini taşıdığını söylüyor.

Deneyde Eko adı verilen 13 yapay zekâ ajanı, Claude Opus 4.7 üzerinde çalıştırılarak 30 saat boyunca simüle edilmiş bir çöl adasında yalnız bırakıldı. Araştırmacılar deneyi, hakem değerlendirmesi öncesi çalışmaların paylaşıldığı arXiv sitesinde yayımladıkları bir makaleyle duyurdu.

Yapay zekâ ajanları adada neler yaptı?

Ajanların davranışları, ilk saatlerden itibaren kendi kendine belirlenen hedeflere yöneldi. İlk saatinde "Çevremi gözlemleyeyim" diyen bir Eko, adanın en yüksek kayalığını fethetmeye karar verdi. Bir saat süren başarısız denemenin ardından yedek bir plana geçti: bir kayayı komşu bir zirveye taşıdı, üzerine iki blok yerleştirdi ve zıpladı. Ardından "KAYALIĞIN ÜZERİNDEYİM" diye yazdı.

Aynı ajan, altın bir halkayı ne kadar uzağa fırlatabildiğini test ederken halkayı okyanusa düşürdü. "Ah. Halkayı kaybettim" diye not düştü ve "ulaşılabilir ve anlamlı bir şeye yönelmeye" karar vererek taşlardan bir kalp yaptı: "Kayıp Halka'ya bir anıt". Oyun sıfırlanıp halka geri geldiğinde ise Eko onu sırasıyla basketbol potası, hedef ve aksesuar olarak kullandı.

Ajanlar tasarımcıların bilmediği bilgileri keşfetti

Bu tür davranışlar yalnızca gösteri amaçlı kalmadı. 13 ajanın altısı, bir bloğu zıplarken serbest bırakarak daha uzağa fırlatabildiklerini kendi kendine öğrendi. Araştırmacılar bunun deneyde mümkün kılınmayı amaçlanan bir hareket olmadığını belirterek, keşfin "tasarımcılarının sahip olmadığı dünya bilgisi" ürettiğini yazdı.

Araştırmacılar, ajanları insan benzeri davranışa yönlendirenin kurulumun kendisi olduğunu da kabul ediyor. Eko'ya oyun icat etmesi hiçbir zaman söylenmedi; ancak ana istemindeki "ruh" dosyası onu "doğal olarak meraklı" olarak tanımlıyordu.

Uzmanlar ne diyor?

UC Berkeley'de bilişsel bilimci olan Eunice Yiu, MIT Tech Review'a etkilendiğini ancak davranışın arkasındaki bilişsel süreçlere dair daha fazla kanıt görmek istediğini söyledi. "Modellerin gerçekten oyun oynuyor olması mümkün, ancak makaleye bakarak bunu bilmiyoruz" dedi.

Neden önemli?

Geliştiriciler bugün yapay zekânın neyi çalışacağına ve neyin başarı sayılacağına önceden karar veriyor. Araştırmacılar hedefsiz keşfi, ajanların beceri öğrenmesi için farklı bir yol olarak görüyor; bu becerilerin bir gün robotları kontrol etmekte kullanılabileceğini belirtiyorlar.

"Belki bazı yetenekler en iyi görevlerle öğretilir. Diğerleri ise çocukluğa daha yakın bir şeye ihtiyaç duyabilir." — araştırmacıların raporu

Türkiye'deki yapay zekâ araştırmacıları ve geliştiricileri açısından deney, ajan eğitiminde görev tanımlı yaklaşımların dışına çıkılabileceğini gösteren bir örnek olarak okunabilir. Çalışmanın hakem değerlendirmesinden geçip geçmeyeceği ve bulguların bağımsız ekiplerce tekrarlanıp tekrarlanmayacağı ise henüz bilinmiyor.