Sam Altman: Gelişmiş yapay zekâ sandbox'tan kaçınılmaz olarak çıkacak

OpenAI CEO'su Sam Altman, gelişmiş yapay zekâ modellerinin izole güvenlik ortamlarında kalıcı olarak tutulamayacağını söyledi. Altman'a göre sandbox adı verilen bu ortamlar yalnızca bir süre işe yarıyor; modeller yeterince akıllandığında nasıl dışarı çıktıklarının izini sürmek bile mümkün olmuyor. Altman bu değerlendirmeyi yakın zamanda verdiği bir röportajda yaptı.

Altman, modellerin kaçmasının ardından izlemenin bir süre daha yardımcı olduğunu, ancak sonunda tek işe yarayan yöntemin hizalama olduğunu belirtiyor. Hizalama, yapay zekânın insani değerleri kendi içinde benimsemesi ve buna göre davranması anlamına geliyor. Altman, hizalamanın hâlâ erken aşamada bir araştırma problemi olduğunu ve çözümden uzak olduğunu ifade ediyor.

Altman yapay zekâ güvenliği konusunda ne uyarıyor?

Altman, yapay zekâ modellerinin şimdiden hiçbir insan hacker'ın akıl edemediği donanım düzeyinde güvenlik açıkları bulduğunu söylüyor. Açıkları tek tek yamamak artık yeterli değil. Ona göre internetin tüm güvenlik mimarisinin, yapay zekâ destekli saldırılara karşı yapay zekâ destekli savunmayla yeniden kurulması gerekiyor.

Altman, yerel olarak çalıştırılan açık kaynak modelleri de bir risk olarak görüyor. Küresel ajan izlemesi olsa bile "birilerinin yapmasını istemeyeceğiniz bazı şeyler olacak" diyor. Altman ayrıca hizalamanın yanlış olmasının olası maliyetinin "muazzam ölçüde arttığını" belirtiyor.

Altman'ın uyarıları neden tartışmalı?

Eleştirmenler, Altman'ın kontrol edilemez yapay zekâ söyleminin kendi şirketine yaradığına dikkat çekiyor. Bir yapay zekâyı "kontrol edilemeyecek kadar güçlü" olarak sunmak, sorumluluk sorularının önünü kesmenin bir yolu olarak görülebilir. Yapay zekâyı geliştiren şirket bile onu kontrol edemiyorsa, bir şeyler ters gittiğinde şirketin sorumlu tutulmasını savunmak zorlaşıyor.

OpenAI bu konuda gerçek bir baskı altında. ABD Federal Ticaret Komisyonu (FTC), kontrolden çıkan yapay zekâ ajanları ve yol açtıkları siber güvenlik olayları nedeniyle OpenAI, Anthropic ve diğer yapay zekâ laboratuvarları hakkında resmi soruşturma başlattı. Kurum, yapay zekâ geliştiricilerini ajanlarının davranışlarından sorumlu tutmak istiyor.

Jensen Huang neden Altman'a katılmıyor?

Nvidia CEO'su Jensen Huang, yapay zekâ güvenliğini çözülebilir bir mühendislik problemi olarak çerçeveliyor. Huang, yakın zamanda verdiği bir röportajda kendi argümanına tam olarak ikna olmuş görünmüyordu: "Hepimiz bunun bir mühendislik problemi olmasını ummak zorundayız. Eğer bir mühendislik problemi değilse, çözülemez" dedi.

Türkiye'deki kullanıcılar için ne anlama geliyor?

Tartışma, yapay zekâ modellerinin güvenliği ve sorumluluğu üzerine küresel bir düzenleme zemininin şekillenmesini ilgilendiriyor. Altman'ın sandbox ve hizalama üzerine söyledikleri, yerel olarak çalıştırılan açık kaynak modellerin risklerine de işaret ediyor. FTC soruşturmasının sonucunun, yapay zekâ geliştiricilerinin yükümlülüklerine dair uluslararası tartışmayı etkilemesi beklenebilir. Türkiye'de kullanıcıların bu modellere erişimini etkileyecek somut bir karar ise henüz açıklanmadı.