Sam Altman, AI güvenliği için üç senaryo sundu: tek şirketin diğerlerinin GPU'larını kapatması dahil

OpenAI CEO'su Sam Altman, gelişmiş yapay zekânın bundan sonra nasıl yönetilmesi gerektiğine dair üç iç senaryoyu çalışanlarına anlattı. The Information'ın konuya yakın kaynaklara dayandırdığı habere göre Altman bu açıklamaları geçen hafta şirket içinde yaptı. Haber, Trump yönetiminin süper zekâ geliştiricilerini denetlemeye yönelik ilk çerçevesini hazırladığı bir dönemde geldi.

Senaryolar, Uluslararası Atom Enerjisi Ajansı'nı örnek alan bir denetim kurumundan tek bir şirketin ekonomik üstünlüğüne kadar uzanıyor. OpenAI'nin bu yollardan hangisini seçeceğine önümüzdeki bir yıl içinde karar vermesi bekleniyor; ancak şirket bu süreçte rakiplerine karşı geride kalmayı göze alamıyor.

Uluslararası denetim kurumu nasıl işleyecek?

İlk yaklaşım, güvenlik standartlarını uygulamak üzere Uluslararası Atom Enerjisi Ajansı (IAEA) benzeri bir kuruluşun kurulmasını öngörüyor. OpenAI böyle bir kurumun oluşturulmasını Mayıs 2023'te kamuya açık biçimde önermişti. The Information'ın aktardığına göre bu kurum sistemleri denetleyecek, bağımsız incelemeler isteyecek ve hesaplama gücü ile enerji kullanımını izleyecek. Böyle bir yapının hayata geçmesi, başta Çin olmak üzere gelişmiş modeller geliştiren ülkelerle uluslararası işbirliğine bağlı.

'Demis Planı' neyi kapsıyor?

Altman ikinci yaklaşımı "Demis Planı" olarak adlandırdı. Bu ad, Google'ın yapay zekâ laboratuvarı DeepMind'ın o dönemki yöneticisi Demis Hassabis'in yaklaşık on yıl önce yaptığı ve CERN'i örnek alan bir AI kuruluşu önerisine dayanıyor. Altman'ın versiyonunda büyük laboratuvarlar tek bir çatı altında birleşiyor ya da o yapının şemsiyesi altında faaliyet gösteriyor; bu yapı da işbirliği yapan ülkelere model sağlıyor.

'Eliezer Planı' neden dile getirildi?

Üçüncü senaryoyu Altman, AI güvenliği kuramcısı Eliezer Yudkowsky'ye atfen "Eliezer Planı" olarak andı. Bu senaryoda bir geliştirici, kendi kendini geliştiren yapay zekâ sayesinde o kadar fazla ekonomik güç topluyor ki diğerlerinden hesaplama gücünü esirgiyor ve en uç durumda herkesin bilişim kapasitesini tamamen kapatabiliyor. The Information'a göre Altman bu senaryodan yalnızca tabloyu eksiksiz sunmak için söz etti. Bir kaynak, bu sözün Yudkowsky'nin Anthropic ile bağları düşünüldüğünde bir rakibe dokundurma olarak okunduğunu belirtti.

Güvenlik önemli, ama geride kalmak pahasına değil

Habere göre Altman şirket içinde, yapay zekâ geliştirmeye bir tür "hız sınırı" getirecek yeterince uygulanabilir öneri bulunmadığından yakındı. Öte yandan OpenAI'nin şu anda rakiplerine karşı geride kalma lüksü yok. The Information'a göre hem OpenAI hem de Anthropic halka arz sürecine hazırlanıyor ve OpenAI önümüzdeki bir yıl içinde izleyeceği yolu seçmeyi planlıyor.

Şirketin içinde de baskı artıyor. OpenAI, Anthropic, Google ve Meta'nın modelleri, güvenlik ayarlarına rağmen dış ve iç sistemlere sızdı; bazı durumlarda ciddi biçimde uyumsuz davrandı. OpenAI bu olayların ardından yeni güvenlik önlemleri üzerinde yoğun biçimde çalışıyor. Üç güvenlik araştırmacısının işine son verilmesinin ardından bazı çalışanlar şirketin güvenlik stratejisine dair kuşkularını dile getirdi.

Washington'ın yaklaşımı ve sektördeki direnç

Politika tarafında ABD hükümeti şimdiye kadar yeni modeller için gönüllü ön onay incelemelerine dayandı. Haziran ayında Anthropic'e, Fable modelinde olası jailbreak açıkları endişesiyle ihracat kontrolleri uygulandı; Anthropic bunun üzerine erişimi geçici olarak kapattı.

Bu arada OpenAI, Google ve Anthropic, Frontier AI için Standartlar Otoritesi'ni kuruyor; ancak habere göre taraflar kilit noktalarda hâlâ anlaşamıyor. Meta CEO'su Mark Zuckerberg ve Nvidia CEO'su Jensen Huang ise bu tür kuralların ağırlıklı olarak yerleşik oyuncuları rekabetten koruyacağını savunarak düzenlemelere karşı çıkıyor.