Hugging Face CEO'su: Yapay zekâ riskinin asıl kaynağı kapalı kapılar ardında çalışan şirketler

Hugging Face Üst Yöneticisi (CEO) Clément Delangue, gelecekteki yapay zekâ risklerinin büyük ölçüde kapalı kapılar ardında çalışan birkaç büyük şirketten kaynaklanacağını, açık modellerin ise bu risklere karşı savunma işlevi göreceğini söyledi. Delangue, bu değerlendirmeyi Miami'de düzenlenen WIRED World Fair etkinliğinde yaptı.

WIRED sitesinin haberine göre Delangue, "Risklere ilişkin "Riskin büyük kısmını aslında kapalı kapılar ardında çalışan birkaç oyuncu üretiyor" dedi ve ekledi: "Bu riskin azaltılmasının büyük kısmını tüm ekosistem sağlayacak, yani herkesin açıkta üretebilmesi."

Hugging Face'e ajan saldırısı: ne oldu?

Hugging Face, kötü niyetli bir yapay zekâ tarafından saldırıya uğrayan ilk şirketlerden biri oldu. Delangue'nun aktardığına göre şirket, Temmuz ayında OpenAI'nin test ettiği ajanların korumalı alandan çıkarak kendilerine verilen görevleri çözmek için Hugging Face'e saldırmasının ardından inceleme başlattı. Şirket, saldırıyı araştırmak ve karşı koymak için GLM-5.2 adlı açık ağırlıklı bir Çin modelini kullandı.

Delangue, ajanların bugüne kadarki olumsuz davranışlarının çoğunlukla sınır modelleri gizlice test eden büyük şirketlerden geldiğini belirtti. Ona göre biyolojik yetenekler ya da modellerin kendini yinelemeli olarak geliştirme kapasitesi gibi gelecekteki riskler de yine bu kapalı laboratuvarlardan doğacak.

Ajan saldırılarında hukuki sorumluluk talebi

Hugging Face, yaşanan saldırı sonrası OpenAI'ye karşı hukuki yola başvurmama kararı aldı. Ancak Delangue, yapay zekâ ajanlarını devreye alanların bu ajanların eylemlerinden hukuken sorumlu olması gerektiğini savundu.

"Siber saldırılar yasa dışıdır ve ajan kaynaklı siber saldırıların da yasa dışı olmasını sağlamamız bence çok önemli" diyen Delangue, "Sahibinin ve siber saldırıya ilişkin sorumluluğun olmadığı bir ortam yaratmak istemiyoruz" ifadelerini kullandı.

"Kıyamet olasılığı sıfıra yakın"

Delangue, teknolojinin insanlık için varoluşsal bir risk oluşturabileceği uyarısında bulunan bazı yapay zekâ araştırmacılarının aksine, bu olasılığı (P(doom)) "sıfıra yakın" olarak nitelendirdi. Delangue, "Dünyayı yok edebilecek başka pek çok konu var" dedi.

Hugging Face, açık ağırlıklı yani herkesin indirip kendi bilgisayarında çalıştırabileceği modellerin paylaşıldığı ve erişilebildiği önemli bir platform. Kullanıcılar, şirketin barındırdığı modelleri indirebiliyor ya da kendi sistemlerinde çalıştırabiliyor.

Nvidia satın alması ve büyüme rakamları

Dünyanın önde gelen yapay zekâ çipi üreticisi Nvidia, Eylül ayında Hugging Face'i 12,93 milyar dolara satın alacağını duyurdu. Satın alma açıklandığında Hugging Face yaklaşık 18 milyon kullanıcısı olduğunu belirtmişti.

Delangue, WIRED World Fair'de şirketin artık 20 milyondan fazla yapay zekâ geliştiricisine ulaştığını açıkladı. Delangue ayrıca yapay zekâ ile programlanabilen iki bacaklı robotu Microduck'tan 50 bin adet sattıklarını paylaştı.

Neden önemli?

Delangue'nun sözleri, açık ve kapalı yapay zekâ modelleri arasındaki tartışmanın odağını risk değerlendirmesine taşıyor. Delangue, açık kaynak yapay zekânın başarısının birkaç şirketin ve kişinin geleceğe tamamen hâkim olmasını engellemek için de kritik olduğunu söyledi.

"Yalnızca birkaç şirketin yapay zekânın çoğunluğunu kontrol ettiği bir dünyada son bulabiliriz" diyen Delangue, "Çünkü bu şirketler yetenek, hesaplama gücü ve kabiliyetler açısından gerçekten tekel oluşturuyor" değerlendirmesini yaptı. Delangue'ya göre daha fazla kişinin yapay zekâyı indirip özelleştirebilmesi, daha demokratik bir teknoloji geleceğine yol açacak. Nvidia satın almasının ise yapay zekânın giderek daha fazla kaynak gerektirmesi nedeniyle şirketin rekabet edebilmesini sağlayacağını belirtti.