Microsoft CEO'su Nadella: Yapay zeka modellerine 'acil fren' gerekiyor

Microsoft CEO'su Satya Nadella, yapay zeka güvenliğinin nasıl iyileştirilebileceğine dair önerilerini paylaştı. Nadella, cumartesi sabahı X'te yaptığı paylaşımda yapay zekanın "güven mimarisini" yeniden değerlendirmek gerektiğini yazdı.

Nadella, "Süper Zeka'yı iç içe geçmiş kara kutular olarak ele alıp önerilerini, yanıtlarını ve eylemlerini olduğu gibi kabul edemeyiz ya da reddedemeyiz" ifadelerini kullandı.

Microsoft AI güvenlik için ne öneriyor?

Nadella'ya göre bu yaklaşım, "modeli, işini düzenleyen denetim katmanından ayırmak" ve "kontroller ile güvenlik önlemlerini dışsallaştırmak" anlamına geliyor. Ayrıca "her anlamlı model eyleminin" kurcalanamaz, insan tarafından okunabilir kanıtlarla belgelenmesini istedi.

Microsoft CEO'su, "yetkili bir kişinin" her zaman "bir modeli görev ortasında duraklatma veya kapatma" yetkisine sahip olduğu sistemler çağrısı da yaptı.

"Acil fren" benzetmesi

Nadella, "Bir modelin ele geçirildiğini varsaymalı ve onu baştan kontrol altına almalıyız" dedi ve ekledi: "Bunu bir acil fren gibi düşünün."

Nadella'nın yorumları, önde gelen yapay zeka şirketlerinin modelleri üzerindeki kontrolü kaybettiklerini gösteren olayları giderek daha fazla kabul ettiği bir dönemde geldi. Açıklama, Anthropic CEO'su Dario Amodei'nin daha temkinli yapay zeka geliştirmeye yönelik bir plan yayımlamasının ardından yapıldı.