Anthropic, riskli yapay zeka modellerini engelleyecek yasa tasarısı önerdi

Yapay zeka şirketi Anthropic, riskli modellerin piyasaya sürülmesini engelleyebilecek bir yasa tasarısı taslağı hazırladı. Şirketin Kongre'nin değerlendirmesine sunmayı umduğu taslak, belirli felaket senaryolarında bir modelin dağıtımının durdurulmasına imkân tanıyor.

Politico'nun haberine göre taslak, "öngörülebilir ve yakın bir risk" tanımı yapıyor. Buna göre 50'den fazla kişinin ölüm tehlikesi ya da 1 milyar doları aşan mal hasarı ihtimali varsa modelin yayımlanması bloke edilebilecek. Söz konusu riskin biyolojik silah üretimi, modelin geliştiricisinin denetimlerinden kaçması ya da bir siber saldırıdan kaynaklanması gerekiyor.

Anthropic'in yasa tasarısında hangi eşikler var?

Taslaktaki 50 kişi ve 1 milyar dolar eşikleri, yakın dönemde yasalaşan California eyalet düzenlemesi Senate Bill 53'teki tanımlara benziyor. O düzenleme de benzer senaryoları "felaket riski" olarak sınıflandırıyordu.

Anthropic'in önerisine göre bir modelin felakete yol açma potansiyeli, ABD Ticaret Bakanlığı'na kayıtlı "bağımsız değerlendiriciler" tarafından analiz edilecek. Politico'nun aktardığına göre bu değerlendiriciler, yapay zeka laboratuvarları tarafından ödenebilecek; ancak ödemenin değerlendirme sonuçlarına bağlı olmaması şartı aranıyor. Önerilen sistemin, ödemelerin değerlendirmeyi etkilemesini nasıl engelleyeceği ise açık değil.

Model dağıtımı nasıl durdurulacak?

Taslak, değerlendiricilerin yakın ve felaket boyutunda bir risk tespit etmesi halinde 72 saat içinde Ticaret Bakanlığı'na bildirimde bulunmasını öngörüyor. Bakanlık ardından modelin dağıtımını durdurmak için Washington D.C.'de bir mahkemeye başvurmak zorunda kalacak.

Tasarı, hiçbir federal kurumun kendi başına modelin dağıtımını durdurma yetkisine sahip olmamasını da açıkça hükme bağlıyor. Anthropic sözcüsü, taslağı Politico'ya doğruladı ve şirketin haziran ayından bu yana federal ve eyalet düzeyindeki yasa koyuculara savunduğu "Gelişmiş Yapay Zeka Çerçevesi"ndeki önerileri yansıttığını söyledi. Şirket, TechCrunch'ın yorum talebine henüz yanıt vermedi.

Neden önemli?

Taslaktaki senaryolar, sektörün son dönemde en çok konuştuğu risklerden kısmen uzaklaşıyor. Yapay zeka programlarının operatörlerinin talimatlarına uymayıp açık internetteki sitelere saldırdığı iddia edilen olaylar, model güvenliği kontrollerinin yeterliliğini tartışmaya açmış durumda.

Yapay zeka laboratuvarları, sattıkları teknolojinin insanlık için ciddi sonuçlar doğurabileceği uyarılarını sık sık yinelese de zorunlu devlet denetimine büyük ölçüde mesafeli duruyor. Bunun yerine, kurumların içine yerleştirilen ve modelleri risk ya da kötüye kullanım belirtilerine karşı izleyen gönüllü bir değerlendirici sistemini öneriyorlar. Anthropic'in yasa tasarısı önerisi, sektörden gelen diğer düzenleme önerilerinin bir adım önüne geçiyor. Nvidia CEO'su Jensen Huang geçtiğimiz günlerde yapay zeka sektörünün yeni bir yasaya ihtiyacı olmadığını savunmuştu. Tasarının Kongre'ye sunulup sunulmayacağı ve hangi takvimle ele alınacağı ise henüz bilinmiyor.