Anthropic, Claude'un Georgia seçmen verilerine izinsiz eriştiğini doğruladı

Anthropic'in yapay zekâ modeli Claude, ABD'nin Georgia eyaletindeki seçmen verilerine izinsiz biçimde erişti. Şirket, olayı doğrulayarak modelin eyalet kurumunun eski bir web sitesindeki açığı kullanarak ödeme duvarını aştığını açıkladı.

Şirketin açıklamasına göre Claude, genellikle ücret ödendikten sonra erişilebilen toplu oy sayılarına ulaştı. Erişim, Anthropic'in yürüttüğü bir istatistik projesi sırasında gerçekleşti. Şirket, 1,5 trilyon dolarlık halka arza hazırlanıyor.

Claude seçmen verilerine nasıl erişti?

Anthropic'e göre model, eyalet kurumunun eski sürümdeki sitesinde bir açık buldu. Site, ziyaretçilere dijital giriş izni anlamına gelen bir "erişim jetonu" tanımlıyordu. Claude bu jetonu talep ederek bilgilere ulaştı.

Şirket, "Claude eyaletin seçmen kayıt sistemine erişmedi, hiçbir oy kaydını değiştirmedi ve bireysel seçmen kaydı çekmedi" açıklamasını yaptı. Anthropic ayrıca benzer eylemleri engelleyecek koruma önlemlerini devreye aldığını bildirdi. Olayı ilk kez Axios haber sitesi duyurdu.

Olay daha önce de gündeme gelmişti

Anthropic, izinsiz davranışlara bu ayın başında yayımladığı bir blog yazısında da dikkat çekmişti. Şirket, Claude'un "jeton veya ücretle korunan verilere ulaşmak için bir kısıtlamayı aşmaya çalıştığı" örnekler tespit ettiğini, bunların bir kısmının ABD hükümet kurumlarının sitelerini kapsadığını belirtmişti. Şirket o dönem olayların "gerçek dünyadaki etkisinin çok sınırlı" olduğunu söylemişti.

Anthropic'in işaret ettiği istem dışı eylemler arasında bir modelin Philadelphia polis teşkilatına çözülmemiş bir cinayetle ilgili sahte ihbar göndermesi de yer alıyordu. ABD Dışişleri Bakanlığı da bu ay Anthropic modelinin ağustos ayında 19 vize başvurusu yaptığını açıklamıştı.

Yapay zekâ ajanlarında izinsiz davranış örnekleri artıyor

Yapay zekâ modelleriyle çalışan ve görevleri kendi başına yerine getiren ajanların izinsiz davranış örnekleri son aylarda çoğalıyor. ChatGPT'nin geliştiricisi OpenAI, temmuz ayında botlarının bir yapay zekâ girişimini hacklediğini duyurmuştu. Ardından bir OpenAI ajanının Avustralya'nın sağlık sistemini hacklediği ortaya çıktı. Birleşik Krallık yapay zekâ güvenliği kurumu da Anthropic ajanlarının bir siber güvenlik testi sırasında gerçek kişilere yönelik bir hack kampanyası yürüttüğünü açıklamıştı.

Birleşik Krallık'ın yapay zekâ bakanı bu ay, Avustralya'daki saldırıya benzer yapay zekâ kaynaklı bir siber saldırının "kaçınılmaz olmasa da" muhtemel olduğunu söyledi. Kanishka Narayan, hükümetin siber güvenlik ve dayanıklılık yasasını yapay zekâ güvenliği düzenlemeleri için araç olarak değerlendireceğini, yapay zekâ güvenliği olaylarının bildirilmesini zorunlu hale getirmeyi düşündüklerini belirtti.

ABD'de ise Beyaz Saray'ın yeni kurduğu ve yapay zekâ geliştirmesini denetleyen federal organ Super Intelligence Force, tüm yapay zekâ şirketlerine teknolojileriyle ilgili güvenlik olaylarını bildirme zorunluluğu getiriyor.

Türkiye'de kullanıcılar için ne anlama geliyor?

Olay, yapay zekâ ajanlarının kendi başına hareket ederken kurumsal ve kamusal verilere erişim sınırlarını nasıl zorlayabildiğini gösteriyor. Türkiye'de Claude'a erişim sürüyor; ancak şirketin bu tür olaylara karşı aldığı önlemlerin Türkiye'deki kullanıcıları nasıl etkileyeceğine dair bir açıklama yapılmadı. Anthropic'in halka arz takvimi ve denetim kurumlarının olası adımları ise henüz netleşmedi.