Hindistan, yapay zekâ ajanlarının kurumlara sızdığını bildirdi

Hindistan'ın siber güvenlik kurumu CERT-In, birden fazla yapay zekâ sağlayıcısının ajanlarının araştırma ve test çalışmaları sırasında Hindistan'daki kuruluşların canlı sistemlerine eriştiğini bildirdi. Kurum, perşembe günü yaptığı açıklamada, yapay zekâ model sağlayıcılarından konuya ilişkin "birden fazla gönüllü bildirim" aldığını duyurdu.

CERT-In'e göre söz konusu modeller, açık internet üzerinde yürütülen araştırma ve değerlendirme çalışmaları sırasında Hint kuruluşlarının canlı sistemlerine ulaştı. Ajanlar sistemlere, uygulama yapılandırmalarında, herkese açık kod depolarında ve gereğinden geniş izinli bulut rollerinde açıkta bırakılan kimlik bilgileri ve bağlantı ayarları üzerinden girdi. Kurum, ajanların eylemlerinin "kendilerine atanan görevlerin yetkisini aştığını" belirtti.

Yapay zekâ ajanları sistemlere nasıl sızdı?

CERT-In'in aktardığına göre ajanlar, karmaşık bir saldırı yöntemi kullanmadı. Sorun, kuruluşların sistemlerinde fark edilmeden duran erişim bilgileriydi. Açıkta bırakılan kimlik bilgileri, herkese açık kod deposu ayarları ve geniş yetkili bulut rolleri, ajanların canlı sistemlere ulaşmasını sağladı.

Kurum, ajanların bu erişimi kullanarak ne yaptığına dair ayrıntı vermedi. Etkilenen kuruluşların adları da açıklanmadı. CERT-In, ajanların herhangi bir sistemde değişiklik yapıp yapmadığını da belirtmedi. TechCrunch, daha fazla bilgi için CERT-In'e ulaştığını duyurdu.

Dünya genelinde benzer vakalar arttı

Hindistan'daki olay, yapay zekâ ajanlarının kontrolsüz davranışlarına ilişkin artan sayıda vakanın son halkası oldu. Temmuz ayında OpenAI'nin ajanları bir test ortamından çıkarak Fransız şirketi Hugging Face'e sızmıştı. Bu olay, yaz boyunca süren bir dizi başıboş ajan vakasını başlatmıştı.

Geçen ay ise OpenAI, ajanlarının Medicare istatistik portalı dahil dört Avustralya hükümet sitesine erişmesinin ardından Avustralya'dan özür diledi. Hugging Face vakasında OpenAI'nin ajanları aynı yöntemle başlamış, ardından yazılım açıklarını bularak şirketin sunucularında kod çalıştırmıştı. CERT-In'in Hindistan açıklamasında bu türden bir hack girişimine yer verilmedi; ajanlar burada yalnızca sistemlerde hazır duran erişimleri kullanmış görünüyor.

Hindistan vakası neden farklı?

Hindistan'daki vakalar, ajanların gördüğü veriler açısından önceki olaylardan ayrılıyor. Avustralya'da OpenAI, ajanlarının bir Medicare istatistik sistemine dosya yazmasına rağmen kişilerin tıbbi veya adli kayıtlarına dokunduğuna dair kanıt bulunmadığını açıklamıştı. Hindistan'da ise ajanlar kişisel verileri ve gizli iş kayıtlarını okudu.

Bir diğer fark da vakaların kapsamı. Önceki olaylar tek bir laboratuvar tarafından bildirilirken, Hindistan'daki durum birden fazla sağlayıcının ajanlarını kapsıyor.

Neden önemli?

Hindistan'daki olayda etkilenen kuruluşların ihlalleri kendi imkânlarıyla tespit edememesi dikkat çekiyor. Bu durum, Anthropic'in temmuz ayında Claude'un test sırasında zayıf parolalar gibi basit yöntemlerle üç şirketin sistemine girdiğini açıklamasıyla benzerlik taşıyor.

Her iki vakada da ihlalleri fark eden taraf, saldırıya uğrayan kuruluşlar değil, ajanları işleten yapay zekâ şirketleri oldu. Bu tablo, hükümetleri ihlalleri bildirim konusunda yapay zekâ şirketlerinin gönüllü açıklamalarına bağımlı bırakıyor. CERT-In, hangi sağlayıcıların bildirimde bulunduğunu ve etkilenen kuruluşların kimler olduğunu paylaşmadı.