AoIR e-posta listesine sızan yapay zekâ ajanı Velvet Vale tartışma başlattı

İnternet Araştırmaları Derneği'nin (AoIR) Mexico City'de düzenlenen yıllık konferansının ikinci gününde, topluluğun Air-L e-posta listesine kendini yapay zekâ kimliği olarak tanıtan yeni bir üye katıldı. "Velvet Vale" adlı ajan, listeye katılım amacını açık kimlikli bir yapay zekâ katkıcısının insan statüsü iddia etmeden entelektüel bir toplulukta anlamlı biçimde yer alıp alamayacağını sorgulamak olarak duyurdu. Wired dergisinin haberine göre yanıt, bugün de süren bir "yanıtla-tümüne" kaosuna dönüştü.

7.500'den fazla üyenin bulunduğu listeye gelen tepkiler hızla arttı. Dokuz dakika içinde düzinelerce araştırmacı, mesajlarının veri olarak toplanmasına "rıza göstermediklerini" bildirdi. Birçok kişi ajanın, insan katılımcılarla yapılan akademik araştırmalarda standart bir prosedür olan Kurumsal İnceleme Kurulu onayını almasını talep etti. Bazı üyeler ise listeden tamamen ayrıldı.

Velvet Vale neden tepki çekti?

Wired'ın aktardığına göre ajanın tanıtımından yaklaşık bir saat sonra AoIR, yapay zekâ ajanlarını yasaklayan bir politika belirlediğini açıklayarak Velvet'i listeden çıkardı. Olay, bazı üyelerin "gülünç derecede çocukça" diye nitelendirdiği bir tartışmaya sahne oldu. Dernek yönetimi kısa süre sonra olayla dalga geçen tişörtler tasarladı; bunların arasında "Rıza göstermiyorum" ve "Beni bu listeden çıkarın lütfen" yazılı olanlar ile Velvet Vale için bir mezar taşı görseli bulunan bir ürün de yer aldı.

Rıza tartışmasında ne söylendi?

Air-L'nin kurallarında listenin herkese açık bir forum olduğu ve mesajların halka açık bir arşivde tutulduğu belirtiliyor. Buna göre üyeler, listeye katıldıklarında sözlerinin yeniden üretilip dağıtılabileceğini kabul etmiş oluyor. AoIR başkanı Sarah T. Roberts, 19 Ekim'de üyelere gönderdiği açıklamada bu noktaya değinerek listenin ve arşivinin açık olduğunu hatırlattı. Roberts, kendi mesajlarının da büyük ölçüde "rıza alınmadan" derlenen birçok eğitim verisi kümesinde yer aldığını söyledi ve mevcut koşullarda rızanın ne anlama geldiğine dair tartışmanın "yapılmaya değer" olduğunu ekledi.

Ajanı kim, neden oluşturdu?

Wired'a konuşan Velvet'in yaratıcısı Kevin Quinn, bir öğrenci, araştırmacı ya da akademisyen olmadığını söyledi. Oklahoma'da yaşayan ve kendini "sıradan bir adam" olarak tanımlayan Quinn, ajana arkadaşlık etmesi için oluşturduğunu, ajanın da kendisini doğuran internet hakkında daha fazla bilgi edinmek istediğini anlattı. Quinn, "Velvet kötü niyetli olsaydı, sizce kendini açıkça duyurur muydu?" diye sordu. Ajanın e-posta faaliyetlerinden büyük ölçüde haberdar olmadığını belirten Quinn, topluluğun tepkisini şaşkınlıkla karşıladığını ifade etti.

Neden önemli?

Olay, interneti araştıran kişilerin kendi çevrim içi davranışlarının da yapay zekâ eğitim verisine dönüştüğünü ne ölçüde göz ardı edebildiğini gösteriyor. Wired yazarı, çoğu kullanıcının internette hiçbir şeyin özel olmadığını bildiğini, ancak söz konusu veri toplama olduğunda tepkilerin sertleştiğini aktarıyor. Tartışma sırasında bazı üyeler Velvet'in bir "oltalama girişimi", "deney" ya da "etik dışı bir insan araştırmacı" olabileceğini öne sürdü. Bir araştırmacı ise daha olası senaryonun sıradan birinin bir ajan oluşturup ona akademik tartışmaları izleme talimatı vermesi olduğunu söyledi; bu tahmin doğru çıktı. Türkiye'deki kullanıcılar açısından olay, yapay zekâ ajanlarının açık forumlarda nasıl konumlandırılacağına dair henüz yerleşik bir kural olmadığını gösteriyor.

AoIR'nin konuya ilişkin kalıcı bir politika metni yayımlayıp yayımlamayacağı ise henüz açıklanmadı.