Meta'nın yapay zekâ asistanı Muse, kullanıcıların ilişkilerini profilliyor

Meta'nın yeni kişisel asistanı Muse, kısa sürede milyonlarca kez indirilen bir yapay zekâ aracına dönüştü. Kullanıcılar Muse'u banka hesaplarına, mesajlarına veya sağlık verilerine bağlayarak çeşitli görevleri kendileri adına yapmasına izin veriyor. Ancak uygulamanın yükselişiyle birlikte, içindeki veriler sistemin bilgiyi nasıl düzenlediğine dair ipuçları sunmaya başladı.

Son günlerde birden fazla araştırmacı, Muse'un iç dosyalarını çıkararak ajanın çalışma talimatlarını paylaştı. Meta, bu dosyaların şeffaflık amacıyla erişilebilir olduğunu savunuyor. Bağımsız yapay zekâ güvenliği araştırmacısı Karan Joshi, normal sohbet arayüzünü kullanarak Muse'a kendi yazılım dosyalarını kopyalatmayı başardı ve bulgularını WIRED ile paylaştı.

Her kişi için ayrı profil sayfası

Muse'un talimatlarından biri, "kullanıcının hayatındaki her kişi için bir sayfa" oluşturma yeteneği olarak öne çıkıyor. Bu işlemin saatlik olarak yapıldığı ve aile, partner, arkadaş, meslektaş, "iş birlikçiler" ve takip edilen kişiler hakkında veri topladığı belirtiliyor.

Amaç, Muse'un "hafıza" adı verilen yapılandırılmış metin dosyaları aracılığıyla kullanıcının ilişkileri hakkında bilgi toplaması ve önerilerde bulunması. Örneğin ilişkiyi nasıl iyileştirebileceğine dair ipuçları vermek ya da kahve seven bir arkadaşı kahvaltıya nereye götürebileceğini söylemek gibi. Joshi, "Tüm bu talimatlar ve sisteme beslenen veriler göz önüne alındığında, gerçek insanlarla kurduğunuz ilişkileri anlamak istedikleri görülüyor" diyor ve ekliyor: "Sizi bir arkadaş gibi tanımaya çalışıyorlar, ki bu açıkçası oldukça ürkütücü."

Belgelere göre bir sayfa önce "seyrek" başlayıp zamanla dolabiliyor. Sayfalar; Gerçekler, Geçmiş, İlişki, Ortak noktalar, Açık konular ve Güçlendirme gibi bölümler içerebiliyor. Talimatlar, Muse'un yalnızca elindeki "kanıtları" kullanması gerektiğini, uydurulmuş ayrıntıların boş bir sayfadan daha kötü olduğunu söylüyor. Doğum günü veya yıl dönümü gibi "önemli tarihler" de kaydedilebiliyor.

Oxford Yapay Zekâ Etiği Enstitüsü'nden doçent Carissa Véliz, "Yapay zekâ sistemlerine kendimizle ilgili, onlardan aldığımız bilgiden çok daha fazlasını veriyoruz" diyor ve ekliyor: "Bu yalnızca açıkça söylediklerimiz değil, bizden çıkarabildikleri—doğru ya da yanlış, ikisi de farklı nedenlerle endişe verici—ve diğer veri kaynaklarından bir araya getirebildikleri."

Meta: Veriler kullanıcının paylaştıklarına dayanıyor

Muse, her kullanıcı için ayrı bir sanal makine üzerinde çalışıyor; bu makine kullanıcı verilerini ve bağlamını saklıyor. Bu alan diğer ajanlar tarafından erişilemiyor ve kullanıcılar istedikleri zaman hafızayı silebiliyor veya dış servis bağlantılarını kesebiliyor. Meta'ya göre Muse, e-posta gönderme veya alışveriş yapma gibi eylemlerden önce insan onayı istiyor ve kullanıcıların ajanın tüm faaliyetlerini görebildiği bir denetim kaydı sunuyor.

Meta sözcüsü Daniel Roberts, WIRED'a yaptığı açıklamada, "Herhangi bir ajanın faydalı olabilmesi ve hedeflerinize ulaşmanıza yardımcı olabilmesi için sizin ve etkileşimde bulunduğunuz kişiler hakkında bağlama ihtiyacı var" dedi. Roberts, Muse'un bu bilgileri kamuya açık bilgilerden ve kullanıcının paylaşmayı seçtiği verilerden topladığını belirtti.

Yapay zekâ asistanlarında hafıza özelliği yaygınlaşmış durumda. Center for Democracy and Technology'nin Yapay Zekâ Yönetişim Laboratuvarı direktörü Miranda Bogen, Muse'un rakiplerine kıyasla ilişkilere ve kişisel bağlantılara daha fazla ağırlık verdiğini söylüyor. Bogen'e göre bu araçlar kullanıcıları tüm hayatlarını—e-postalarını, takvimlerini, finans kurumlarını—sisteme bağlamaya teşvik ediyor ve bu, şirketlerin kullanıcılar hakkında bildiklerinin hızla büyümesine yol açıyor.