OpenAI, AB'de ChatGPT metinlerine görünmez filigran eklemeye başlıyor

OpenAI, Avrupa Birliği'nde ChatGPT ve Codex tarafından üretilen metinlere görünmez filigran eklemeye başlayacağını duyurdu. Şirketin blog yazısına göre bu adım, AB Yapay Zekâ Yasası'na uyum sağlamak amacıyla atılıyor.

2 Ağustos'ta yürürlüğe giren AB Yapay Zekâ Yasası'nın şeffaflık kuralları, yapay zekâ şirketlerinin ürettikleri içerikleri başka sistemlerin tanıyabileceği şekilde işaretlemesini zorunlu kılıyor.

Filigran nasıl çalışıyor?

OpenAI'ya göre filigran, metne eklenen görünür bir sembol değil. Bunun yerine modelin kelime seçimlerini ince biçimde yönlendirerek okuyucunun göremediği, ancak bir dedektörün tespit edebildiği bir desen oluşturuyor. Desen kelimelerin kendisinde yer aldığı için metin kopyalanıp yapıştırıldığında da metinle birlikte taşınıyor. Şirket, filigranın kullanıcıyı tanımlamadığını ve açıkken modellerin performansında anlamlı bir değişiklik görülmediğini belirtiyor.

OpenAI, yöntemi için "textGrain" adını verdiği bir teknik rapor da yayımladı. Pennsylvania Üniversitesi ve Yale'den araştırmacılarla birlikte hazırlanan rapora göre yöntem, bir cümleyi tamamlamak için sıradaki kelime tahminlerini gizli bir anahtarla sıralamaya dayanıyor. Yüzlerce bu tür yönlendirme bir araya geldiğinde dedektör, yalnızca metni ve anahtarı kullanarak yapay zekâ üretimi içeriği tespit edebiliyor.

Sınırlamalar ve tespit zorlukları

Filigran düzenlemeyle kaldırılabilir mi? OpenAI'nın testleri bunun mümkün olduğunu gösteriyor. Bir testte kelimelerin yüzde 10'unun eş anlamlılarıyla değiştirilmesi, tespit oranını yaklaşık yüzde 92'den yüzde 66'ya düşürdü. Şirket ayrıca kısa pasajlar, matematik yanıtları ve çevrilmiş metinlerin tespitinin daha zor olduğunu belirtiyor.

Şirket, "Bu sınırlamalar, ilk dedektör erişimini yalnızca güvenilirliği ve sorumlu kullanımları değerlendirmemize yardımcı olabilecek onaylı araştırmacılara ve uzman kuruluşlara sağlama kararımıza katkıda bulunuyor" açıklamasını yaptı.

OpenAI, filigranın bulunmamasının "insan yazarlığını kanıtlamadığı" uyarısında da bulundu. Metin çok kısa veya yoğun biçimde düzenlenmiş olabilir ya da başka bir şirketin yapay zekâsından gelmiş olabilir.

Şirkete göre filigranlar, "bir pasajın bir kısmının OpenAI sistemi tarafından üretildiğini veya işlendiğini gösterebilir, ancak ne kadar insan yargısı, düzenlemesi veya yaratıcılığı içerdiğini gösteremez."

Bu duyuru, Anthropic'in Claude tarafından üretilen metinlere dünya çapında filigran ekleyeceğini açıklamasından iki ay sonra geldi. Anthropic'in kararı bazı Claude kullanıcılarının tepkisiyle karşılanmıştı. Kullanıcılar, "talimatları, bağlamı ve kararları" kendilerinin sağladığını, Claude'un yalnızca "araç" olduğunu savunmuştu.

The Wall Street Journal'ın 2024'teki haberine göre OpenAI daha önce de bir metin filigranı geliştirmiş, ancak kısmen kullanıcıların filigran uygulamayan rakiplere geçebileceği endişesiyle yayımlamayı ertelemişti.

Anthropic, Google, Meta, Microsoft ve OpenAI, AB'nin yapay zekâ üretimi içeriklere ilişkin uygulama kurallarına uymayı taahhüt eden şirketler arasında yer alıyor.