OpenAI, ChatGPT ve Codex'e metin filigranı ekliyor

OpenAI, metin çıktılarına görünmez ve makine tarafından okunabilen bir filigran eklemeye başladığını duyurdu. Şirketin açıklamasına göre textGrain adı verilen filigranlama sistemi ilk etapta yalnızca Avrupa Birliği'ndeki ChatGPT ve Codex kullanıcılarına sunulacak. OpenAI, uygulamayı bu aşamada küresel varsayılan hâline getirmeyeceğini belirtiyor.

Filigran, metnin içine yerleştirilen ve insan gözüyle fark edilmeyen bir işaret olarak tanımlanabilir. Amaç, bir metnin yapay zekâ tarafından üretildiğinin teknik olarak tespit edilebilmesi. OpenAI'ye göre textGrain, Google DeepMind'ın metin için geliştirdiği SynthID gibi yaklaşımlarla karşılaştırıldığında "eşdeğer ya da daha iyi" sonuç verdi. SynthID, Anthropic'in ağustos ayında duyurduğu filigranlamanın da temelini oluşturuyor. Anthropic de bu adımı AB'nin Yapay Zekâ Yasası'nın gerekliliklerini karşılamak için atmıştı.

Üç aşamalı plan

OpenAI, filigranlamayı üç başlıkta hayata geçiriyor. Buna göre önümüzdeki haftalarda filigran, AB'deki tüm planlardaki uygun ChatGPT ve Codex kullanıcılarına sunulacak. Şirket, bu bölgesel yaklaşımın gerçek kullanımdan ve geri bildirimlerden öğrenmeye imkân tanıdığını söylüyor.

API müşterileri için ise dünya genelinde isteğe bağlı (opt-in) bir seçenek geliyor. Bugünden itibaren API müşterileri, seçili modellerde filigranlı metin çıktılarını tercih edebilecek. OpenAI, bulut iş ortaklarıyla da çalışarak filigranın önümüzdeki haftalarda bu hizmetler üzerinden erişilen model çıktıları için kullanılabilir hâle getirileceğini aktarıyor.

Araştırmacılar ve uzman kuruluşlar için de bir dedektör aracı sağlanacak. Onaylı araştırmacılar ve uzman kuruluşlar bugünden itibaren başvurabilecek. OpenAI, Davranış Kuralları doğrultusunda erişimin başlangıçta vaka bazında verileceğini belirtiyor. Araç, bir OpenAI filigranı tespit edip etmediğini bildirecek; ancak kullanıcıyı tanımlamayacak ve istemlerini ya da sohbetlerini açıklamayacak. Şirket, kaçırılan filigranlar ve yanlış pozitifler riski nedeniyle aracı bu aşamada kamuya açık hâle getirmeyeceğini söylüyor.

Filigranın sınırları

OpenAI, filigranlı ve filigransız metinlerin yapay zekâ karşılaştırma testlerinde benzer performans gösterdiğini belirten puanlar da paylaştı. Ancak şirket, textGrain'in "güvenilir tespiti garanti etmediğini" vurguluyor. Açıklamaya göre metin filigranları doğruluğu teyit etmiyor, metnin kime ait olduğunu belirlemiyor, bir insanın ne kadar katkıda bulunduğunu ölçmüyor ve insan yazarlığını kanıtlamıyor.