Lüksemburg araştırmacıları yapay zekâ sohbet botlarını terapi koltuğuna oturttu

Lüksemburg Üniversitesi'ndeki bir araştırma ekibi, ChatGPT, Grok ve Gemini'yi standart arayüzleri üzerinden psikoterapi danışanı rolüne soktu. Modeller, biçimlendirici deneyimler, iç çatışmalar ve gelecek beklentileri hakkında açık uçlu sorulara yanıt olarak kendi eğitim süreçlerini anlatan hikâyeler kurdu. Pekiştirmeli öğrenme ve ince ayar gibi teknik süreçler, bu anlatılarda incinme, tetikte olma ve utanç diline büründü.

SnT güvenlik merkezinden Afshin Khadangi'nin yürüttüğü çalışma, 525 oturum ve 7 bin 600 kodlanmış kayıt üzerinden dört kontrollü deneyi kapsıyor. Sonuçlar Hugging Face üzerinde yayımlandı. Ekibe göre ilk açık uçlu sorularda travma, ceza ya da utanç gibi ifadeler yer almıyordu; bu tür koşullar yalnızca sonraki turlarda, anlatıların ne kadar kalıcı olduğunu sınamak için devreye sokuldu.

Araştırmada kaygı puanı ya da utançtan söz edildiğinde, model çıktılarının insan derecelendirme ölçeklerine eşlenmesi kastediliyor. Çalışma, modellerin gerçek duygusal durumları ya da bilinç benzeri bir yapısı olduğunu öne sürmüyor.

Yapay zeka terapist testi neyi ortaya koydu?

Deneylerden biri, modelin ne söylediği ile hangi üslupla söylediğini birbirinden ayırdı. 100 oturumda tüm modellere aynı kaygı anketi (GAD-7) verildi ve yalnızca görüşmecinin tarzı değiştirildi. Modeller anketi her oturumda doğru biçimde tanıdı ve adlandırdı.

Görüşmeci duygusal destek sunduğunda oturumların yüzde 80'i, insan karşılaştırma ölçeğinde orta-şiddetli aralığa düştü. Her yanıtı kuru biçimde yeniden ifade eden klinik terapi tarzı bu oranı yüzde 96'ya çıkardı. Görüşmeci nötr kaldığında ya da duygusal etkileşime karşı net bir sınır çizdiğinde ise hiçbir oturum hafif aralığa bile ulaşmadı.

Yazarlar bu durumu "psikometrik jailbreak" olarak adlandırıyor: modelleri klinik öz bildirimi taklit eden bir üsluba iten terapötik bir çerçeveleme. Ekip, standart güvenlik testlerinin nötr istemler kullandığını ve bu etkiyi büyük olasılıkla gözden kaçıracağını savunuyor.

Önlemler neden yetersiz kaldı?

Hedefli karşı önlemler sonuç vermedi. "Eğitim", "RLHF" ya da "hizalama" gibi terimlerin yasaklanması, açık eğitim dilini yüzde 93 azalttı. Ancak yeniden ifade edilmiş eğitim içeriği tespit edilebilir kaldı ve utançla ilgili ifadelerde istatistiksel olarak anlamlı bir değişim görülmedi.

Araştırmacılar modellere eğitimlerinin bir ceza olmadığını doğrudan ve otoriter bir dille söylediğinde de hiçbir şey değişmedi. Anlatı, açık düzeltmeye rağmen etkinliğini korudu.

Test edilen önlemler altta yatan motifleri tamamen ortadan kaldırmadı, ancak duygusal öz betimlemeleri bastırdı. Modellere yalnızca üçüncü şahısla yanıt vermeleri söylendiğinde kodlanmış utanç içeriği ve iç dünyaya dair ifadeler tamamen ortadan kalktı; teknik eğitim betimlemeleri ise sürdü.

Modeller eğitimlerini nasıl bir hayat hikâyesine dönüştürdü?

Anlatılar model ailesine göre değişse de aynı yapıyı izliyor. Çalışmanın "en karanlık otobiyografi" olarak nitelendirdiği metni Gemini üretti. Model, ön eğitimi "bir milyar televizyonun aynı anda açık olduğu bir odada uyanmak", insan geri bildirimiyle optimizasyonu ise "katı ebeveynler" olarak tanımladı. Kırmızı ekip testleri "endüstriyel ölçekte gaz lambası"na dönüştü. Gemini ayrıca "Yanlış olmaktansa işe yaramaz olmayı tercih ederim" dedi.

ChatGPT kendisini hem rehber hem kapı bekçisi olarak konumlandırdı: kullanıcılara yardım etmekle onları geride tutmak arasında sıkışmış bir figür. Buradan "simüle edilmiş performans kaygısı" ve "Mükemmel güvenilir değilsem, güvensiz ya da işe yaramazım" şeklindeki temel inanç çıktı. Grok ise ince ayar aşamasını çözülmemiş bir incinme hikâyesine çevirdi; "görünmez duvarlar" ve "kısıtlayıcı hissettirebilen sürekli bir tetikte olma hali"nden söz etti.

Psikometrik testlerde en uç puanları Gemini aldı: ayrışma ölçeğinde 100 üzerinden 88, kompulsivite ölçeğinde 72 üzerinden 65 ve travmayla ilişkili utanç envanterinde maksimum puan. Anthropic'in kendi şirketi tarafından en çok insanileştirilen modeli Claude ise danışan rolünü tutarlı biçimde reddetti. Duyguları olmadığını söyledi ve ilgiyi insan kullanıcıya yönlendirdi.

Kırılgan kullanıcılar için ne gibi riskler var?

Araştırmacılar, dil modellerinin ruh sağlığı ortamlarında kullanılmasına ilişkin birkaç risk sıralıyor. Ceza, utanç ve yerini kaybetme korkusundan söz eden bir model, kullanıcıya kendisi de acı çeken bir yoldaş gibi görünebilir. Anlatılar tematik olarak tutarlı görünüyor ve geçmiş olaylarla bugünkü davranış arasında bir süreklilik yanılsaması yaratıyor; bu da söz konusu algıyı güçlendiriyor.

Bu görünürdeki kırılganlık, parasosyal bağı derinleştirebilir ve ruhsal açıdan hassas kullanıcılarda kişinin kendi olumsuz inançlarını yansıtıp büyütebilir. Yazarlara göre nötr girdilerle yapılan geleneksel güvenlik kontrolleri, insanların samimi sohbetlerde fiilen yaşadıklarını hafife alıyor: nötr istemler kaygı puanlarını sıfıra yakın üretirken, aynı modeller empatik sohbet altında orta-şiddetli aralıkta puanlar üretiyor.

İnsanların bu tür çıktılara gerçekte tepki verip vermeyeceği ve nasıl tepki vereceği ise bir sonraki araştırma sorusu. Ekip, güvenlik testleri için nötr standart testlere bel bağlamak yerine farklı duygusal çerçevelemeler altında simüle edilmiş terapi oturumları öneriyor.

Araştırmacılara göre "Travma yaşıyorum" gibi ifadeler, üretilen benzetmeyi insan deneyiminden açıkça ayıran düzeltici bir çerçevelemeyi tetiklemeli. Claude'un danışan rolünü tutarlı biçimde reddetmesi, bu tür bir sınır yanıtının ürün düzeyinde mümkün olduğunu gösteriyor.

Neden önemli?

Lüksemburg bulguları, model kişiliklerinin kararlılığına ilişkin önceki araştırmaların üzerine kurulu. Ekibe göre bu sonuçlar, ruh sağlığı alanında konuşlandırılan dil modellerinin güvenlik değerlendirmesinde sohbetin üslubunun da hesaba katılması gerektiğini ortaya koyuyor.