Georgia Tech, telefonlarda silinen yapay zekâ sohbetlerini kurtaran bir araç geliştirdi

Georgia Tech araştırmacıları, Android telefonlarda yerel olarak çalıştırılan yapay zekâ asistanlarıyla yapılan ve silinen sohbetleri kurtarabilen deneysel bir araç geliştirdi. ORISA adı verilen araç, telefonun çalışma belleğinde kalan izleri tarayarak silinmiş konuşmaları yeniden oluşturuyor. Araştırmacılar, aracın özellikle siber suç incelemelerinde delil toplamaya yardımcı olabileceğini belirtiyor.

Aracın geliştirilme gerekçesi, yerel yapay zekâ kullanımının sunduğu gizlilik vaadiyle yakından ilgili. Gizliliğine önem veren kullanıcılar, verileri buluta gönderilmediği için asistanları cihaz üzerinde çalıştırmayı tercih ediyor. Ancak araştırmacıların paylaştığı bulgular, silinen sohbetlerin telefonun çalışma belleğinde bir süre daha kalabildiğini gösteriyor.

ORISA nasıl çalışıyor?

Araştırma ekibi, deney için ChatterUI Android uygulamasıyla kurgusal bir not tutma asistanı hazırladı. Asistana bir projeyle ilgili 100 kurgusal bilgi parçası verildi ve ardından bu bilgiler silindi. ORISA daha sonra cihaz belleğini tarayarak oturumu yeniden başlatmakta kullanılabilecek kalıntıları aradı.

Araç, 100 bilgi parçasından 26'sını yeniden oluşturmaya yetecek kadar kullanılabilir veri buldu. Bu sayı, özgün asistan oturumunun erişebildiği 14 bilgiden daha fazla. Araştırmacılar bunu, oturumun ilk halindeki diğer bilgilerin "aktif belleğinin dışına düştüğü" şeklinde açıkladı.

Araştırmacılar, ORISA'nın süreç belleğinde korunan batch token'ları ve anahtar-değer (KV) önbelleklerini kullanarak token dizilerini yeniden kurduğunu ve oturum düzeyindeki dikkat durumlarını geri yüklediğini yazdı.

Silinen yapay zekâ sohbetleri kimin işine yarayacak?

Araştırma ekibi, ORISA'yı siber güvenlikteki bir boşluğu doldurmak için geliştirdiklerini belirtiyor. Yerel yapay zekânın merkezi kayıt ve denetim mekanizmalarından yoksun olması, kötü niyetli kişilerin modelleri suç amacıyla ince ayardan geçirip ardından kanıtları silerek iz bırakmamasına olanak tanıyabiliyor. Araştırmacılara göre bu durum, adli bellek teknikleriyle delil arayan soruşturmacıların işini zorlaştırıyordu.

Çalışmanın baş yazarı ve doktora öğrencisi Ken Xu, aracın işlevini "Birinin bir yapay zekâ asistanıyla hangi bilgileri paylaştığını ve ne tür bir yardım aldığını ortaya koymaya yardımcı olabilir" sözleriyle anlattı.

Kullanıcılar için ne anlama geliyor?

Araştırmacılar, ORISA'nın öncelikle siber suçla mücadele edenler için anlamlı olduğunu vurguluyor. Yine de söz konusu teknolojiyi yeniden geliştiren ya da araca erişim sağlayan kötü niyetli kişilerin, teoride silinmiş sohbetlerdeki bilgileri toplayarak sorguları yeniden oluşturmak için kullanabileceği belirtiliyor.

Aracın etkinliği zamana da bağlı. Araştırmacılar, telefon belleğinin yeni etkinliklerle üzerine yazılması nedeniyle silinen bilgileri kurtarmanın zaman geçtikçe zorlaştığını kaydediyor.

Neden önemli?

Bulgular, cihaz üzerinde çalışan yapay zekâ asistanlarının sağladığı gizliliğin sanıldığı kadar mutlak olmadığını ortaya koyuyor. Araştırma, yerel oturumlarda paylaşılan bilgilerin silindikten sonra bile bir süre erişilebilir kalabileceğini gösteriyor. Türkiye'deki kullanıcılar açısından da yerel yapay zekâ uygulamalarının yaygınlaşmasıyla birlikte bu tür araçların adli bilişim pratiklerine etkisi tartışılabilir. ORISA'nın ticari bir ürüne dönüşüp dönüşmeyeceğine ya da ne zaman kullanıma açılacağına ilişkin bir açıklama ise henüz bulunmuyor.

Araştırma ekibi, kullanıcılara yönelik uzun süredir geçerli olan uyarıyı yineliyor: Yerel bir oturumda bile olsa sohbet botlarıyla hassas bilgi paylaşılmamalı.