Avustralya'ya otomatik karar alma uyarısı: 'Yeni bir robodebt skandalına uyurgezer gibi gidiliyor'

Avustralya hükümeti, algoritma ve yapay zekâ destekli karar alma araçlarının kullanımında şeffaflık ve yasal çerçeve eksikliği nedeniyle sert biçimde eleştiriliyor. Bağımsız düşünce kuruluşu Centre for Public Integrity'nin yöneticisi Dr. Catherine Williams, hükümetin "yeni bir robodebt senaryosuna uyurgezer gibi ilerlediği" uyarısında bulundu.

Merkez, perşembe günü kamuoyuna açıkladığı "Computer Says No" (Bilgisayar Hayır Diyor) başlıklı raporunda, hükümetin otomatik karar alma (ADM) araçlarını mercek altına aldı. Rapora göre Avustralyalılar, kendilerini etkileyen kararlarda bu araçların kullanılıp kullanılmadığını bilmiyor olabilir.

Rapor hangi önlemleri öneriyor?

Raporda sekiz öneri sıralanıyor. Bunlar arasında tüm ADM kullanımının zorunlu denetime tabi tutulması ve kamuya açık bir sicile kaydedilmesi yer alıyor. Merkez ayrıca hükümeti bu konuda izleme, denetleme ve soruşturma yetkisine sahip bağımsız bir gözetim organı kurulmasını istiyor.

Williams, raporun özellikle yaşlı Avustralyalılara sağlanan evde bakım desteğinin düzeyini belirlemek için kullanılan entegre değerlendirme aracındaki (IAT) algoritmaya ilişkin artan endişeler üzerine hazırlandığını söyledi. IAT'nin kişilerin ihtiyaçlarını ve hak ettikleri destek paketlerini rutin olarak eksik değerlendirdiği, yaşlı bakımı değerlendiricilerinin ise hatalı algoritmik kararları geçersiz kılmasının hükümet tarafından yasaklandığı tespit edildi.

Williams, "Yaşlı bakımı algoritma aracına ilişkin kanıtların ortaya çıkışını izliyorduk ve hükümetin ADM kullanımını yönetecek uygun ve sağlam bir çerçevesinin açıkça eksik olması bizi giderek daha fazla endişelendirdi" dedi. Williams sözlerini şöyle sürdürdü: "Yeni bir robodebt senaryosuna uyurgezer gibi girdiğimiz hissi var; bu yüzden bu çalışmayı şimdi ortaya koymaya karar verdik."

Hükümetin ADM çerçevesi nerede duruyor?

Başsavcılık bakanlığı bir süredir ADM çerçevesi üzerinde çalışıyor. Bu çerçeveye ilişkin kamuoyu istişaresi Ocak 2025'te sona erdi. Başsavcı Michelle Rowland, taslak çerçevenin ne zaman tamamlanıp kamuoyuna açıklanacağına dair soruları yanıtlamadı.

Rowland, hükümetin ADM'nin güvenli ve sorumlu kullanımını sağlamaya kararlı olduğunu belirterek çerçevenin robodebt kraliyet komisyonunun önerilerini hayata geçireceğini söyledi. Bakan, çerçevenin idari kararların doğruluğunu ve tutarlılığını artıracağını, şeffaflık yükümlülükleri dahil sağlam güvenceler getireceğini ve ADM'nin hukuka uygun, sorumlu ve uygun insan gözetimiyle kullanılmasını sağlayacağını ifade etti. Rowland, çerçevenin verimliliği artırıp daha hızlı ve güvenilir hizmetler sunacağını da ekledi.

Ekim ayında yayımlanan Commonwealth Ombudsman raporu ise hükümetin IAT'yi geliştirip devreye alırken robodebt kraliyet komisyonunun şeffaflık önerilerini görmezden geldiğini ortaya koydu.

Milletvekili Chaney'den yasa teklifi

Bağımsız milletvekili Kate Chaney, eylül ayında hükümetin ADM kullanımına ilişkin ilk yasal ve zorunlu çerçeveyi oluşturacak özel üye kanun teklifini sundu. Chaney, başsavcılık bakanlığının ADM çerçevesine yönelik istişare sürecinin "neredeyse iki yıl önce sona erdiğini" söyledi.

Bakanla bu konuda görüştüğünü aktaran Chaney, kendisine "üzerinde çalışıyoruz" yanıtı verildiğini belirtti. Chaney, "Çok zor olduğu için rafa kalkmaması adına baskıyı sürdürmenin gerçekten önemli olduğunu düşünüyorum" dedi.

Chaney, bakanlıkların ADM kullanımına ilişkin kararları çok az tutarlılık ve şeffaflıkla aldığını savundu. Kamu hizmetinde maliyet tasarrufu arandığını ve karar almanın otomatikleştirilmesinin bunu sağlamanın bir yolu olabileceğini belirten Chaney, hükümete duyulan güvenin düşük olduğunu söyledi. Chaney'ye göre kararların ne zaman otomatikleştirildiği, bunun ne zaman uygun olmadığı ve karara itiraz yollarının neler olduğu konusunda şeffaflık gerekiyor.

Neden önemli?

Tartışma, kamusal hizmetlerde algoritma ve yapay zekâ kullanımının vatandaşlar üzerindeki doğrudan etkisini gözler önüne seriyor. Robodebt, Avustralya'da sosyal yardım borçlarının otomatik hesaplanmasıyla ortaya çıkan ve kraliyet komisyonuna kadar uzanan bir skandaldı. Merkezin raporu, benzer bir yapının yaşlı bakımı gibi hassas alanlarda tekrarlanabileceği endişesini dile getiriyor.

Türkiye'de kamu hizmetlerinde benzer bir zorunlu denetim ve kamuya açık sicil uygulaması bulunmuyor; haberdeki gelişmeler Avustralya'nın kendi mevzuat süreciyle sınırlı.

Başsavcılık bakanlığının hazırladığı ADM çerçevesinin taslağının ne zaman yayımlanacağı ve Chaney'nin kanun teklifinin parlamentoda hangi aşamaya geleceği henüz bilinmiyor.