AWS, yapay zekâ ajanları için 'Trust in Depth' güven katmanını tanıttı

AWS, kurumsal yapay zekâ ajanlarının insan onayına takılmadan daha fazla işi kendi başına yapabilmesini sağlayacak yeni bir güven yaklaşımını duyurdu. Şirketin Trust in Depth adını verdiği yaklaşım, ajanların yalnızca doğrulanabilen eylemleri özerk biçimde yürütmesini, insan kararının ise gerçekten ihtiyaç duyulan noktalara ayrılmasını hedefliyor.

AWS Machine Learning Blog'da yayımlanan yazıya göre şirket, içerik filtreleme, test ve izleme gibi mevcut yöntemlerin tek başına bir ajanın bir sonraki çalışmasında doğru davranacağını garanti edemediğini belirtiyor. Bunun yerine, güvenliği birbirini destekleyen bağımsız katmanlara dayandıran ve sektörde yirmi yıldır kullanılan "Defense in Depth" (derinlemesine savunma) disiplinine benzer bir yapı öneriliyor.

Trust in Depth nedir, hangi katmanlardan oluşuyor?

AWS, yaklaşımı ajanın yaşam döngüsündeki farklı anlara karşılık gelen dört katmana ayırıyor. Scope katmanı ajan çalışmadan önce ne için var olduğunu, hangi yeteneklere ihtiyaç duyduğunu ve asla ne yapmaması gerektiğini tanımlıyor. Know katmanı devreye alınırken ajanı kimin yetkilendirdiğini ve hangi kimlikle hareket ettiğini kayda geçiriyor. Bound katmanı çalışma sırasında eylemlerin belirlenen sınırlar içinde kalıp kalmadığını kontrol ediyor. Observe katmanı ise her çalışmadan sonra ajanın ne yaptığının ve neden yaptığının yeniden kurulabilmesini amaçlıyor.

Otomatik akıl yürütme ajanlara nasıl uygulanıyor?

Yazıya göre bazı gereksinimler kesin kurallara dönüştürülebiliyor, bazıları ise insan muhakemesi gerektiriyor. Örneğin "yalnızca bir yönetici erişimi onaylayabilir" kuralı kanıtlanabiliyor; ancak "samimi bir üslup koru" gibi bir beklenti bağlama bağlı kalıyor.

AWS, kesin olarak tanımlanabilen kurallar için otomatik akıl yürütmeyi (automated reasoning) kullanıyor. Bu yöntem, bir kuralın mümkün olan her durumda geçerli olup olmadığını matematiksel mantıkla kontrol ediyor ve kuralın başarısız olduğu tam durumu ortaya çıkarabiliyor. Şirket, bu teknolojiyi on yılı aşkın süredir üretimde kullandığını, AWS Identity and Access Management (IAM) üzerinde saniyede 2,1 milyardan fazla istekte, AWS Nitro Hypervisor, Amazon S3 Block Public Access ve VPC Reachability Analyzer gibi sistemlerde uyguladığını belirtiyor.

Kesin biçimde ifade edilemeyen kurallar için ise ajanın erişimi ve eylemleri sınırlandırılıyor, davranışı değerlendiriliyor ve gerçek belirsizlikler bir kişiye yönlendiriliyor. AWS'ye göre özerklik, ilgili kuralların uygulandığı, ajanın görevde güvenilir performans gösterdiği ve hataların tespit edilip yönetilebildiği ölçüde artırılıyor.

Hangi AWS araçları devreye giriyor?

Scope aşamasında Kiro adlı ajan tabanlı kodlama sistemi, üst düzey niyeti yapılandırılmış gereksinimlere dönüştürüyor ve kod yazılmadan önce çelişkileri, belirsizlikleri ve boşlukları otomatik akıl yürütmeyle ortaya çıkarıyor. Strands ise bir ajanın modelini, talimatlarını ve araçlarını tanımlamak için açık kaynaklı bir araç seti sunuyor.

Amazon Bedrock AgentCore bünyesindeki Policies özelliğiyle ekipler, ajanın hangi araçlara, API'lere ve verilere erişebileceğini düz bir dille tanımlıyor; otomatik akıl yürütme bu politikayı yürürlüğe girmeden önce aşırı yetki veren kurallar veya hiçbir zaman karşılanamayacak çelişkiler için kontrol ediyor.

Know aşamasında AWS Agent Registry, kuruluştaki ajanları, Model Context Protocol (MCP) sunucularını, araçları ve yetenekleri onay iş akışlarıyla yönetilen bir katalogda topluyor. AgentCore ise her ajana kendi kimliğini veriyor ve her istekte bu kimliği kontrol ediyor.

Bound aşamasında politika, AgentCore Gateway üzerinden yönlendirilen her araç çağrısında uygulanıyor. AWS'ye göre bu denetim ajanın akıl yürütme sürecinin dışında çalıştığı için ajan hatalı olsa, manipüle edilse ya da bir prompt injection saldırısına maruz kalsa bile kendi çalıştırmadığı bir kontrolü devre dışı bırakamıyor. Amazon Bedrock Guardrails ise ajanın söylediklerini ve kendisine söylenenleri yönetiyor; zararlı veya konu dışı içeriği filtreliyor, hassas verileri maskeliyor.

Türkiye'deki kurumlar için ne anlama geliyor?

Kaynak metinde Trust in Depth'in Türkiye'de ne zaman kullanıma açılacağına dair bir takvim paylaşılmıyor. Yaklaşım, AWS'nin küresel bulut hizmetleri üzerinden sunduğu Kiro, Strands, Amazon Bedrock AgentCore, AWS Agent Registry ve Amazon Bedrock Guardrails gibi ürünlere dayanıyor. Bu araçların Türkiye'deki erişilebilirliği AWS'nin bölgesel hizmet sunumuna bağlı.