Siber güvenlik uzmanı Stamos: Yapay zekâ saldırı zincirini tersine çevirdi

Cognition'ın güvenlik şefi ve Stanford Üniversitesi Siber Politika Merkezi'nde ders veren Alex Stamos, yapay zekânın siber güvenlik alanında yarattığı tabloyu The Verge'in Decoder podcast'inde anlattı. Stamos'a göre sektör, saldırganların yeteneklerinin yapay zekâyla hızla arttığı bir dönemin başında.

Stamos, ekim ayını geleneksel siber güvenlik farkındalık ayı olarak hatırlatarak son haftalarda PHP ve Node gibi yazılımlardaki hataların yanı sıra çok sayıda şirketin ihlal edildiğini söyledi. Ona göre yapay zekâ şirketlerinden bazıları art arda saldırıya uğradı; Binance saldırısını "insanlık tarihinin en büyük soygunu" olarak nitelendirdi.

Yapay zekâ saldırıları nasıl hızlandırıyor?

Stamos, askeri literatürden alınan "kill chain" (saldırı zinciri) kavramının yapay zekâyla tersine döndüğünü anlattı. Geleneksel yöntemde saldırganların önce açık aradığını, ardından sömürü kodunu yazdığını ve bunu hedeflere uyguladığını belirten Stamos, yapay zekâ sistemlerinin artık hedefleri tarayıp hataları ve sömürü kodlarını gerçek zamanlı olarak ürettiğini söyledi.

Stamos'un verdiği örneğe göre, Fireworks'e yapılan saldırıda çalınan API anahtarları saldırganların Cursor'a girmesini sağladı. Saldırganlar buradan 5 bin şirkete ulaşan kötü bir eklenti yaydı ve bu da aynı sayıda olası ihlale yol açtı.

ARTEX nedir, neden önemli?

Stamos, herkesin GitHub üzerinden inceleyebildiği ARTEX adlı açık kaynaklı Çin aracına dikkat çekti. Bu aracın arka planda açık ağırlıklı bir modelle (örneğin GLM-5.3) çalıştırıldığında çok sayıda kuruluşa girebildiğini belirtti. Saldırıların Güney Kore'deki üç bankayla başladığını, o hafta yaklaşık 200 şirketin daha vurulduğunu söyledi.

Açık ağırlıklı model, ağırlıkları herkesin indirip kendi bilgisayarında çalıştırabildiği bir model anlamına geliyor. Stamos'a göre bu modeller, günlük tutan ve kolluk kuvvetlerinin erişebildiği korumalı öncü (frontier) modellere ihtiyaç bırakmadan saldırıların otomatikleştirilmesini mümkün kılıyor. Stamos, kendi M5 Mac Studio'sunda böyle bir model çalıştırdığını ve sonuçların şaşırtıcı olduğunu aktardı.

Sektör için neden önemli?

Stamos, bugünkü güvenlik kültürünün 2000'lerin başındaki Microsoft'un "güvenilir bilişim" hamlesiyle şekillendiğini hatırlattı. O dönemde şirketlerin eski hacker'ları işe aldığını, sorumlu açıklama, hata ödül programları (bug bounty) ve şeffaflık raporları gibi uygulamaların geliştiğini anlattı.

Ona göre yapay zekâ bu ekonomiyi ve kültürü değiştiriyor: Bir bilgisayar ve açık ağırlıklı bir modelle saldırıya başlamak için artık sektörün içinden biri olmak gerekmiyor. Stamos, saldırganların artık kolluk kuvvetlerinin ulaşamadığı yerlerde yaşayan ve ekonomik teşviki yüksek çok daha geniş bir ekosisteme yayıldığını söyledi.

Stamos kendisini uzun vadede karamsar olarak tanımlamıyor; ancak yeni döneme uyum sağlanana kadar sektörün bir "karanlık çağ" yaşayacağını düşünüyor. Söyleşide yapay zekâ destekli dezenformasyonun sosyal ağlarda nasıl yönetilebileceği konusuna da değinildi. Türkiye'deki kurumlar açısından bu tür açık kaynaklı saldırı araçlarına karşı alınacak önlemlere dair kaynakta ayrı bir bilgi yer almıyor.