Claude tabanlı ajan, fare beyninde gen terapisini kendi seçip uyguladı

Claude Sonnet 5 üzerinde çalışan bir yapay zekâ ajanı, epilepsi modeli bir farenin beyninde uygulanacak gen terapisini kendisi seçti ve ameliyatı motorsuz cerrahi düzeneği üzerinden yönetti. Exin Therapeutics'in kurucu ortağı ve CEO'su, aynı zamanda Oxford Üniversitesi'nde doktora öğrencisi olan Gabriel Ocana-Santero'ya göre bu, bir yapay zekâ ajanının hem tedaviyi seçtiği hem de uyguladığı ilk canlı memeli deneyi.

Ocana-Santero, prosedürü X üzerinden paylaştığı bir gönderi dizisinde anlattı. Ekibin ajana verdiği tek talimat, nöbetleri azaltmaktı. Ajanın elinde 19 olası gen terapisi, nöbet geçirmesi sağlanarak tedavilerin test edildiği bir fare modeli ve kameralarla donatılmış özel bir motorlu cerrahi cihaz vardı. Sonuçlar henüz hakem değerlendirmesinden geçmedi; teknik bir raporun yayımlanması bekleniyor.

Claude ajanı tedaviyi ve hedef bölgeyi nasıl seçti?

Ajan önce bu fare modelinde nöbetlerin nasıl ortaya çıktığını inceledi, ardından beyindeki belirli bir inhibisyon sinyal yolunu güçlendiren bir terapi önerdi. Bilimsel literatürün bu tür nöbetlerin çıkış noktası olarak tanımladığı beyin yapısını hedef aldı.

İkinci bir olası hedef bölgeyi ayrıntılı bir gerekçeyle reddetti. Gerekçesine göre bu bölgenin etkileri fazla güvenilmezdi ve bölge, tam olarak tedavi edilmesi gereken nöbet tipine karşı yapılan bir çalışmada başarısız olmuştu. Ajan enjeksiyon koordinatlarını üç bilimsel makaleden türetti, referans noktalarını çapraz kontrol etti ve değerlerin ortalamasını aldı. Enjeksiyon hacmini, hızını ve bekleme sürelerini de kendisi belirledi.

Ocana-Santero'ya göre ajan ameliyat boyunca cerrahi alanı kameradan izledi ve 32 gözlem yaptı. Enjeksiyonu takip etti ve kanama görüp görmediğini bildirdi.

Güvenlik önlemleri ameliyatın ortasında sorun çıkardı

Lisanslı bir veteriner hekim her geri dönüşü olmayan adımı onayladı ve tüm motorların gücünü anında kesen fiziksel bir acil durdurma düğmesini elinde tuttu. Sistem ayrıca ajanın kesinlikle aşmasının yasak olduğu enjeksiyon hacmi sınırı gibi sabit kısıtlamaları uyguluyordu.

Ancak bu korumalar ekibin aleyhine döndü. Bir bağlantı koptuktan sonra ajan, hesapladığı hedef konumun cihazın fiziksel hareket aralığının dışında kaldığını tespit etti ve ilerlemeyi reddetti. Kalibrasyonu yeniden başlatmak değerlendirmesini değiştirmedi, üçüncü deneme de sonuç vermedi.

Ajan haklıydı: Daha önceki bir duraklama sırasında yapılan manuel ayarlar kontrol sistemini şaşırtmıştı. Ocana-Santero, ameliyat masasında anestezi altında bir hayvan varken ajanı devam etmeye ikna edemedi ve kodu elle düzeltmek zorunda kaldı.

Olay, yapay zekâ ajanlarının insan niyetine güvenilir biçimde uymasını sağlama sorunu olan hizalama problemini gözler önüne seriyor. Ocana-Santero, "Sinir bozucu bir deneyimdi ama bu modellere ne kadar bağımlı hale gelebildiğimizi ve zaman açısından kritik bir prosedürün ortasında 'hayır' dediklerinde ne olduğunu da gösterdi" diye yazdı.

Model seçimi de hizalama sorununu yansıttı. Canlı prosedürü baştan sona yürütmeyi kabul eden tek model Sonnet 5 oldu. Daha yetenekli modeller olan Claude Opus 5.5 ve Opus 5 işlemi reddetti. Opus 5, tamamlanmasını garanti edemeyeceğini, anestezi altındaki bir hayvanın beyninde iğne varken durmanın hiç başlamamaktan daha kötü olacağını söyledi.

Neden önemli?

Otonom cerrahi robotlar zaten var ve mekanik olarak Ocana-Santero'nun laboratuvar cihazından daha hassas çalışabiliyor. Ancak önceki örneklerde ameliyatı her zaman bir insan seçiyor, robot yalnızca uyguluyordu. Bu deneyde ajan hem tedaviyi hem beyin hedefini seçti, ardından prosedürü canlı bir hayvan üzerinde gerçekleştirdi.

Ocana-Santero, "Daha önce bir ajanın bir tedaviyi ve beyin hedefini seçip bunu canlı bir memeliye uyguladığını bilmiyorum" diye yazdı. Yaklaşımı, yapay zekâ ajanlarının laboratuvardaki deneysel yeteneklere tam olarak bağlandığı "in vivo lab in the loop" olarak adlandırıyor. Anthropic'in de "Model Hardware Standard" çalışmasıyla benzer bir yönde ilerlediğini belirtiyor.

Fare, Ocana-Santero'ya göre iyi toparlandı. Deneyde kullanılan düzenek ve yöntemin ayrıntıları, yayımlanacak teknik raporda yer alacak. Sonuçlar hakem değerlendirmesinden geçmediği için ajanın seçtiği tedavinin nöbetleri ne ölçüde azalttığı henüz bağımsız olarak doğrulanmadı.