Endüstriyel yapay zekâda otonomi ile insan kontrolü nasıl dengelenecek?

Endüstriyel yapay zekânın tam otonom hale gelmesi için daha fazla test, doğrulama ve iyileştirme gerektiğini belirten AVEVA yöneticisi McGreevy, yakın vadede yapay zekânın danışman rolünde kalacağını söylüyor. Şirketlerin çoğu ise yapay zekânın hangi kararları tek başına alabileceğine dair kapsamlı kuralları henüz oluşturmadı.

MIT Technology Review'ın aktardığına göre McGreevy, otonom yapay zekânın izleyeceği yolu SCADA gibi endüstriyel teknolojilere benzetiyor. "SCADA'daki 'S' denetleyici anlamına gelir, denetleyici de ortada bir insan olduğu anlamına gelir" diyen McGreevy, öngörülebilir gelecekte yapay zekânın ağırlıklı olarak bu danışma modunda çalışacağını, tam otonominin ise dar ve yüksek tekrarlı görevlerle sınırlı kalacağını ifade ediyor.

Yapay zekâ otonomisi ile insan kontrolü nasıl dengeleniyor?

İnsan operatörlerin günlük işleri de değişiyor. Bir zamanlar tek bir üretim hattında ya da bakım görevinde uzmanlaşan çalışanlar artık birden fazla alanda sorumluluk alabiliyor. Rutin eylemleri tek tek onaylamak yerine kabul edilebilir çalışma sınırlarını tanımlamaya daha fazla zaman ayırıyorlar.

Yapay zekâ, aldığı verideki kalıpları pekiştirebildiği için hataları erken yakalamak işin temel parçası haline geliyor. İnsanın bilgi ve deneyimi, yapay zekânın ne gördüğünü ve ne yaptığını yorumlamada kritik rol oynuyor.

Şirketler yapay zekâ için hangi kuralları koyuyor?

Yönetişim tarafında tablo henüz net değil. AVEVA ve IMD'nin yakın tarihli araştırmasına göre kuruluşların yüzde 43'ü yapay zekânın ekosistem ortakları arasındaki karar alma ve hesap verebilirliği yalnızca az ya da hiç değiştirmediğini bildiriyor. Belirgin ya da köklü bir değişim yaşandığını söyleyenlerin oranı ise sadece yüzde 23. Ortaklarla veriyi önemli ölçüde paylaştığını belirtenlerin oranı da yüzde 27'de kalıyor.

Düzenleyiciler bazı kuralları tanımlamaya başladı. AB Yapay Zekâ Yasası, kritik altyapıda kullanılan belirli yapay zekâ güvenlik bileşenlerini yüksek riskli olarak sınıflandırıyor ve insan gözetimi şartı getiriyor. AVEVA da kendi yapay zekâ yönetişim kurulu ve yayımladığı ilkelerle bu alanda yapı oluşturan şirketler arasında.

Sahada hangi örnekler var?

Hâlihazırda çalışan yarı otonom sistemlerde gözetimin biçimi kurulumdan kuruluma değişiyor. Bazı durumlarda operatör her eylemi onaylıyor; bazılarındaysa yapay zekâ kendi başına hareket ederken insanlar onu izliyor ve çalışabileceği sınırları tanımlıyor. McGreevy, AVEVA müşterilerinden şu örnekleri veriyor:

• Saudi Aramco'nun Yanbu rafinerisinde optimizasyon algoritmaları üretimi kapalı bir döngüde ayarlıyor, operatörler gerektiğinde süreci izliyor. Ras Tanura rafinerisinde ise algoritmalar değişiklik öneriyor, uygulanıp uygulanmayacağına operatörler karar veriyor.
• Nestlé, Nesquik fabrikalarında toz içecek bileşenlerinin üretiminde kullanılan endüstriyel kurutucuları yapay zekâ optimizasyonuyla ayarlıyor. Örnek gösterilen testte bu ayar enerji kullanımını yüzde 16 azaltırken kalite ve verimi de artırdı.
• Tayland'daki SCG Chemicals, mühendislik, operasyon ve bakımı kapsayan yapay zekâ destekli bir dijital ikizle varlık sağlığını izliyor ve olası arızaları işaretliyor. Şirket yüzde 99 tesis güvenilirliği ve altı ay içinde dokuz kat yatırım getirisi bildiriyor.
• ABD'deki National Laboratory of the Rockies, şebeke kontrol odaları için üretken bir yapay zekâ modeli geliştirdi. Model, operatörlere yenilenebilir enerji tahmini ve şebeke koşullarına dair tahminlerde destek sağlıyor.

Neden önemli?

McGreevy'ye göre üretim ve kritik altyapı 50 yıldır birbirinden kopuk sistemler olarak işliyor. Yeni teknolojiler bu ayrımı aşacak fırsatlar yaratıyor. İşletme düzeyinde bu, robotik ve algılama teknolojilerini yapay zekâ destekli karar alma ile birleştiren fiziksel yapay zekâyı gündeme getiriyor. Boru hatları ve enerji hatları üzerinde uçan dronlar, görsel denetim verisini gaz kaçağı ve benzeri tehlikeleri saptayan algoritmalara aktarabiliyor. Bu hem daha doğru ve bağlantılı bir bilgi akışı sağlıyor hem de insanların tehlikeli olabilecek ortamlara fiziksel olarak girmesini önlüyor.

Daha geniş ölçekte ise McGreevy'nin "entegre değer zinciri" olarak adlandırdığı yaklaşım devreye giriyor. Ona göre yaşayan dijital ikizler tüm değer zincirinin dijital kopyalarını mümkün kılıyor ve şirketlerin tedarik zinciri, talep, tarifeler ve malzeme bulunabilirliğindeki değişimlere hızlı tepki vermesini sağlıyor. McGreevy, bugünün jeopolitik dalgalanmaları ve değişen düzenleme talepleri karşısında bu dayanıklılığın "mutlak bir gereklilik" olduğunu söylüyor.