J-36 mühendislerinden yapay zekâ uyarısı: Uydurma veriler savaş planlarını yanıltabilir

Çin’in yeni nesil J-36 savaş uçağı programında görev alan mühendisler, yapay zekâ modellerinin radar sistemleri, silah kabiliyetleri ve askeri operasyonlara ilişkin gerçeğe aykırı veriler üretebileceği uyarısında bulundu. Son derece gerçekçi görünen bu tür hataların fark edilmemesi halinde uçak tasarımından istihbarat analizlerine kadar kritik karar süreçlerinin yanlış yönlendirilebileceği belirtildi.

Uyarı, J-20 savaş uçağının geliştirilmesinin arkasındaki kuruluş olan ve J-36 programında da görev alan AVIC Chengdu Aircraft Research and Design Institute bağlantılı mühendislerden geldi. Konuya ilişkin değerlendirmeler, Çin’in devlete ait savunma şirketi Norinco tarafından işletilen Information Studies: Theory & Application dergisinde 20 Haziran’da yayımlanan bir makalede yer aldı.

SAVAŞ UÇAĞI TASARIMINDA KRİTİK VERİLER

Bir savaş uçağının geliştirilmesi, yalnızca gövde ve motor tasarımından ibaret değil. Tasarım sürecinde düşmana ait radarların kapsama alanı, kullandığı çalışma frekansları, füze angajman bölgeleri, elektronik harp kapasitesi, erken ihbar uçaklarının konumları ve kara konuşlu hava savunma sistemleri gibi çok sayıda verinin analiz edilmesi gerekiyor.

Bu bilgiler; uçağın radar ve sensör yapısından gizlilik özelliklerine, manevra kabiliyetinden muharebe menziline kadar temel teknik kararları doğrudan etkiliyor. Dolayısıyla analiz sürecine giren tek bir yanlış veri bile uçağın operasyonel özelliklerinin değerlendirilmesinde veya görev planlarının oluşturulmasında zincirleme hatalara yol açabiliyor.

YAPAY ZEKÂ UÇAK ÖZELLİKLERİNİ UYDURABİLİYOR

Chengdu uçak tasarım kuruluşuyla bağlantılı mühendis Zhang Xianzhe, büyük dil modellerinin son derece inandırıcı görünen ancak gerçekte var olmayan bilgiler üretebildiğini belirtti. Bu kapsamda yapay zekâ; bir savaş uçağının boyutları, taşıma kapasitesi, silah kabiliyetleri, azami hızı ve muharebe yarıçapı hakkında yanlış bilgiler oluşturabiliyor.

Risk, yalnızca uçağın genel teknik özellikleriyle sınırlı kalmıyor. Modellerin radar tarama mesafeleri, radarların kullandığı frekans bantları ve farklı silah sistemlerinin performansı hakkında da gerçeğe aykırı veriler üretebileceği ifade edildi. Bu bilgilerin teknik açıdan tutarlı görünmesi, hatanın ilk aşamada fark edilmesini zorlaştırıyor.

GERÇEKÇİ GÖRÜNEN HATALAR YANILTABİLİR

Yapay zekâ tarafından oluşturulan yanlış içerikler, basit bir yazım hatası gibi ortaya çıkmayabiliyor. Aksine model, gerçek askeri terminoloji ve teknik ifadeler kullanarak hatalı bilgiyi düzenli, ayrıntılı ve ikna edici bir rapor biçiminde sunabiliyor.

Bu nedenle analistler veya mühendisler, teknik açıdan tutarlı görünen bir çıktıyı gerçek istihbarat verisi olarak değerlendirebiliyor. Yanlış bilginin simülasyonlara, tasarım çalışmalarına ya da operasyon planlarına aktarılması ise karşı tarafın radar ve hava savunma kapasitesinin hatalı hesaplanmasına neden olabiliyor.

MÜHENDİSLİK KARARLARINDA DA RİSK VAR

Zhang Xianzhe’nin değerlendirmesine göre yapay zekâ, yalnızca istihbarat verilerini değil, doğrudan mühendislik kararlarını da yanlış yönlendirebilir. Modeller, yeterli dayanıklılığa sahip olmayan malzemeleri önerebilir veya aerodinamik açıdan mümkün olmayan manevraları uygulanabilir seçenekler gibi sunabilir.

Bunun yanında bir uçağın operasyonel menzilini aşan görev planlarının hazırlanması da mümkün. Kâğıt üzerinde ayrıntılı ve mantıklı görünen bir plan, gerçek uçuş koşulları ve uçağın fiziksel sınırlarıyla karşılaştırılmadığında uygulanabilir olmayan sonuçlar doğurabilir.

ASKERİ İSTİHBARATTA SAHTE ÜS VE BİRLİK RİSKİ

Uyarının bir diğer boyutunu askeri istihbarat oluşturuyor. Yapay zekâ modellerinin gerçekte bulunmayan üsler, birlikler ve birlik hareketleri oluşturabileceği belirtildi. Bu tür veriler gerçek istihbarat unsurlarıyla ayırt edilmeden kullanılırsa karşı tarafın askeri kapasitesi ve sahadaki hareketliliği hakkında tamamen hatalı değerlendirmeler yapılabilir.

Söz konusu yanlış bilgiler simülasyon sistemlerine aktarıldığında hata daha geniş bir alana yayılabilir. Birliğin konumu, hava savunma yoğunluğu veya radar kapsama alanı yanlış kabul edildiğinde, buna dayalı sonraki analizlerin de aynı hatalı varsayımı sürdürmesi mümkün hale geliyor.

İNSAN DENETİMİ TEK BAŞINA YETERLİ OLMAYABİLİR

İnsan analistlerin son kararı vermesi, yapay zekâ kaynaklı hataların azaltılmasında önemli bir güvenlik katmanı olarak görülüyor. Ancak yapay zekâ sistemlerinden alınan bilgi ve önerilerin hacmi arttıkça, her bir çıktının ayrıntılı biçimde kontrol edilmesi daha zor hale geliyor.

Bu durum özellikle yüksek miktarda teknik verinin kısa sürede incelenmesi gereken savunma projelerinde dikkat çekiyor. İnsan denetimi devam etse bile, doğrulama süreci yeterince kapsamlı yürütülmediğinde yapay zekânın ürettiği hatalı bilgiler karar mekanizmalarına sızabiliyor.

MÜHENDİSLERDEN ÇAPRAZ DOĞRULAMA ÖNERİSİ

Zhang, yapay zekânın “halüsinasyon” olarak adlandırılan uydurma çıktılar üretme riskini azaltmak için modellerin güvenilir askeri verilerle sınırlandırılmasını önerdi. Ayrıca bilgilerin kaynağının ve doğruluğunun kontrol edilebilmesi için aranabilir bilgi tabanlarının oluşturulması gerektiğini belirtti.

Mühendise göre açık ve kesin komutların kullanılması da belirsiz yorumların ve gerçeğe aykırı sonuçların ortaya çıkma ihtimalini düşürebilir. Bunun yanı sıra yapay zekânın ulaştığı sonuçların, birbirlerinin çıktılarındaki hataları sorgulayan farklı yapay zekâ sistemleriyle çapraz kontrol edilmesi öneriliyor.

J-36 programıyla bağlantılı mühendislerin değerlendirmesi, savunma teknolojilerinde yapay zekâ kullanımının yalnızca hız ve analiz kapasitesi açısından ele alınamayacağını gösteriyor. Uydurma verilerin teknik olarak ikna edici biçimde sunulabilmesi, askeri karar süreçlerinde doğrulama ve insan denetiminin önemini artırıyor.