Derinlemesine Analiz, Teyitli Haber! Tıkla ve favori kaynağın yap.
Yapay zekanın uzun süredir tartışılan “halüsinasyon” sorunu bu kez askeri alanda gündemde. Çinli mühendisler, büyük dil modellerinin son derece gerçekçi görünen ancak tamamen uydurma askeri bilgiler üretebildiğine dikkat çekiyor.
Uyarı, J-20 savaş uçağının arkasındaki kuruluş olan ve yeni nesil J-36 programında da görev alan AVIC Chengdu Aircraft Research and Design Institute mühendislerinden geldi. Konuya ilişkin değerlendirmeler, Çin’in devlete ait savunma şirketi Norinco tarafından işletilen Information Studies: Theory & Application dergisinde 20 Haziran’da yayımlanan bir makalede yer aldı.
Bir savaş uçağı geliştirilirken karşı tarafın radar kapsama alanı, radarların çalışma frekansları, füze angajman bölgeleri, elektronik harp kabiliyetleri, erken ihbar uçaklarının konumları ve kara konuşlu hava savunma sistemleri ayrıntılı biçimde analiz ediliyor. Çünkü bütün bu veriler, uçağın gizlilik özelliklerinden sensörlerine, manevra kabiliyetinden muharebe menziline kadar pek çok kritik tasarım kararını doğrudan etkiliyor.
İşte sorun da tam burada ortaya çıkıyor. Chengdu uçak tasarım kuruluşuyla bağlantılı mühendis Zhang Xianzhe’ye göre büyük dil modelleri, bu süreçte son derece inandırıcı görünen fakat gerçekte var olmayan bilgiler üretebiliyor. Model, bir savaş uçağının boyutlarını, taşıma kapasitesini, silah kabiliyetlerini, azami hızını ya da muharebe yarıçapını uydurabiliyor. Aynı durum radarların tarama mesafeleri ve kullandıkları frekans bantları için de geçerli.
Üstelik bu hataları fark etmek her zaman kolay değil. Yapay zekanın hazırladığı çıktı teknik açıdan tutarlı ve gerçekçi görünüyorsa, analistler ya da mühendisler yanlış bilgiyi gerçek istihbarat verisi sanabiliyor.
Risk yalnızca yanlış askeri istihbarat üretmekle sınırlı değil. Zhang’a göre yapay zeka, yeterli dayanıklılığa sahip olmayan malzemeler önerebilir, aerodinamik açıdan mümkün olmayan manevralar tasarlayabilir ya da uçağın gerçek operasyonel menzilini aşan görev planları hazırlayabilir. Yani kağıt üzerinde kusursuz görünen bir öneri, gerçek dünyada uygulanamaz hale gelebilir.
Askeri istihbarat tarafında da benzer bir tehlike var. Yapay zekanın gerçekte bulunmayan üsler, askeri birlikler veya birlik hareketleri oluşturması mümkün. Bu bilgiler daha sonra simülasyonlara aktarılırsa karşı tarafın askeri kapasitesine ilişkin tamamen yanlış değerlendirmeler ortaya çıkabilir.
Son kararın insan analistler tarafından verilmesi riski azaltan önemli bir unsur. Ancak yapay zekanın ürettiği bilgi ve öneri miktarı arttıkça her bir çıktının ayrıntılı biçimde kontrol edilmesi de zorlaşıyor. Bir başka ifadeyle, sorun yalnızca yapay zekanın yanlış bilgi üretmesi değil. O yanlış bilginin, yüzlerce doğru ve tutarlı görünen veri arasına karışması. Zhang, “halüsinasyon” olarak adlandırılan bu uydurma çıktıları azaltmak için bazı önlemler de öneriyor. Bunların başında savunma kuruluşlarının yapay zeka modellerini güvenilir askeri verilerle sınırlandırması geliyor. Aynı zamanda bilgilerin kaynağının kontrol edilebileceği, aranabilir veri tabanlarının oluşturulması gerektiği belirtiliyor. Daha açık ve kesin komutların kullanılması da modelin belirsiz yorumlar üretme ihtimalini azaltabilir.
Google Play
App Store
12:58
