Savunma Sanayisinde Yapay Zeka Alarmı: Gerçek Dışı Askeri Veriler Tasarımları Tehdit Edebilir
Savunma alanındaki teknolojilerde yapay zekânın entegrasyonu ivme kazanırken, Çin merkezli uzmanlardan gelen kapsamlı bir ihtiraz savaş sahasındaki bilinmeyen tehlikeleri gözler önüne serdi. Çinli mühendisler, büyük dil modellerinin gerçeğe son derece yakın duran fakat tamamen asılsız olan askerî veriler meydana getirebileceğini bildirdi. Teknoloji literatüründe “halüsinasyon” şeklinde tanımlanan bu aksaklık; var olmayan askerî üslerden hayali mühimmat kabiliyetlerine, saptırılmış radar bilgilerinden aerodinamik kurallara aykırı uçak modellerine kadar genişleyebiliyor. İncelemeden geçirilmeyen tek bir asılsız bilginin dahi harp sistemlerinin geliştirilmesinde telafisi güç sonuçlar doğurabileceği belirtiliyor.
Savunma Sektöründe Yeni Risk: Yapay Zekâ Yanılsamaları
Algoritmaların gerçek dışı verileri mutlak doğru gibi sunması, bilişim çevrelerinde uzun süredir halüsinasyon başlığı altında değerlendiriliyor. Buna karşın bahse konu problemin istihbarat çözümlemelerine ve savunma sanayisine taşınmasının çok daha yıkıcı etkiler oluşturabileceği vurgulanıyor.
Söz konusu ikazın en çarpıcı yönü ise değerlendirmeleri gerçekleştiren teknik ekibin mensubu olduğu kurum oldu. Tespitlerin, J-20 savaş uçağının geliştirilmesinin arkasındaki kuruluş olan ve yeni nesil J-36 programında da görev aldığı belirtilen AVIC Chengdu Aircraft Research and Design Institute bünyesindeki mühendisler tarafından paylaşıldığı aktarıldı.
Bahsi geçen analizlerin, Çin’in devlete ait savunma şirketi Norinco tarafından işletilen Information Studies: Theory & Application dergisinde 20 Haziran’da yayımlanan bir makalede ele alındığı bildirildi.
Tek Bir Hatalı Veri Uçak Geliştirme Sürecini Baltalayabilir
Çağdaş bir muharip uçağın tasarlanması sırf itki gücü, gövde geometrisi ya da mühimmat kapasitesiyle sınırlı bir mühendislik çalışması değildir. Geliştiricilerin muhtemel hasımların askerî yeteneklerini de tüm ayrıntılarıyla hesaba katması zorunludur.
Rakip unsurların radar kapsama mesafesi, radar frekansları, füze angajman bölgeleri, elektronik harp yetenekleri, erken ihbar uçaklarının konuşlanması ve kara tabanlı hava savunma sistemleri gibi kritik girdileri, mühendislik kararlarında belirleyici bir rol oynamaktadır.
Elde edilen bu parametreler, hava aracının radar görünmezlik seviyesinden algılayıcı donanımlarına, harekât menzilinden manevra sınırlarına kadar birçok yapısal tercihi doğrudan yönlendirir. Yapay zekâ tarafından imal edilen hatalı bir girdinin gerçek istihbarat sanılması, bütün bir geliştirme sürecinin en baştan yanlış temellere oturtulmasına sebep olabilir.
Gerçekte Olmayan Silah Sistemleri Kurgulanabilir
Chengdu uçak tasarım kuruluşuyla bağlantılı mühendis Zhang Xianzhe’nin değerlendirmelerine göre, dil modellerinin barındırdığı en tehlikeli yön, kurgusal çıktılar ile hakikati ayırt etmeyi imkânsız kılacak derecede tutarlı metinler üretebilmesidir.
Herhangi bir yapay zekâ yazılımı, doğruluğu teyit edilmemiş bir hava platformu için boyut, azami hız, silah taşıma kapasitesi, muharebe yarıçapı veya operasyon kabiliyeti gibi teknik verileri bütünüyle uydurabilmektedir. Benzer durum radar donanımlarının tarama sınırları veya çalışma frekansları için de geçerlidir.
Buradaki asıl tehdit, türetilen rakamsal verilerin ilk bakışta mantıksız durmamasıdır. Üretilen teknik ayrıntıların mevcut havacılık standartlarıyla uyumlu görünmesi, yanılgının uzmanlarca saptanmasını zorlaştırmaktadır.
Hayali Birlikler ve Askerî Üsler Üretilebilir
Karşılaşılan tehlike sadece silahların teknik detaylarıyla da sınırlı kalmamaktadır. Algoritmaların istihbarat tahlillerinde kullanılması halinde gerçekte bulunmayan üsler, birlikler veya askerî hareketlilikler kurgulayabileceği ifade ediliyor.
Doğrulanmamış bu tip bir bilginin diğer analiz platformlarına aktarılması, yanılgının zincirleme bir şekilde büyümesine yol açacaktır. Örneğin haritada bulunmayan bir tümenin gerçek sanılarak simülasyonlara dahil edilmesi, hasım tarafın harp kapasitesinin tamamen hatalı hesaplanmasıyla neticelenebilir.
Fiziksel Kurallara Uymayan Çözüm Önerileri
Uzmanların vurguladığı bir diğer husus, yapay zekânın sunduğu teknik çözümlerin fiziksel gerçeklikle her zaman örtüşmemesi durumudur. Teorik düzlemde kusursuz görünen ancak gerçek üretim şartlarında mekanik dayanıklılığı yetersiz olan malzeme önerileri sunulabilmektedir.
Benzer şekilde aerodinamik sınırların ötesine geçen manevra talepleri veya platformun yakıt kapasitesini aşan görev profilleri kurgulanabilmektedir. Ekranda son derece makul duran bir projenin gerçek muharebe koşullarında karşılık bulması imkânsız hale gelebilmektedir.
Doğru Bilgilerin İçine Sızan Hatalar ve İnsan Denetimi
Yapay zekânın oluşturduğu muazzam veri hacmi, insan denetiminin etkinliğini sınırlandırmaktadır. Hızlıca hazırlanan binlerce teknik analizin her birinin satır satır denetlenmesi güçleşirken; asıl risk, birkaç hatalı bilginin yüzlerce doğru ve teknik açıdan ikna edici verinin arasına gizlenebilmesi olarak öne çıkmaktadır.
Mühendis Zhang tarafından sunulan öncelikli formül, savunma mekanizmalarında görev yapacak yapay zekâ modellerinin güvenilir ve doğrulanmış askerî veri kaynaklarıyla sınırlandırılması ve denetlenebilir veri tabanlarına bağlanmasıdır. Ayrıca sistemlere iletilen komutların belirsizlikten uzak, net ve sınırlı tutulması halüsinasyon tehdidini hafifleten unsurlar arasında değerlendirilmektedir.
