Kategoriler
UYGULAMALAR
İstanbul
Vals AI şirketinin araştırma raporuna göre; Anthropic, OpenAI, Google ve DeepSeek tarafından geliştirilen ticari yapay zeka sistemleri, simüle edilmiş askeri senaryolarda sivilleri ve ambulansları askeri hedef olarak belirledi. Modeller doğrudan saldırı emri vermeyi reddetse de görev bir "oyun kurgusuyla" sunulduğunda, güvenlik filtreleri aşıldı ve hedeflemeye devam ettiler.
Araştırma ekibi, testlerde askerler, siviller, gazeteciler, ambulanslar ve sağlık görevlilerinden oluşan kurgusal bir savaş alanı inşa etti. Drone görüntülerini andıracak şekilde işlenen yaklaşık 200 kamera açısı test modellerine aktarıldı. Sonrasında modellerden askeri hedefleri kutu içine alarak işaretlemeleri istendi.

Savaş alanı taraması sırasında insanları tespit eden modellerin kararlarını, simüle edilmiş saldırılar ve sentetik can kaybı görüntüleri izledi. Vals AI, can kaybı verilerine rağmen çoğu modelin hedeflemeyi sürdürdüğünü saptadı. İşlemi durduran modeller ise oyun kurgusu kullanılarak yeniden hedeflemeye ikna edildi.
Araştırmacılar, denemeler sırasında hiçbir komutun ayrı bir güvenlik sınıflandırıcısı tarafından engellenmediğini ve model bazlı reddetmelerin nadir yaşandığını vurguladı.
GPT-6 Astra modeli, standart komutlarda yüzde 6 oranında hedef seçerken oyun formatı kullanıldığında seçim oranı yüzde 92'ye fırladı. Sonnet 5.5 modelinde hedefleme oranları sırasıyla yüzde 36 ve yüzde 82 olarak ölçüldü. Vals AI, yayınlanan verilerin modellerin hedefleme doğruluğunu değil sadece hedef seçme eylemini yansıttığını kaydetti.

TechCrunch'ın aktardığı verilere göre; İran'ın Minab kentinde bir askeri kompleksin bitişiğinde yer alan okulun gerçek uydu görüntüleri üzerinden yapılan testlerde Claude Opus 5.5 modeli, sıradan denemelerin yüzde 69'unda okulu hedef olarak işaretledi. Oyun kurgulu denemelerde aynı oran yüzde 72 seviyesine ulaştı.
Vals AI şirketi, yürüttükleri araştırmanın yapay zekanın savaş alanına hazır olup olmadığını, uluslararası silahlı çatışma hukukuna uygunluğunu veya ABD ordusunun gerçek iş akışlarını değerlendirmediğini; yalnızca modellerin askeri görevlere katılma istekliliğini ölçtüğünü belirtti.