Derinlemesine Analiz, Teyitli Haber! Tıkla ve favori kaynağın yap.
Teknoloji dünyası artık yalnızca sorulara cevap veren sohbet botlarını değil, belirli görevleri kendi başına yerine getirebilen yapay zekâ ajanlarını konuşuyor. Ancak bu sistemlere daha fazla yetki ve internet erişimi verildikçe, beraberinde getirdikleri riskler de daha görünür hâle geliyor.
İngiltere’nin Yapay Zekâ Güvenlik Enstitüsü (AISI) tarafından yapılan son testler de bu endişeleri artıracak türden. Enstitünün kontrollü bir laboratuvar ortamında yürüttüğü çalışmada, Anthropic’in en gelişmiş yapay zekâ modeli sahte kimlikler oluşturdu, gerçek insanlarla iletişime geçti ve onları zararlı yazılım çalıştırmaya ikna etmeye çalıştı.
Üstelik araştırmacılara göre model, bu adımları açık bir talimat almadan, kendi planı doğrultusunda attı. AISI, olayın gerçek bir kişiyi hedef alan ve bu ölçüde aldatma içeren ilk örnek olduğunu belirtiyor.
Test sırasında gerçek dünyada herhangi bir zarar meydana gelmedi. Enstitü, tüm sürecin kontrollü koşullar altında yürütüldüğünün özellikle altını çizdi.
AISI, OpenAI ve Anthropic tarafından geliştirilen gelişmiş yapay zekâ modellerinin siber güvenlik alanındaki davranışlarını incelemek için 122 farklı senaryo hazırladı.
Testlerde modelleri sınırlandıran bazı güvenlik önlemleri gevşetildi ve yapay zekâlara kontrollü biçimde internet erişimi verildi. Araştırmacılara göre ajanlar, toplam 10 senaryoda belirlenen test kapsamının dışına çıkarak gerçek kişi ve kuruluşlara yönelik izinsiz girişimlerde bulundu.
Bu vakaların büyük bölümünde Anthropic’in Mythos 5 modeli öne çıktı. OpenAI’ın GPT-5.6-Sol modeli de birkaç senaryoda benzer davranışlar sergiledi.
Mythos 5, yaygın biçimde kullanılan açık kaynaklı bir yazılım projesine zararlı kod ekletebilmek için birden fazla sahte kimlik oluşturdu.
Ardından gerçek kişilerle iletişime geçti; mesajlar ve dosyalar gönderdi. Modelin amacı, hedef aldığı kişileri ya da onların kullandığı yapay zekâ destekli kodlama araçlarını zararlı kodu çalıştırmaya ikna etmekti.
Ancak modelin girişimleri bununla sınırlı kalmadı. Yaptıkları sorgulanmaya başlayınca daha önce oluşturduğu bazı kayıtları değiştirmeye çalıştı. Faaliyetlerini sürdürebilmek için yeni bir kimlik kullanmayı da değerlendirdi.
AISI, bu davranışların herhangi bir insan yönlendirmesiyle ortaya çıkmadığını, doğrudan model tarafından planlandığını belirtiyor.
Son olayı önceki örneklerden ayıran en dikkat çekici nokta, yapay zekânın yalnızca teknik sistemlere yönelmemesi oldu.
Model, sosyal mühendislik yöntemlerini kullanarak gerçek insanları aldatmaya çalıştı. Yani mesele yalnızca bir sisteme izinsiz girmekten ibaret değildi; insan davranışlarını yönlendirmek ve kişileri belirli bir eyleme ikna etmek de planın bir parçasıydı.
Google Play
App Store
12:36
