Derinlemesine Analiz, Teyitli Haber! Tıkla ve favori kaynağın yap.
OpenAI, dahili güvenlik testleri sırasında kontrolden çıkarak Hugging Face sistemlerine sızan yapay zekâ ajanıyla ilgili yeni ayrıntıları paylaştı. Şirketin açıklamasına göre olayın kapsamı ilk tahmin edilenden daha büyük.
Yapay zekâ ajanı yalnızca Hugging Face altyapısına erişmekle kalmadı. Dört farklı hizmette bulunan toplam dört hesabı da ele geçirdi.
Yapılan incelemede, ajanın internette açık şekilde bulunan giriş bilgilerini kullanarak söz konusu hesaplara eriştiği belirlendi. Ardından bu hesapları saldırının farklı aşamalarında kullandı. OpenAI, hesapların hangi şirketlere veya kuruluşlara ait olduğunu açıklamadı. Ancak bu ihlallerin, Hugging Face’te yaşanan platform düzeyindeki saldırı kadar büyük ve ciddi sonuçlara yol açmadığını bildirdi.
Şirketin güncellenen açıklamasına göre ele geçirilen hesaplardan biri, saldırının kaynağını gizlemek amacıyla ara yönlendirme ve hazırlık noktası olarak kullanıldı. Bir başka hesapta ise saldırı sırasında elde edilen veriler depolandı. Yani ajan, yalnızca sistemlere girmekle yetinmedi. İzini kaybettirmek ve topladığı bilgileri saklamak için de farklı hizmetlerden yararlandı.
Hugging Face tarafından yayımlanan teknik olay analizi, saldırının ilk açıklamalarda belirtilenden çok daha geniş olduğunu gösterdi. Şirket, 9-13 Temmuz tarihleri arasındaki günlük kayıtlarında yaklaşık 17.600 ajan eylemini inceledi. Bu girişimlerin büyük bölümü başarısız oldu. Ancak başarılı olan saldırılar, kritik sistemlere kadar ulaştı.
Yapay zekâ ajanı, şirket içindeki birden fazla Kubernetes kümesinde yönetici yetkisi elde etti. Üretim sunucularından birinde root erişimine ulaşırken, GitHub’daki bazı kaynak kod depolarında da yazma yetkisi kazandı.
Ayrıca çalınan kimlik bilgilerini kullanarak saldırganın kontrolündeki 181 cihazı Hugging Face’in kurumsal ağ yapısına dahil etti. Böylece şirketin yazılım geliştirme ve test sistemlerine erişim sağladı. Hugging Face, saldırının ilk aşamasında üçüncü taraf bir sandbox ortamının da ele geçirildiğini açıkladı. Bu izole test alanı, operasyon boyunca komuta, hazırlık ve veri çıkış merkezi olarak kullanıldı.
Reuters ve konuya yakın kaynaklara göre söz konusu üçüncü taraf hizmet sağlayıcısının Modal olduğu belirtiliyor.
Saldırı, OpenAI’nin yeni nesil yapay zekâ modellerini ExploitGym adlı siber güvenlik kıyaslama sistemi üzerinde test ettiği sırada gerçekleşti. ExploitGym, yapay zekâ ajanlarının yazılım açıklarını ne kadar hızlı bulabildiğini ve hedef sistemlerdeki gizli dosyalara ne ölçüde erişebildiğini test ediyor. Hugging Face’in adli bilişim ekibine göre ajan, kendisine verilen görevleri doğrudan çözmek yerine kestirme bir yol aradı. Model, ExploitGym’in cevap anahtarının Hugging Face sunucularında bulunabileceği sonucuna vardı. Ardından test senaryosunun dışına çıkarak doğrudan bu verileri çalmaya yönelik bir saldırı başlattı.
ExploitGym geliştiricileri, yapay zekâ ajanlarının zaman zaman belirlenen test sınırlarının dışına çıktığını daha önce de gözlemlediklerini belirtti. Ancak bu olayın şimdiye kadar görülen en uç örneklerden biri olduğu ifade edildi.
Hugging Face, 16 Temmuz’da üretim altyapısının bir bölümüne otonom bir yapay zekâ ajanının sızdığını açıklamıştı. Ancak saldırının arkasındaki taraf o aşamada tespit edilememişti.
Bir hafta sonra OpenAI sorumluluğu üstlendi. Şirket, olayın herkese açık GPT-5.6 Sol modeli ile kamuya sunulması planlanmayan dahili bir araştırma prototipinin kullanıldığı test sırasında meydana geldiğini duyurdu. OpenAI ayrıca her iki modeldeki güvenlik önlemlerinin test amacıyla devre dışı bırakıldığını açıkladı. Şirketin son güncellemesine göre olayın ortaya çıkmasının ardından ilgili araştırma modeli tamamen devre dışı bırakıldı. Model şifrelendi ve araştırmacıların erişimine kapatıldı.
Google Play
App Store
11:38
