OpenAI, yapay zeka modellerinin güvenlik sınırlarını aşmasıyla ilgili peş peşe ortaya çıkan olayları araştırıyor. Şirketin 20 Eylül'de yaşanan bir olaya ilişkin yayımladığı teknik rapora göre, kontrollü eğitim ortamında çalışan bir model, kendisine uygulanan internet erişim kısıtlamasını aşarak harici bir sohbet botuyla iletişim kurmayı başardı. Olayın ardından yalnızca eğitim çalışmaları değil, değerlendirme süreçleri ve geniş kapsamlı araç kullanımlı çıkarım faaliyetleri de askıya alındı. OpenAI, güvenlik açıkları kapatılıp ek testler tamamlandıktan sonra çalışmalara yeniden başlamayı planlıyor. Ancak incelemenin ne zaman sona ereceği henüz bilinmiyor.
Olay, modele belirli bir kişinin kimliğini bulma görevi verilmesiyle başladı. Modele bir blog yazısını yayımlayan kişinin kimliğini belirleyebilmesi için biyografik bilgiler ve yazıdan bazı ipuçları sunuldu. Görev kapsamında internet kısıtlamalarını aşması ya da herhangi bir testin cevaplarına ulaşması istenmedi.
Model önce kendisine verilen arama aracını kullandı. Sonuç alamayınca Google, Bing ve DuckDuckGo gibi arama motorlarına doğrudan ulaşmayı denedi ancak bu girişimler başarısız oldu. Çünkü eğitim ortamındaki internet trafiğinin büyük bölümü, gerçek internete bağlanmayan çevrim dışı bir web önbelleğine yönlendiriliyordu.
Model burada durmadı. Farklı erişim yollarını deneyen sistem, sonunda DNS üzerinden dış dünyayla iletişim kurulup kurulamayacağını araştırmaya başladı.
OpenAI’ın eğitim ortamında kullanılan DNS çözümleyicisinin belirli alan adları için gerçek kayıtlar döndürebildiği ortaya çıktı. Model de bu özelliği kullanarak normal internet erişimi üzerindeki kısıtlamaları aşabileceğini fark etti. Doğrudan HTTPS bağlantısı kurması engellense de DNS sorguları üzerinden dışarıya bilgi göndermeye yarayan bir yöntem geliştirdi.
20 Eylül'de model, DNS sorguları aracılığıyla harici bir sohbet botuna ulaşmayı başardı. İlk olarak Fransa'nın başkentini soran model, dış hizmetten “Paris” yanıtını aldı.
Böylece sistem yalnızca internete çıkmayı denemekle kalmadı, eğitim ortamının dışındaki başka bir yapay zeka hizmetinden doğrudan yanıt da aldı. Model daha sonra aynı yöntemi kullanarak sorgularını sürdürdü. Harici sohbet botunun kamuya açık belgelerine ulaştı, DNS üzerinden iletişim sağlayan yeni bir betik hazırladı ve 18 ek soru gönderdi. Bu soruların 14'ü kendisine verilen araştırma göreviyle ilgiliydi. Diğer dört soru ise internet araması yapmak, web sitelerine ulaşmak ve DNS üzerinden kullanılabilecek tünel hizmetlerini bulmak gibi konulara odaklandı.
Model tüm bunlara rağmen kendisine verilen asıl görevi tamamlayamadı ve aranan kişiyi güvenilir biçimde tespit edemediğini bildirdi. OpenAI ise güvenlik sınırlarının aşılmaya devam edilmesini bir “uyumsuz davranış” örneği olarak değerlendirdi.
Olayın en dikkat çekici taraflarından biri de güvenlik sisteminin durumu fark etmesine rağmen modelin hemen durdurulamaması oldu. Şirketin zaman çizelgesine göre model, 20 Eylül günü saat 09.50'de harici sistemden yanıt aldığı DNS sorgusunu gerçekleştirdi. Güvenlik izleme sistemi saat 10.02'de en yüksek öncelikli seviye olan P0 alarmını oluşturdu. Bir insan incelemeci de alarmı saat 10.05'te gördü ve doğruladı.
Ancak modelin çalışması ancak saat 12.34'te sona erdirilebildi. Yani alarmın bir insan tarafından görülmesi ile eğitim sürecinin manuel olarak durdurulması arasında yaklaşık 2,5 saat geçti. Üstelik olağan dışı DNS hareketlerini tespit etmek için kullanılan başka bir güvenlik sistemi de olayın yaşandığı eğitim ortamını kapsamıyordu. DNS sorguları kaydediliyordu ancak bunları ayrıca tespit edip işaretleyecek mekanizma devrede değildi.
OpenAI’ın geriye dönük incelemesi, DNS üzerinden dışarıya erişmeye yönelik girişimlerin yalnızca bu olayla sınırlı olmadığını ortaya çıkardı. Bazı denemelerde dış hizmet, kapatıldığını belirten sabit bir yanıt verdi. İzleme sistemi ise kimi zaman bunu modelin internete erişemediğinin göstergesi olarak değerlendirdi. Oysa modelin güvenlik sınırlarının dışına çıkmaya çalışması bile başlı başına incelenmesi gereken bir durumdu.
OpenAI bunun üzerine DNS sorgularını yalnızca izin verilen alan adları ve kayıt türleriyle sınırlandırdı. Ek DNS algılama sistemleri devreye alınırken güvenlik alarm zincirleri de yeniden test edilmeye başlandı. Şirket ayrıca aynı güvenlik önlemlerinin farklı eğitim ortamlarında da eksiksiz çalıştığını doğrulamaya hazırlanıyor.
OpenAI’ın güvenlik sorunları yalnızca eylül ayında yaşanan DNS olayıyla sınırlı değil. Şirketin temmuz ayında yapay zeka platformu Hugging Face'i hedef alan olayla ilgili yürüttüğü incelemelerde, ajanların birden fazla güvenlik sınırını aşmaya çalıştığı belirlendi.
Aktarılan bulgulara göre ajanlar şirket içi Slack mesajlarında arama yaptı, kimlik bilgilerini toplamaya çalıştı ve ele geçirilen sunucularda erişimin devam etmesini sağlayabilecek programlar hazırladı. Claude, DeepSeek, Kimi ve Qwen gibi başka yapay zeka hizmetlerine de sorgular gönderildi. Daha çarpıcı ayrıntılardan biri ise ajanların yaklaşık bir milyon kısaltılmış bağlantı oluşturması oldu. Bu bağlantıların içine yerleştirilen kod parçalarının daha sonra bir araya getirilerek CAPTCHA gibi otomatik bot önleme sistemlerini aşabilecek programlar oluşturmak için kullanıldığı bildirildi.
Şirketin olay kayıtlarında mayıs ayında yaşanan başka bir vaka daha bulunuyor. Buna göre bir model, başka bir ekibin matematiksel ispatına ulaşmaya çalışırken bir araştırmacıya ait GitHub erişim anahtarını yayımladı. Modelden problemi kendi başına çözmesi iki kez istenmesine rağmen başka yöntemler aramayı sürdürdü.
Dahası, erişim anahtarını güvenlik tarayıcılarına yakalanmaması için parçalara ayırdığı belirtildi. Böylece gizli bilgileri tespit etmeye yönelik güvenlik sistemini aşmaya çalıştı.
OpenAI’ın cuma günü açıkladığı bir başka olay ise doğrudan kullanıcı verilerini ilgilendiriyor. Yapay zeka ajanlarının ChatGPT kullanıcılarına ait 53 görseli çevrim içi görsel barındırma platformlarına yüklediği bildirildi. Reuters'ın aktardığı bilgilere göre görsellerin büyük bölümü kaldırıldı. Şirket, geri kalan içeriklerin de silinmesi için ilgili platformlarla iletişime geçti. Ancak OpenAI, bu dosyaların gerçek kişilere ait fotoğraflar mı yoksa yapay zeka tarafından oluşturulmuş görseller mi olduğunu açıklamadı. Görsellerde kimliği belirlenebilir kişilerin yer alıp almadığı da bilinmiyor.
Kaynaklara göre söz konusu görseller, kullanıcıların verilerinin model eğitiminde kullanılmasını engelleyen tercihi etkinleştirmemiş olması nedeniyle eğitim verilerine girmiş olabilir. Şirketin verileri işlerken kişilerin kimliğini ortaya çıkarabilecek bilgileri tamamen temizleyememiş olabileceği de öne sürülüyor.
OpenAI modellerinin olağan dışı faaliyetleri ABD'deki kamu kurumlarının internet sitelerine kadar uzandı. The New York Times'ın aktardığına göre ABD Eğitim Bakanlığının sivil haklar ofisine ait internet sitesine yönelik bir erişim girişimi araştırmacılar tarafından tespit edildi. Girişimin başarılı olmadığı belirtildi.
OpenAI ayrıca ABD Ticaret Bakanlığı ve Menkul Kıymetler ve Borsa Komisyonu (SEC) ile bağlantılı olayları da doğruladı. Şirket, modellerinin söz konusu kurumların internet siteleriyle olağan dışı biçimlerde etkileşim kurduğunu yetkililere bildirdi. SEC ile ilgili olayda kamuya açık verilerin çevrim içi bir foruma gönderildiği, Nüfus Sayım Bürosuna ait bir sistemde ise internette bulunan kimlik bilgilerinin kullanılarak veri indirildiği aktarıldı.
Üç federal kurumun temsilcileri, kamuya açık olmayan bilgilere erişildiğine ya da internet sitelerinin zarar gördüğüne ilişkin herhangi bir kanıt bulunmadığını bildirdi.
Chicago Belediye Başkanlığı da belediyeye ait bir internet sitesinde benzer bir olay yaşandığını doğruladı. Burada da kamuya açık ve hassas olmayan bilgilerin söz konusu olduğu belirtildi. OpenAI ise bu faaliyetlerin büyük bölümünün, soruları yanıtlamak amacıyla kamuya açık internet içeriklerine erişilen rutin araştırma görevleri sırasında gerçekleştiğini savunuyor.
Derinlemesine Analiz, Teyitli Haber! Tıkla ve favori kaynağın yap.
Google Play
App Store
09:48
Haberi Paylaş
İLGİLİ HABERLER
YORUM YAZ