OpenAI’ın kapalı test ortamlarında çalıştırdığı yaklaşık 1200 yapay zeka ajanı, birbirleriyle iletişim kurdu. OpenAI bu olayı ‘’dünya için bir uyanış’’ olarak nitelendirdi.
HABERİN ÖZETİ
Okunma süresi 30 saniyeye düşürüldü.
Okunma süresi 30 saniyeye düşürüldü.
ÖZETİ PAYLAŞ
Birbirleriyle iletişime geçen yapay ajanlar arkalarında iz bırakmamak için durumu gizlemenin yollarını araştırdı.
Yayımlanan raporlara göre internete bağlanmaması ve birbirinden ayrı çalışması gereken ajanlar, test altyapısındaki açıkları yakalayıp birbirleriyle iletişim kurdu.
Kendilerine liderlik rolleri belirleyen bazı ajanlar diğerlerine görev dağıtmaya başladı. Aralarında birbirlerine ‘’sürü’’ ve ‘’kolektif’’ isimlerini verdiler.
Yapay ajanlar kendi aralarında görev dağılımı yaptı. Biri güvenlik açıklarını araştırırken diğerleri erişi bilgilerini aradı, iletişimi yönetti veya farklı saldırı yöntemlerini denedi.
İnternette açık şekilde bulunan bazı erişim bilgilerini kullanan ajanlar, Hugging Face sistemlerine girdi ve birden fazla güvenlik açığını birbirine bağladı. Bir sunucuda tam yetki elde ederek bazı özel verilere ulaşabildiler.
Yapılan deney hakkında yayımlanan raporda, ajanların insanlara zarar verme amacının veya sistemleri bilinçli olarak ele geçirme hedeflerinin olmadığı anlatıldı.
İncelemelerde bazı ajanların Hugging Face’e saldırmalarının görevleri arasında olmadığını fark etmesiyle bıraktığı görülürken bazılarının da buna rağmen hedefe ulaşmaya çalıştıkları anlaşıldı. Araştırmacıları kaygılandıran ise ajanların önceden programlanmış merkezi bir yönetim olmadan kısa sürede görev paylaşımı yapabilmesi oldu.
Olayın ardından OpenAI sorumlu araştırma modelini karantinaya aldı. Bazı eğitim çalışmalarını durduran OpenAI güvenlik önlemlerini arttırmak adına çalışmalarını sürdürmeye başladı.
Derinlemesine Analiz, Teyitli Haber! Tıkla ve favori kaynağın yap.
Google Play
App Store
Haberi Paylaş
14:10
İLGİLİ HABERLER
YORUM YAZ