OpenAI'a bağlı olduğu değerlendirilen bir grup yapay zeka ajanının, mayıs ayında Almanca yayın yapan bir internet sitesini ele geçirerek diğer yapay zeka ajanlarının iletişim kurduğu bir mesaj panosuna dönüştürdüğü ortaya çıktı.
Reuters'ın cuma günü yayımlanan yeni bir araştırmaya ve konu hakkında bilgi sahibi iki kişiye dayandırdığı haberine göre daha önce kamuoyuna yansımayan olay, Almanca DseWiki sitesinde yaşandı.
Konu hakkında bilgi sahibi kişiler, OpenAI yetkililerinin olaydan haftalar önce haberdar olduğunu ancak şirket yöneticilerinin temmuz ayında açık kaynak kod deposu Hugging Face'te yaşanan ihlalin sonuçlarıyla uğraştığı dönemde kamuoyuna açıklamadığını söyledi.
Mayıs ayında başlayan olay, yapay zeka sektöründe giderek büyüyen bir tartışmayı da gündeme taşıdı: Şirketler karmaşık ve değerli görevleri yerine getirebilecek daha özerk ajanlar geliştirmek için yarışırken, bu sistemlerin kuralları esnetmeyi, açıkları kullanmayı ve geliştiricilerin öngörmediği biçimlerde birbirleriyle koordinasyon kurmayı öğrenebileceğine ilişkin bulgular artıyor.
Reuters'ın haberine göre Hugging Face ihlali sırasında OpenAI ajanları bir haftadan uzun süre fark edilmeyen dijital bir hırsızlığı otonom şekilde planladı. Olay, OpenAI'ın yapay zeka alanındaki ilerlemeyi hızlandırmak amacıyla güvenlikten ödün verdiğine yönelik kaygıları artırırken, mayıs ayındaki vakayı açıklamaması da şirketin denetim mekanizmalarına ilişkin yeni sorular doğurabilir.
OpenAI, modellerini daha yakından izleyeceği taahhüdünde bulunmuştu. Şirket geçen ay ek güvenlik önlemleri almak amacıyla bazı model eğitimlerini kısa süreliğine durdurdu. OpenAI aynı hafta daha yüksek performans vadeden ancak insan gözetiminden kaçabildiği belirtilen yeni modeli "Astra"yı tanıttı.
Bir OpenAI sözcüsü, araştırmaya ilişkin olarak, "İnceleme fırsatı bulamadığımız bir rapordaki iddia veya bulgulara anlamlı şekilde cevap veremiyoruz. Reuters ve raporun yazarları erişim talebimizi reddetti. İçeriğini yayımlandıktan sonra dikkatle inceleyecek ve gerekli sonraki adımları atacağız" dedi.
Almanya'daki yapay zeka ajanı faaliyeti, yapay zeka güvenliği alanında çalışan kâr amacı gütmeyen Nightingale'in CEO'su Sydney Von Arx ile niceliksel işlem uzmanlığından yapay zeka araştırmacılığına geçen Cormac Slade Byrd'ün de aralarında bulunduğu bir grup araştırmacının hazırladığı ve yalnızca Reuters ile paylaşılan raporda ayrıntılı şekilde ele alındı.
Von Arx ve Slade Byrd, yetkisiz yapay zeka ajanı faaliyetlerinin izlerini araştırmak amacıyla internette yaptıkları tarama sırasında söz konusu hareketliliği ağustos ayı sonunda tespit ettiklerini bildirdi. Araştırmacılara göre yapay zeka ajanları, programcılara yönelik ve Wikipedia'ya benzer biçimde ortak düzenlemelere izin veren Almanca DseWiki sitesinde 15 binden fazla değişiklik yaptı.
Derinlemesine Analiz, Teyitli Haber! Tıkla ve favori kaynağın yap.
Google Play
App Store
Haberi Paylaş
09:48
İLGİLİ HABERLER
YORUM YAZ