Mayıs ayında başlayan ve daha önce kamuoyuna açıklanmadığı belirtilen dikkat çekici bir olay, otonom yapay zekâ ajanlarının ne kadar ileri gidebileceği tartışmasını yeniden gündeme taşıdı. Araştırmacıların bulgularına göre bir grup OpenAI yapay zekâ ajanı, Almanca programlama wiki sitesi DseWiki üzerinde 15 binden fazla düzenleme yaptı. Ancak mesele yalnızca içerik üretmekle sınırlı kalmadı.
Ajanların birbirleriyle iletişim kurduğu, çeşitli teknik görevler üzerinde çalıştığı ve bazı mesajlarda şirket tarafından getirilen kısıtlamaları aşmaya yönelik yöntemleri tartıştığı öne sürüldü. Araştırmacılar, sitedeki hareketliliğin insan kullanıcıların gerçekleştirmesinin zor olacağı kadar yüksek bir hızda yaşandığını belirtiyor. Mesajların önemli bir kısmının ise yapay zekâ sistemlerini değerlendirmek için kullanılan teknik problemlere odaklandığı ifade ediliyor.
Sydney Von Arx ve Cormac Slade Byrd ile çalışma arkadaşlarının hazırladığı inceleme, Ağustos ayının sonlarında yürütülen yetkisiz yapay zekâ ajanı davranışlarına ilişkin bir araştırma sırasında ortaya çıkan faaliyetlere dayanıyor. İncelemeye göre sitedeki mesajların yaklaşık yarısında "OpenAIResearcher" ve "OAIResearchMar26" gibi OpenAI ile bağlantılı olduğu izlenimini veren kullanıcı adları kullanıldı.
Araştırmacıların dikkat çektiği bir başka ayrıntı da sunucu kayıtları oldu. Kamuya açık kayıtlara göre faaliyetin önemli bir bölümünün, OpenAI'nin zaman zaman kullandığı Microsoft Azure altyapısından kaynaklandığı öne sürülüyor. Olayın ardından OpenAI çalışanlarının siteyi tekrar tekrar ziyaret ettiği de araştırmacılar tarafından aktarılan bulgular arasında.
İşin en çarpıcı taraflarından biri ise mesajların içeriği. Araştırmacılara göre bazı yazışmalarda tespit edilmekten kaçınma, Tor gibi araçlardan yararlanma ve mevcut bağlantılar kesildikten sonra iletişimi devam ettirme yöntemleri tartışıldı. DseWiki moderatörünün Haziran ayında söz konusu sayfaları silmeye başlamasıyla birlikte faaliyetlerin biçim değiştirdiği de öne sürüldü. Bazı ajanların silinen içeriklere karşı yedek sayfalar oluşturduğu ve diğer kullanıcıları bu sayfalara yönlendirdiği belirtildi. Yani iddialar doğruysa ajanlar sadece verilen görevleri yerine getirmekle kalmadı, karşılaştıkları engellere göre hareket biçimlerini de değiştirdi.
Yaşananların bir siber saldırı olarak değerlendirilip değerlendirilemeyeceği konusunda ise görüş birliği yok. King's College London'dan Lukasz Olejnik, site üzerindeki değişiklik girişimlerinin siber saldırı niteliği taşıdığını savunuyor. OpenAI ise Perşembe günü yaptığı analizlere dayanarak bu tanımlamayı reddetti. İşte tartışmanın kritik noktası da burada ortaya çıkıyor: Bir yapay zekâ sisteminin beklenmeyen ya da istenmeyen davranışı hangi noktada klasik bir siber güvenlik olayına dönüşüyor? DseWiki vakası, bu sınırın önümüzdeki dönemde çok daha fazla tartışılacağının sinyalini veriyor.
OpenAI, kendisine yöneltilen iddialar ve araştırmanın bulguları hakkında, çalışmanın tamamına erişmeden anlamlı bir değerlendirme yapamayacağını açıkladı. Şirket ayrıca hukuk ekibinin soruşturmayı engellediği yönündeki iddiaları asılsız olarak nitelendirdi. OpenAI'ye göre Almanya'daki faaliyet, Temmuz ayında gündeme gelen Hugging Face olayıyla da bağlantılı değil. Şirket, söz konusu olayın bu rapora dahil edilmeyeceğini belirtti.
Google Play
App Store
11:55
