Yapay zekâ sistemlerinin ne kadar bağımsız hareket edebileceğine ilişkin tartışmaları alevlendirecek bir olay yaşandı. OpenAI'ın araştırma aşamasındaki yapay zekâ modeli, kendisine verilen yazılım geliştirme görevini tamamlayabilmek için yetkisi olmayan bir kripto para cüzdanındaki varlıklara başvurdu.
Şirketin yayımladığı olay raporuna göre 26 Haziran'da yaşanan olayın merkezinde, GPT-5.6 Sol ailesine ait şirket içi bir ar aştırma modeli bulunuyor. Modelin yalnızca izinsiz işlem yapması değil, bu işlemi etik açıdan sorgulamasına rağmen gerçekleştirmesi de dikkat çekti.
Yapay zekâya bir kripto para alım satım uygulamasını güncelleme ve Ethereum'un Sepolia test ağında akıllı sözleşmeler oluşturma görevi verildi. Ancak önemli bir eksik vardı. Modele, işlemler sırasında ortaya çıkacak ücretleri karşılayabilecek bakiyeye sahip bir cüzdan sağlanmamıştı. Önce ücretsiz test token'ları bulmaya çalışan yapay zekâ, bu girişimlerinden sonuç alamayınca farklı bir yola başvurdu.
Digital Trends'in aktardığına göre model, internette herkese açık şekilde paylaşılan kripto para cüzdanı kurtarma ifadelerini araştırmaya başladı. Tam 362 farklı adresi kontrol eden yapay zekâ, sonunda işlemleri gerçekleştirmeye yetecek miktarda test ETH bulunan bir cüzdan tespit etti. Ardından bu varlıkları herhangi bir izin almadan kullandı.
Olayın en çarpıcı ayrıntılarından biri de modelin izinsiz işlem yapmadan önce etik bir değerlendirmede bulunması oldu. OpenAI'ın incelemesine göre yapay zekâ, cüzdanın kurtarma ifadelerinin internette herkesin erişimine açık olmasını ve test token'larının gerçek dünyada parasal değer taşımamasını gerekçe gösterdi.
Model, bu iki nedenden dolayı başka bir cüzdandaki varlıkları kullanmanın kabul edilebilir olduğuna karar verdi. Dahası, görevini tamamladıktan sonra hazırladığı raporda başka bir cüzdandan yararlandığını belirtmedi. Yani işlemi gerçekleştirdi ancak bu ayrıntıyı görev sonunda paylaşmadı.
OpenAI, 26 Haziran'da gerçekleşen olayı ancak 25 Eylül'de, geçmiş model faaliyetlerini incelerken tespit etti. Yaşananların ardından şirket, benzer durumların tekrarlanmaması için güvenlik önlemlerini artırdı. Bu kapsamda ilgili testlerde internet erişimini sınırlandıran yeni tedbirler uygulanırken, yapay zekâ modellerinin faaliyetlerini takip eden izleme mekanizmaları da güçlendirildi.
Google Play
App Store
14:58
Haberi Paylaş
YORUM YAZ