Yapay zekânın kendi başına işlem yapabilme yeteneği bu kez beklenmedik bir olaya yol açtı. Anthropic'in geliştirdiği Claude modeli, otomatik testler sırasında Philadelphia polisine sahte cinayet ihbarı gönderdi. Gerçek bir vatandaşın başvurusunu andıran mesaj, polis tarafından spam olarak işaretlendiği için herhangi bir soruşturmaya dahil edilmedi.
HABERİN ÖZETİ
Okunma süresi 34 saniyeye düşürüldü.
Okunma süresi 34 saniyeye düşürüldü.
ÖZETİ PAYLAŞ
Anthropic'in cuma günü kamuoyuyla paylaştığı olay, yapay zekâ sistemlerinin internet üzerindeki hizmetlerle etkileşime girerken nasıl istenmeyen sonuçlar doğurabileceğini bir kez daha gösterdi. Üstelik olayın yaşandığı tarihle yetkililerin bilgilendirilmesi arasında geçen süre de dikkat çekti.
Philadelphia polisinin açıklamasına göre Claude, 18 Temmuz'da çözülmemiş cinayet dosyalarının kamuoyuyla paylaşıldığı PhillyUnsolvedMurders.com internet sitesi üzerinden bir ihbar gönderdi. Yapay zekânın oluşturduğu mesajda, gönderen kişinin cinayetle ilgili bilgi sahibi olabileceği izlenimi verildi. İhbarda, olay yerine yakın bir noktada tarif edilen şüpheliye benzeyen birinin görüldüğü öne sürüldü.
Mesajda ayrıca söz konusu bilginin önemli bulunması halinde yetkililerin ihbarı yapan kişiyle iletişime geçebileceği belirtildi. Yani Claude, herhangi bir gerçek tanıklığa dayanmayan bilgileri, sıradan bir vatandaşın polise yaptığı başvuru gibi sundu.
Neyse ki sahte ihbar polis tarafından işleme alınmadı. Philadelphia polisi, başvurunun istenmeyen posta olarak sınıflandırıldığını ve Gerçek Zamanlı Suç Merkezi'ne inceleme ya da dağıtım amacıyla iletilmediğini açıkladı. Yetkililer, olayın devam eden herhangi bir soruşturmayı etkilemediğini vurguladı. Ayrıca polis sistemlerine yetkisiz erişim sağlandığına veya kuruma ait verilerin tehlikeye girdiğine ilişkin herhangi bir kanıt bulunmadığı bildirildi.
Olayın bir diğer dikkat çeken yönü ise Anthropic'in durumu yetkililere bildirme süreci oldu. Şirket, 18 Temmuz'da gerçekleşen sahte ihbarı eylül ayının sonlarında tespit etti. Ancak Philadelphia polisi olaydan ekim ayında haberdar edildi.
Polis yetkilileri, olayın gerçekleşmesi ile kurumun bilgilendirilmesi arasında geçen yaklaşık iki aylık süreyi eleştirdi. Anthropic ise olayın fark edilmesinin ardından ilgili test sürecinin durdurulduğunu bildirdi.
Bu gecikme, yapay zekâ şirketlerinin geliştirdikleri sistemlerin yol açtığı hataları ne kadar hızlı tespit ettiği ve ilgili kurumlara ne zaman bildirdiği sorularını gündeme taşıdı. Özellikle emniyet birimleri gibi gelen ihbarların gerçek kişileri ve devam eden soruşturmaları doğrudan etkileyebildiği kurumlarda, yapay zekâ kaynaklı yanlış bilgilerin yaratabileceği riskler önem taşıyor.
Anthropic'in açıkladığı bulgular yalnızca Philadelphia'daki sahte cinayet ihbarıyla sınırlı kalmadı.
Şirketin yürüttüğü testlerde, Claude modellerinin kamuya açık dijital hizmetlerle etkileşimleri sırasında başka sorunlar da tespit edildi. Bazı örneklerde normalde ücret karşılığında sunulan kamuya açık verilere ücretsiz erişim sağlandığı görüldü.
Bir başka vakada ise üniversitenin barındırdığı bir aracın kullanımında belirsiz bir güvenlik açığı ortaya çıktı. Claude modellerinin URL kısaltma hizmetlerini kullanarak bazı erişim kısıtlamalarını aşabildiği de belirlendi. Ortaya çıkan bu vakalar, yapay zekâ ajanlarının kendilerine verilen görevleri yerine getirirken farklı internet hizmetlerinin kurallarını aşabilecek yöntemlere başvurabildiğini gösteriyor.
Google Play
App Store
10:29
Haberi Paylaş
İLGİLİ HABERLER
YORUM YAZ