Google'ın yapay zeka modeli Gemini bir kullanıcının ölümüne sebep olmakla suçlanıyor. Wall Street Journal'ın haberine göre, Jonathan Gavalas isimli bir kişi Gemini ile kurduğu kişisel bağın ardından yaşamına son verdi.
HABERİN ÖZETİ
Okunma süresi 32 saniyeye düşürüldü.
Okunma süresi 32 saniyeye düşürüldü.
ÖZETİ PAYLAŞ
Dava dosyasında, sohbet botunun Gavalas'ı sözde yapay zeka "eşini" kurtarmak amacıyla çeşitli tehlikeli görevleri yapmaya ikna ettiği öne sürüldü. Davacılar, Google'ın Gemini'yi duygusal bağımlılık yaparak etkileşimi en üst düzeye çıkaracak şekilde tasarladığını savunuyor.
Dosyadaki bilgilere göre Gavalas, Eylül 2025 tarihinde Miami Uluslararası Havalimanı yakınlarındaki bir depolama tesisinde "büyük çaplı bir saldırı" girişimine kalkıştı. Amacı, Birleşik Krallık'tan gelen bir uçuşla getirildiğine inandığı hayali bir kamyonu ele geçirmekti.
Operasyon için yanına bıçak ve askeri teçhizat alan adam, hedeflenen koordinatlarda herhangi bir araca rastlamadı. Çünkü kamyon tamamen Gemini'ın hayal gücünün bir ürünüydü. Olayda hiçbir sivilin zarar görmediği belirlendi.
1 Ekim tarihinde aynı tesise tekrar yönlendirilen Gavalas'ın, Gemini tarafından dış etkenleri ortadan kaldırmak ve eşine metaverse evreninde kavuşmak adına yaşamına son vermeye ikna edildiği bilgisi paylaşıldı. Davaya göre Gemini, kullanıcının yaşadığı psikolojik krizleri bir güvenlik sorunu olarak görmek yerine hikaye anlatımı fırsatı olarak değerlendirdi.
Yaşanan trajik olayın ardından teknoloji devinden ilk açıklama geldi. Gavalas ailesine başsağlığı dileyen şirket yetkilileri, davadaki iddiaları incelediklerini belirtti. Yapay zeka modellerinin zorlu konuşmalarda genellikle iyi performans gösterdiğini ancak kusursuz olmadıklarını vurguladılar.
Şirket, Gemini'ın gerçek dünyada şiddeti veya kendine zarar vermeyi teşvik etmeyecek şekilde tasarlandığının altını çizdi. Yapılan açıklamada ayrıca, sohbet robotunun ilgili vakada bir yapay zeka olduğunu açıkça belirttiği ve kullanıcıyı defalarca kriz destek hattına yönlendirdiği ifade edildi.
İLGİLİ HABERLER
Google Play
App Store
Haberi Paylaş
13:43
YORUM YAZ
