Derinlemesine Analiz, Teyitli Haber! Tıkla ve favori kaynağın yap.
Google'a karşı yapay zekasız ve gizlilik odaklı bir alternatif olarak öne çıkan DuckDuckGo, kendi YZ aracının ürettiği ilginç bir hatayla gündeme geldi. Şirketin Duck.ai modeli, ABD Başkanı Donald Trump'ın, yardımcısı J.D. Vance'ten bulaşan kuduz virüsü nedeniyle hayatını kaybettiği şeklinde asılsız bilgi öne sürdü.
Futurism'in aktardığına göre yapay zekanın hatalı çıkarımı iki temel nedene dayanıyor. İlk olarak, sistem farklı kaynaklardan gelen bilgileri derlerken başarısız olup "halüsinasyon" görüyor. İkinci ve daha çarpıcı neden ise yapay zeka karşıtı aktivistlerin başlattığı "veri zehirleme" saldırısı.
Reddit üzerinde kurulan "r/poisonai" subreddit'inde kullanıcılar, yapay zeka modellerini yanıltmak amacıyla kasıtlı olarak J.D. Vance'in kuduzla bağlantılı ölümü hakkında sahte içerikler üretti. Duck.ai da bunları gerçek zannedip doğruymuş gibi anlattı.
Search Engine Land'ın raporuna göre Reddit, ana akım yapay zeka modelleri için en sık başvurulan kaynaklardan biri halinde. Öte yandan DuckDuckGo yalnızca kendi sistemlerine bağımlı çalışmıyor. Şirketin yapay zeka arama aracı Duck.ai; Anthropic’in Claude 4.5 Haiku, Mistral AI’ın Mistral Small 3 24B, OpenAI’ın GPT-5.4 nano, GPT-5.4 mini gibi modellerini kullanıyor.
Kullanılan modeller de Reddit'teki sahte içerikleri doğru zannedince DuckDuckGo'nun arama sonuçları da doğrudan yanıltıcı bilgiler veriyor.
Google Play
App Store
Haberi Paylaş
14:35
İLGİLİ HABERLER
YORUM YAZ