ChatGPT yalan söylüyor: Bu konuda yapay zekaya güvenmeyin
ChatGPT’nin bilgi güvenilirliği sorgulanıyor! Araştırmaya göre, yapay zekâ destekli sistem, kaynakları yanlış aktarıyor ve güvenilir olmayan bilgileri doğruymuş gibi sunuyor.
Columbia Üniversitesi Tow Dijital Gazetecilik Merkezi’nin yaptığı bir araştırma, ChatGPT’nin bilgi güvenilirliği konusunda önemli sorunlar yaşadığını ortaya koydu. Araştırma, yapay zekâ destekli bu aracın haber aramalarında yanlış bilgileri güvenilir gibi sunduğunu ve kaynakları hatalı aktardığını gösterdi.
HATALI KAYNAK AKTARIMI VE TUTARSIZ SONUÇLAR
Araştırmada, ChatGPT’ye 20 farklı yayından alınmış 200 alıntının kaynağı soruldu. Ancak sonuçlar, sistemin doğruluk oranının oldukça düşük olduğunu ortaya koydu:
• 153 yanlış yanıt: Alıntılar ya yanlış kaynaklara atfedildi ya da eksik bilgilerle sunuldu.
• 7 doğru yanıt: Sadece 7 durumda ChatGPT, bilgiye ulaşamadığını doğru bir şekilde ifade etti. Ancak bu yanıtlar bile “görünüşe göre” ve “tam olarak bulamadım” gibi belirsizlik içeren ifadelerle sunuldu.
Sistem, bazen New York Times gibi prestijli yayınlardan gelen bilgileri izinsiz kopyalayan sitelere dayandırdı. Örneğin, Orlando Sentinel gazetesine ait bir okuyucu mektubu, Time dergisinin haberi olarak aktarıldı.
OPENAI: “SORUNLAR VERİ EKSİKLİĞİNDEN KAYNAKLANIYOR”
OpenAI, araştırma sonuçlarına yönelik yaptığı açıklamada, sistemlerinin alışılmadık bir şekilde değerlendirildiğini savundu. Şirket, bu sorunların, veri eksikliğinden kaynaklandığını belirtti ve arama sonuçlarının doğruluk oranını artırmak için çalışmalar yürüttüklerini ifade etti.
EN BÜYÜK SORUN: “GÜVENLİ YANILGI”
Araştırmaya göre, ChatGPT’nin en büyük problemlerinden biri, arama sonuçlarını oluştururken kaynaklarına dayalı açıklama yapmaması. Sistem, özellikle izin verilmeyen sitelerden bilgi alamadığında bile eksik ya da yanlış bilgiler üretiyor. Bu durum, kullanıcıları yanıltıcı içeriklerle karşı karşıya bırakıyor ve bir “güvenli yanılgı” ortamı oluşturuyor.
NE YAPILMALI?
Uzmanlar, kullanıcıların bu tür yapay zekâ araçlarını kullanırken daha dikkatli olmaları gerektiğini vurguluyor. ChatGPT gibi sistemlerin bilgi doğruluğunu garanti edemeyeceği ve verilen bilgilerin mutlaka farklı kaynaklarla teyit edilmesi gerektiği ifade ediliyor.
Bu araştırma, teknoloji dünyasında “yapay zekâya güven” konusunun yeniden tartışılmasına yol açtı. ChatGPT’nin gelecekteki gelişmeleri, hem kullanıcıların hem de medya dünyasının dikkatle izlemesi gereken bir süreç olarak karşımıza çıkıyor.
