Dini sohbet botları on milyonlarca kişiye ulaştı: Kullanmadan önce iki kez düşünün!

The New York Times gazetesinde yayınlanan habere göre, yapay zeka (YZ) destekli sohbet botları ve uygulamalar, insanların manevi hayatlarında giderek daha fazla yer edinmeye başladı. Haberde, dini içerikli sohbet botlarının ve mobil uygulamaların dünya genelinde milyonlarca kullanıcıya ulaştığı belirtildi.

Verilere göre, Bible Chat adlı uygulama 30 milyondan fazla indirildi. Bir başka dini uygulama olan Hallow ise geçtiğimiz yıl Apple'ın App Store platformunda en çok indirilen uygulama konumuna yükseldi.

Bu tür uygulamalar, kullanıcıların sorularına kutsal metinlerden ve dini öğretilerden alıntılarla cevap verme amacını taşıyor. Hatta bazı internet siteleri, insanlara "Yaratıcı ile sohbet etme" imkanı sunduğunu iddia ediyor.

'DİNİ SOHBET BOTLARI' NE KADAR GÜVENLİ?

Piyasada "dini sohbet botu" olarak pazarlanan uygulamalar, kullanıcıların sorduğu soruları cevaplamak için tasarlanmış yapay zeka modelleri üzerine inşa ediliyor. Ancak bu tür platformlara sorgusuz sualsiz güvenmemek ve yanlış yönlendirmeler olabileceğini akıldan çıkarmamak gerekiyor.

Yapay zeka uygulamalarının tamamı "halüsinasyon" sorunundan muzdarip ve hiçbir şirket bunu henüz tam olarak çözemedi. OpenAI'ın şimdiye kadarki "en güçlü, akıllı, hızlı ve güvenilir sürüm" olarak tanıttığı GPT-5 bile bazen kullanıcılara yalan yanlış bilgiler verebiliyor.

Yapay zeka sistemleri için halüsinasyonları ölçen ve analiz eden Vectara'nın araştırmasına göre, ChatGPT-5'in halüsinasyon oranı yüzde 1.4 olarak ölçüldü. Önceki sürüm olan GPT-4'te bu oran yüzde 1.8 seviyesindeydi. GPT-4o'nun halüsinasyon oranı yüzde 1.49, GPT-4 Turbo'nunki yüzde 1.69 seviyesinde olarak kayıtlara geçti.

YAPAY ZEKANIN HALÜSİNASYON GÖRMESİ NE DEMEK?

"Yapay zekanın halüsinasyon görmesi", kendinden uydurulmuş ama ikna edici görünen bilgiler üretmesi anlamına geliyor. Ve dini sohbet botları da aynı soruna sahip olabilir. Örneğin yanlış ayet numaraları, hatalı alıntılar veya dini metinlerden eksik/yanlış aktarımlar sunabilir.

Bazı dini metinlerin yorumu tarihsel, dilbilimsel ve mezhepsel bilgi gerektirebilir, yapay zeka ise bu nüansları kaçırabilir. Dolayısıyla insanlar doğrudan ya da dolaylı olarak yanlış veya eksik bilgi edinebilir.

MANİPÜLASYON İHTİMALİ DE UNUTULMAMALI

Yapay zeka destekli dini sohbet uygulamaları, kullanıcıların inançlarına, manevi hassasiyetlerine ve duygusal yönelimlerine hitap eden içerikler üretiyor. Bu da chatbot'ları manipülasyon için elverişli bir araç haline getirebilir. Bu risk ise birkaç farklı biçimde ortaya çıkabilir:

• Kötü niyetli geliştiriciler, uygulamanın cevaplarını bilinçli olarak belirli ideolojilere veya farklı görüşlere yönlendirebilir.
• Dini içerik gibi görünse de aslında propaganda, ticari reklam veya yanlış bilgi yayma amacı güden mesajlar üretilebilir.
• Özellikle bilinçsiz kullanıcılar, uygulamanın verdiği cevapları "nasıl olsa bu dini bir uygulama" diye düşünerek sorgusuz sualsiz kabul edip maddi bağış yapmaya ve kişisel verilerini paylaşmaya ikna edilebilir.

Kullanıcıların, dini sohbet botlarına yalnızca bir "araç" gözüyle bakmaları, hassas ve derin bilgi gerektiren konularda mutlaka daha güvenilir kaynaklara başvurmaları tavsiye ediliyor.

İLGİLİ HABERLER

Seçimlerde hezimete uğrayan parti lideri istifa etti! Yerine yapay zeka geldi

ChatGPT'ye Arapça konuşan dev rakip geldi: 2 milyar kişiye özel yapay zeka