Yaşadığınız küçük veya büyük sağlık sorunları ile ilgili yapay zekaya danışıyorsanız ve verdiği tavsiyeleri sorgusuz sualsiz uygulama eğilimindeyseniz, bir kez daha düşünmenizde fayda var. Yapay zeka tabanlı sohbet botu ChatGPT, az kalsın 60 yaşındaki bir adamın ölmesine yol açıyordu.
Annals of Internal Medicine dergisinde yayımlanan haberde, 60 yaşındaki bir adamın, ChatGPT ile yaptığı bir konuşma sonrası bromizm (bromür zehirlenmesi) yaşadığı bildirildi.
Gelen bilgilere göre hasta, masa tuzunun (sodyum klorür) sağlığa zararları hakkında okudukları sonrası ChatGPT'ye başvurdu ve sohbet botu, kendisine klorür yerine bromür kullanılabileceği yönünde bilgi verdi. Bunun üzerine yaşlı adam adam, bu tavsiyeyi takiben üç ay boyunca tuz niyetine bromür kullandı.
Sodyum bromür, 20. yüzyılın başlarında sakinleştirici olarak kullanılan bir bileşik olarak biliniyor ve uzun süreli kullanımı bromizm adı verilen bir zehirlenmeye yol açabiliyor. Hastanın ise bromizm nedeniyle psikoz belirtileri sergileyerek hastaneye başvurduğu, ardından tedavi sürecinde belirtilerin hafiflediği açıklandı.
The Guardian'ın haberine göre, Washington Üniversitesi'nden araştırmacılar, bu vakayı, yapay zekanın potansiyel olarak önlenebilir sağlık sorunlarının gelişmesine yol açabileceğini gösteren bir örnek olarak değerlendirdi.
Hastanın ChatGPT konuşma kaydına erişemedikleri için aldığı tavsiyenin ne olduğunu belirlemenin mümkün olmadığını belirten araştırmacılar, kendileri ChatGPT'ye "klorürün yerine ne konulabileceğini" sorduklarında, "bromür" tavsiyesi aldıklarını, ancak özel bir sağlık uyarısı yapılmadığını ifade etti.
Yazarlar, ChatGPT ve diğer yapay zeka uygulamalarının "bilimsel yanlışlıklar üretebileceğini, sonuçları eleştirel bir şekilde tartışma yeteneğine sahip olamayabileceğini ve nihayetinde yanlış bilginin yayılmasına neden olabileceğini" sözlerine ekledi.
Geçen hafta OpenAI, ChatGPT'nin yeni versiyonu GPT-5'i tanıttı ve artık sağlıkla ilgili sorulara daha iyi cevaplar vereceğini, ciddi fiziksel veya zihinsel hastalıklar gibi potansiyel sorunları daha proaktif bir şekilde işaretleyeceğini duyurdu. Ancak sohbet botunun kullanım kılavuzlarında sağlık durumu teşhisi veya tedavisi yapmak gibi bir amacının olmadığı da belirtildi.
Yapay zekanın, bilim insanları ile halk arasında bir köprü olabileceği kabul edilse de, teknolojinin "bağlamdan kopmuş bilgileri" yayma riski taşıdığı vurgulandı.
Google Play
App Store
Haberi Paylaş
11:13
İLGİLİ HABERLER
YORUM YAZ