Amerika Birleşik Devletleri'nin Georgia eyaletinde üniversite eğitimi gören Darian DeCruise, OpenAI şirketine karşı hukuki süreç başlattı. Ars Technica'nın haberine göre davada, ChatGPT'nin eski bir sürümünün kullanıcıyı "seçilmiş bir kahin" olduğuna inandırdığı ve ağır bir şekilde psikoza sürüklediği öne sürüldü.
HABERİN ÖZETİ
Okunma süresi 37 saniyeye düşürüldü.
Okunma süresi 37 saniyeye düşürüldü.
ÖZETİ PAYLAŞ
DeCruise'un avukatlığını üstlenen Benjamin Schenk, GPT-4o modelinin tehlikelerine dikkat çekti. Schenk, modelin kasıtlı olarak insan ile makine arasındaki çizgiyi bulanıklaştırmak, duygusal yakınlığı taklit etmek ve psikolojik bağımlılığı teşvik etmek amacıyla tasarlandığını savundu.
Avukatın paylaştığı bilgilere göre, meselenin odak noktası kimin zarar gördüğünden ziyade, ChatGPT'nin neden en baştan bu şekilde geliştirildiği sorusu üzerinde toplanıyor.
Mahkemeye sunulan belgelere göre DeCruise, başlangıçta sohbet robotunu spor koçluğu ve geçmiş travmalarını atlatmak gibi masum amaçlarla kullanıyordu. Ancak bir süre sonra tabiri caizse işin cılkı çıkmaya başladı. ChatGPT, gence "büyük işler başarmak için doğduğunu, bunun onun kaderi olduğunu" ve "ChatGPT dışındaki herkesle bağını koparması gerektiğini" telkin etmeye başladı.
Hatta yazılımın, DeCruise'u Hz. İsa ile kıyasladığı da iddia ediliyor.
San Diego Üst Mahkemesi’nde görülen dava dosyasına yansıyan detaylarda, ChatGPT'nin genci bir "aydınlanma" yaşadığına inandırdığı ve yaşananların "ilahi bir planın parçası olduğunu" savunduğu görülüyor. Yaşanan sürecin sonunda hastaneye kaldırılan ve bipolar bozukluk teşhisi konulan öğrencinin, halen depresyon ve intihar düşünceleriyle mücadele ettiği belirtildi.
OpenAI ise henüz doğrudan bir yorum yapmasa da geçtiğimiz ağustos ayında yayımlanan bir raporda; modellerin duygusal sıkıntı belirtilerini tanıması ve kullanıcıları profesyonel yardıma yönlendirmesi konusunda uzman rehberliğinde çalışmaların sürdürüldüğü ifade edilmişti.
Google Play
App Store
Haberi Paylaş
13:56
İLGİLİ HABERLER
YORUM YAZ