ChatGPT kullanıcılarının konuşmalarının kimler tarafından görülebildiği yeniden tartışma konusu oldu. 404 Media tarafından yayımlanan yeni bir iddiaya göre OpenAI, yapay zekanın verdiği yanıtları geliştirmek amacıyla gerçek kullanıcıların sohbetlerini insan çalışanlara inceletiyor. Haberde, şirket bünyesinde yürütülen çalışmanın adının “Project Lily” olduğu öne sürüldü. Proje kapsamında yüzlerce çalışanın ChatGPT kullanıcılarına ait gerçek konuşmaları inceleyerek yapay zekanın yanıtlarını doğruluk, üslup ve davranış açısından değerlendirdiği belirtildi.
İddiaya göre incelemelerde yalnızca ChatGPT’nin verdiği tek bir yanıt değil, bazı durumlarda kullanıcı ile yapay zeka arasında geçen uzun konuşmaların tamamı görülebiliyor. Çalışmanın özellikle yapay zekanın kullanıcıyı gereğinden fazla onaylaması anlamına gelen “sycophancy” davranışını azaltmaya odaklandığı ifade ediliyor.
Yani çalışanlardan, ChatGPT’nin kullanıcıya karşı fazla uyumlu davranıp davranmadığını, hatalı bir görüşü sırf kullanıcı söylediği için destekleyip desteklemediğini de değerlendirmeleri isteniyor.
Rapordaki en dikkat çekici ayrıntılardan biri ise gizlilik tarafında. İddiaya göre OpenAI, çalışanların önüne gelen konuşmalardaki kullanıcı adlarını kaldırıyor ve kişisel bilgileri gizlemeye çalışıyor. Ancak bu temizleme işleminin her zaman eksiksiz yapılamadığı öne sürülüyor.
Bu nedenle bazı sohbetlerde hassas veya kişisel bilgilerin insan çalışanlar tarafından görülebileceği iddia ediliyor. Açıkçası tartışmanın büyüdüğü nokta da tam olarak burada. Kullanıcı, ChatGPT ile yaptığı bir konuşmanın daha sonra bir çalışan tarafından değerlendirilebileceğini her zaman hesaba katmayabiliyor.
Modern yapay zeka sistemleri yalnızca internetten toplanan büyük veri kümeleriyle geliştirilmiyor. İnsanların verdiği puanlar ve geri bildirimler de modellerin nasıl yanıt vermesi gerektiğinin belirlenmesinde önemli rol oynuyor.
Çalışanların yaptığı değerlendirmeler, yapay zekanın hangi cevaplarının daha doğru, güvenli veya uygun olduğunun anlaşılmasına yardımcı olabiliyor.
Ancak gerçek kullanıcı konuşmalarının bu süreçte kullanıldığı iddiası, veri gizliliği ve kullanıcıların ne ölçüde bilgilendirildiği tartışmasını yeniden gündeme taşıdı.
Söz konusu bilgiler şu aşamada 404 Media’nın ulaştığını belirttiği OpenAI belgelerine ve görüştüğü kaynaklara dayanıyor. Bu nedenle uygulamanın tam olarak ne kadar geniş kapsamlı olduğu, hangi konuşmaların çalışanların önüne geldiği ve kişisel verilerin nasıl ayıklandığı konusunda ayrıntılar net değil.
Google Play
App Store
11:32
