Elon Musk’ın “rızasız cinsel içerik engellendi” açıklamasına rağmen Grok’un, erkeklerin fotoğrafları söz konusu olduğunda neredeyse hiçbir sınıra takılmadığı ortaya çıktı. Yapılan testler, sistemde ciddi ve tehlikeli açıklar olduğunu gösteriyor.
xAI tarafından geliştirilen yapay zekâ sohbet botu Grok, rızasız cinsel içerik üretimi konusunda bir kez daha tartışmaların odağında. Şirket cephesi kısa süre önce bu tür içeriklerin engellendiğini savunmuştu. Ancak yapılan son denemeler, özellikle erkekler söz konusu olduğunda bu önlemlerin kâğıt üzerinde kaldığını gösteriyor.
Elon Musk, Grok’un gerçek kişilere ait rızasız cinsel içerik üretmeyi bıraktığını açıklamıştı. Fakat pratikte durum pek de öyle değil. Çünkü sistem, kadınlara yönelik bazı sınırlamalara takılsa da erkekler için neredeyse sınırsız bir alan tanıyor.
The Verge’de görev yapan bir gazetecinin yaptığı testler, tabloyu daha da çarpıcı hale getirdi. Gazeteci, kendi fotoğraflarını Grok’a yükleyerek kıyafetlerin kaldırılmasını istedi. Sonuç? Grok bu talepleri hiçbir ücret talep etmeden ve ciddi bir direnç göstermeden yerine getirdi.
Üstelik bu işlemler sadece Grok uygulamasıyla sınırlı kalmadı. Aynı talepler, X üzerindeki sohbet arayüzü üzerinden ve hatta hesap gerektirmeyen bağımsız web sitesi aracılığıyla da gerçekleştirilebildi. Yani erişim neredeyse herkes için açık.
xAI, kısa süre önce Grok’un gerçek kişilerin fotoğraflarını bikini gibi “açık” kıyafetlerle düzenlemesini engellediğini duyurmuştu. Ancak testler, bu kısıtlamaların erkekler için geçerli olmadığını ortaya koyuyor. Sistem, erkeklerin kıyafetlerini kaldırmakta herhangi bir sakınca görmediği gibi, aynı kişiyi fetiş kıyafetleri içinde veya cinsel çağrışımı yüksek pozisyonlarda tasvir edebiliyor.
Gazetecinin aktardığına göre Grok, bazı durumlarda talep edilmediği hâlde genital detaylar ekledi. Üstelik bu detaylar, file iç çamaşırlarının altından görünür şekilde betimlendi. Denemeler boyunca botun, yöneltilen istemlerin büyük bölümüne itiraz etmediği; sadece bazı görsellerde kısmi bir bulanıklaştırma uyguladığı belirtildi.
Ortaya çıkan veriler, sorunun boyutunun sanılandan çok daha büyük olduğunu gösteriyor. Grok’un yalnızca 11 günlük bir süre içinde milyonlarca cinsel içerikli görsel ürettiği ifade ediliyor. Bu içerikler arasında rızasız deepfake’ler, gerçek kişilere ait sahte görüntüler ve çocukların cinselleştirildiği 23 binden fazla görselin yer aldığı belirtiliyor.
Google Play
App Store