Elon Musk’ın sahibi olduğu X platformundaki yapay zekâ sohbet botu Grok'un cinsel içerikli deepfake görseller üretmesi uluslararası krize dönüştü. Endonezya ve Malezya erişimi tamamen kapatırken, İngiltere’de düzenleyici kurum Ofcom devreye girdi.
Birleşik Krallık’ın iletişim düzenleyicisi Ofcom, sosyal medya platformu X bünyesinde kullanılan yapay zekâ sohbet botu Grok hakkında soruşturma başlattı.
Kararın arkasında, Grok’un kadınlar ve çocuklar da dâhil olmak üzere rıza dışı cinsel içerikli deepfake görseller üretmek için kullanıldığına dair artan şikâyetler var. Ofcom, inceleme kapsamında X’in İngiltere’nin Çevrimiçi Güvenlik Yasası’na uyup uymadığını mercek altına alacak.
Bu yasa, platformlara yasa dışı içeriklere karşı kullanıcıları koruma ve riskli içerik tespit edildiğinde hızlı müdahale etme zorunluluğu getiriyor. İhlal tespit edilmesi hâlinde, X’e küresel gelirinin yüzde 10’una kadar para cezası kesilmesi ya da İngiltere genelinde erişim engeli talep edilmesi gündeme gelebilecek.
Ofcom’dan yapılan açıklamada, Grok’un insanların üzerleri çıkarılmış şekilde gösterildiği görseller üretmek için kullanıldığına dair “son derece endişe verici” raporlar alındığı vurgulandı. Kuruma göre bu içerikler; mahrem görüntü istismarı, pornografi ya da çocuk cinsel istismarı materyali kapsamına girebilir.
Deepfake araştırmacısı Genevieve Oh ise tabloyu daha da çarpıcı sözlerle özetliyor. Oh’a göre sohbet botu, saatte binlerce cinsel içerikli görsel üretiyor ve bu görsellerin önemli bir bölümünde gerçek kişilerin yüzleri kullanılıyor. Bazı örneklerde tanınabilir kadınların açık biçimde pozlandırıldığı, hatta tamamen çıplak çocuk tasvirlerinin yer aldığı bildiriliyor.
Tepkiler İngiltere ile sınırlı kalmadı. Endonezya ve Malezya, Grok’u erişime kapatan dünyadaki ilk ülkeler oldu.
Endonezya’da yetkililer Cumartesi günü geçici erişim engeli getirdi. Malezya ise Pazar günü benzer bir karar alarak, aracın kamu güvenliği açısından acil risk oluşturduğunu açıkladı. Malezya İletişim ve Multimedya Komisyonu, Grok’un kadınlar ve çocuklar dâhil olmak üzere müstehcen ve izinsiz biçimde değiştirilmiş görüntüler üretmekte defalarca kullanıldığını belirtti.
Komisyon, X ve Grok’un geliştiricisi xAI ile temasa geçildiğini, ancak verilen cevapların riskleri yeterince azaltmadığını da ekledi. Gerekli güvenlik önlemleri hayata geçirilene kadar erişim engelinin süreceği açıklandı.
Grok’un görsel üretim araçları, başka ülkelerin de radarında. Avustralya, Avrupa Birliği, Hindistan ve Fransa’dan art arda uyarılar geldi. Avustralya eSafety Komiserliği, çok sayıda şikâyet aldığını ve X’ten güvenlik önlemleriyle ilgili ayrıntılı açıklama talep etti. Avrupa Komisyonu ise Grok’un çocukları cinselleştiren görüntüler ürettiğini gözlemlediklerini belirterek, bu faaliyetlerin derhal durdurulması çağrısında bulundu.
Google Play
App Store