OpenAI'dan 'seçim' kararı! Yapay zeka aracını apar topar erteledi
OpenAI insan sesini 15 saniyelik bir örnek vasıtasıyla klonlayabilen "Voice Clone" programının kullanıma sunulmasını "seçim dönemindeki riskleri" nedeniyle ertelediğini açıkladı.
OpenAI, geçtiğimiz hafta insanların seslerini klonlayabilen "Voice Engine" uygulamasını tanıttı ancak aracın "önemli bir seçim yılında olası kötüye kullanım endişeleri nedeniyle" kamuya sunulmasını erteleme kararı aldığını açıkladı.
OpenAI'nın aracın yeteneklerini gösteren blog gönderisine göre Voice Engine, sadece 15 saniyelik bir ses örneğine dayanarak herhangi bir kişinin sesini kopyalayabiliyor ve istenilen dile çevirebiliyor.
"ARACIN CİDDİ RİSKLER TAŞIDIĞININ FARKINDAYIZ"
Ancak şirket, cuma günü yayınlanan blog yazısında, teknolojiye "temkinli ve bilinçli bir yaklaşım benimsediğini" ve "sentetik seslerin sorumlu bir şekilde konuşlandırılması" konusunda bir diyalog başlatmayı umduğunu söyledi.
"İnsanların seslerine benzeyen konuşmalar üretmenin, özellikle seçim yılında akla gelen ciddi riskler taşıdığının farkındayız" diyen şirket yönetimi; hükümet, medya, eğlence, eğitim, sivil toplum ve diğer alanlardan ABD'li ve uluslararası ortaklarla iletişim halinde olduklarını belirtti.
OpenAI, testlere ve kamuoyu tartışmalarına dayanarak teknolojinin geniş ölçekte dağıtılması konusunda "daha bilinçli bir karar" vereceğini sözlerine ekledi. Aracın yalnızca "orijinal konuşmacının bilinçli olarak hizmete kendi sesini eklemesini" sağlayacak ve "önemli isimlere çok benzeyen seslerin üretilmesini" önleyecek önlemlerle kullanıma sunulması gerektiğine inandığını da kaydetti.
80'DEN FAZLA ÜLKE SEÇİME GİDİYOR
Tarihin en büyük seçim yılı olarak adlandırılan 2024'te aralarında Meksika, Güney Afrika ve ABD'nin de bulunduğu 80'den fazla ülkede seçmen sandık başına gidecek. Türkiye de 31 Mart itibarıyla 81 ilde yerel yöneticilerini seçti. Seçime giderken başta gazeteci Cem Küçük olmak üzere birçok önemli isim, deepfake teknolojisiyle üretilen sahte görüntülerin hedefindeydi.
DEEPFAKE NEDİR?
Deepfake, yapay zeka tekniklerini kullanarak bir kişinin yüzünü, sesini veya davranışlarını başka bir kişiye ait bir video veya ses dosyasına entegre etmek için kullanılan bir teknoloji olup, videoları manipüle etmek için gerçekçi sonuçlar üretebilir ve bunu yaparken görüntü veya sesin doğal akıcılığını korur.
