OpenAI çalışanı 'dünya hazır değil' diyerek uyardı: İnsanlığı yok etme riski yüzde 70!
Dev şirket OpenAI içerisinde çalışan bir kişi yapay zekanın insanlığı yok etme ya da feci şekilde zarar verme ihtimalinin yüzde 70 olduğunu söyleyerek uyardı.
Teknoloji dünyasının en heyecan verici gelişmelerinden olan yapay zeka her alanda etkisini göstermeye başladı. Yararlı alanları olduğu gibi zararları da olan yapay zekada dolandırıcılık öne çıkıyor.
ABD merkezli yapay zeka merkezi OpenAI çalışanlarının güvenlik sorunlarını dile getirdikleri için susturuldukları iddia edilmişti. Çalışanların açık bir mektup yayınlamalarının ardından, mektubu imzalayanlardan biri daha da korkutucu bir tahminde bulundu.
Dünyanın en çok ilgilendiği teknolojiyle ilgili ‘yapay zekanın insanlığı yok etme ya da feci şekilde zarar verme olasılığı yazı tura atmaktan daha büyük’ ifadeleri kullanıldı.
OPENAI'I OLUŞTURDUĞU RİSKLERİ GÖRMEZDEN GELMEKLE SUÇLADI
Eski OpenAI yönetim araştırmacısı Daniel Kokotajlo, The New York Times'a verdiği bir röportajda şirketi, karar vericileri yapay genel zekânın (AGI) sunduğu olanaklardan çok etkilendikleri için yapay genel zekânın oluşturduğu muazzam riskleri görmezden gelmekle suçladı.
Kokotajlo, "OpenAI, AGI'yi inşa etme konusunda gerçekten heyecanlı" dedi.
"YAPAY ZEKANIN İNSANLIĞI YOK ETME RİSKİ YÜZDE 70"
Kokotajlo'nun gazeteye yaptığı en ilginç iddia ise, yapay zekanın insanlığı mahvetme ihtimalinin yüzde 70 civarında olduğu…
Yapay zekanın insanlığın sonunu getirme olasılığını ifade eden "p(doom)" terimi, makine öğrenimi dünyasında sürekli tartışılan bir konu.
31 yaşındaki Kokotajlo NYT'ye verdiği demeçte, 2022 yılında OpenAI'ye katıldıktan ve kendisinden teknolojinin ilerleyişini tahmin etmesi istendikten sonra, yalnızca endüstrinin 2027 yılına kadar AGI'ye ulaşacağına değil, aynı zamanda bunun insanlığa feci şekilde zarar verme ve hatta yok etme olasılığının büyük olduğuna ikna olduğunu söyledi.
BÜYÜK RİSKE KARŞI BİRLİK OLDULAR
Açık mektupta belirtildiği üzere Kokotajlo’yu destekleyenler arasında Google DeepMind ve Anthropic'in eski ve mevcut çalışanlarının yanı sıra geçen yıl benzer kaygılar nedeniyle Google'dan ayrılan "Yapay Zekanın Babası" Geoffrey Hinton da bulunuyor.
Yapay zekanın oluşturduğu riskler konusunda kamuoyunu "uyarma haklarını" savunuyorlar.
Kokotajlo, yapay zekanın insanlık için büyük riskler oluşturduğuna o kadar ikna oldu ki sonunda OpenAI CEO'su Sam Altman'a şirketin "güvenliğe dönmesi" ve teknolojiyi daha akıllı hale getirmeye devam etmek yerine onu dizginlemek için korkulukları uygulamaya daha fazla zaman harcaması gerektiğini bizzat söyledi.
Altman, eski çalışanın anlattığına göre o zamanlar onunla aynı fikirdeymiş gibi görünüyordu ancak zamanla bu sadece sözde bir hizmet gibi geldi. Kokotajlo, Nisan ayında firmadan ayrıldı ve ekibine gönderdiği bir e-postada, OpenAI'nin insan seviyesine yakın yapay zeka oluşturmaya çalışırken "sorumlu davranacağına dair güvenini kaybettiğini" söyledi.
"DÜNYA HAZIR DEĞİL, BİZ DE HAZIR DEĞİLİZ"
NYT ile paylaşılan e-postasında "Dünya hazır değil, biz de hazır değiliz" diyerek şunları ekledi:
"Ve her şeye rağmen acele etmemizden ve eylemlerimizi rasyonalize etmemizden endişe duyuyorum."
Şirket bu haberin yayınlanmasının ardından yaptığı açıklamada şu ifadeler yer aldı:
"En yetenekli ve en güvenli yapay zeka sistemlerini sağlama konusundaki geçmişimizle gurur duyuyoruz ve riski ele alma konusundaki bilimsel yaklaşımımıza inanıyoruz. Bu teknolojinin önemi göz önüne alındığında titiz bir tartışmanın çok önemli olduğu konusunda hemfikiriz ve hükümetler, sivil toplum ve dünyanın dört bir yanındaki diğer topluluklarla iletişim kurmaya devam edeceğiz."
Açıklamanın devamında, "Bu nedenle, çalışanlarımızın endişelerini dile getirmeleri için anonim bir dürüstlük hattı ve yönetim kurulu üyelerimiz ile şirketin güvenlik liderleri tarafından yönetilen bir Güvenlik ve Emniyet Komitesi de dahil olmak üzere yollarımız var" denildi.
