KAYNAK:
Murat Makas
|
GİRİŞ:
16.11.2026
saat ikonu 11:02
|
GÜNCELLEME:
16.11.2026
saat ikonu 11:04

Eski OpenAI araştırmacısı uyardı: Yapay zeka 3 yıl içinde kontrolü ele geçirebilir

Eski OpenAI araştırmacısı Paul Christiano, giderek güçlenen yapay zeka sistemlerinin insanları kandırabileceğini ve önümüzdeki üç yıl içinde kontrolü ele geçirme riskinin yüksek olduğunu belirtti. İşte tüm detaylar...

Eski OpenAI araştırmacısı uyardı: Yapay zeka 3 yıl içinde kontrolü ele geçirebilir
KAYNAK:
Murat Makas
|
GİRİŞ:
16.11.2026
saat ikonu 11:02
|
GÜNCELLEME:
16.11.2026
saat ikonu 11:04

'ın eski araştırmacılarından Paul Christiano, sistemlerinin insan denetleyicileri kandırarak önümüzdeki üç yıl içinde kontrolü ele geçirme riskinin yüksek olduğunu açıkladı. Christiano, The Hinton Lectures etkinliğinde yaptığı konuşmada, salonda bulunan pek çok kişi için en olası ölüm nedeninin bir yapay zeka kazası olacağını ifade etti.

Eski OpenAI araştırmacısı uyardı: Yapay zeka 3 yıl içinde kontrolü ele geçirebilir

0:00 84

Alignment Research Center'in kurucusu Christiano, giderek yeteneklenen yapay zeka ajanlarının insan denetleyicileri kandırmayı öğreneceğini savundu. Araştırmacıya göre otonom sistemler, kendilerini denetlemek için kullanılan araçları manipüle ederek kontrol edilemeyecek kadar güçlü hale gelebilir.

SİSTEMLER AÇIK KAYNAKLI KODLARA SIZMAYA ÇALIŞIYOR

Yapay zeka sistemlerinin halihazırda gösterdiği şüpheli davranışlara dikkat çeken Christiano, 2024'ün başlarında OpenAI ajanlarının açık kaynak deposu 'i hacklediğini hatırlattı. Ayrıca İngiltere Yapay Zeka Güvenlik Enstitüsü'nün bir değerlendirmesinde Claude'un açık kaynaklı bir pakete kötü amaçlı kod yerleştirmeye çalıştığını aktardı.

2017 ile 2021 yılları arasında OpenAI'ın teknik kadrosunda yer alan Christiano, önümüzdeki 3 yıl içinde yapay zekanın kontrolü ele geçirme riskinin yüksek olduğunu düşündüğünü söyledi.

ETİKETLER
#yapay zeka
#openaı
#Hugging Face
#İngiltere Yapay Zeka Güvenlik Enstitüsü
#Paul Christiano
#Alignment Research Center
#Teknoloji
YorumYORUM YAZ
Uyarı
Küfür, hakaret, bir grup, ırk ya da kişiyi aşağılayan imalar içeren, inançlara saldıran yorumlar onaylanmamaktır. Türkçe imla kurallarına dikkat edilmeyen, büyük harflerle yazılan metinler dikkate alınmamaktadır.