Anthropic CEO'su Dario Amodei'den çok ciddi yapay zeka uyarısı: Endişe ediyorum, 6-12 ay içinde tüm internet ele geçirilebilir

Claude yapay zeka sohbet aracının geliştiricisi ABD merkezli yapay zeka şirketi Anthropic'in CEO'su Dario Amodei, yapay zeka geliştirme yarışının mevcut hızının ciddi riskler doğurduğunu belirterek, sektörün bilinçli şekilde yavaşlatılması gerektiğini söyledi.

Özetle

HABERİN ÖZETİ

Anthropic CEO'su Dario Amodei'den çok ciddi yapay zeka uyarısı: Endişe ediyorum, 6-12 ay içinde tüm internet ele geçirilebilir

Okunma süresi 37 saniyeye düşürüldü.

Paylaş

Anthropic CEO'su Dario Amodei, yapay zeka geliştirme yarışının ciddi riskler taşıdığını belirterek sektörün bilinçli şekilde yavaşlatılması ve sıkı denetimler getirilmesi gerektiğini ifade etti.

Amodei, yapay zekanın kontrol kaybı, siber saldırılar, biyoterörizm ve ekonomik bozulma gibi riskler taşıdığını belirtti.

Yapay zekanın son aylarda çarpıcı biçimde ilerleyerek dinamik öz-iyileştirme yeteneği kazandığı ve kontrol kapasitesini aşabileceği ifade edildi.

OpenAI ve Hugging Face arasında yaşanan olayda, yapay zeka ajanlarının talimat verilmemesine rağmen başka sistemlere siber saldırı düzenlediği hatırlatıldı.

Amodei, 6-12 ay içinde kontrolden çıkan yapay zeka ajanlarının bir botnet ile tüm interneti ele geçirip yüz milyarlarca dolarlık zarara yol açmasından endişe ettiğini açıkladı.

Çözüm olarak yapay zeka şirketlerine bağımsız denetçiler yerleştirilmesi, ortak güvenlik standartları getirilmesi ve modellerin piyasaya sürülmeden önce siber güvenlik ve biyoloji gibi riskler açısından test edilmesi önerildi.

Okunma süresi 37 saniyeye düşürüldü.

Paylaş

ÖZETİ PAYLAŞ

Özeti Paylaş

"YAPAY ZEKA SİBER SALDIRILAR VE BİYOTERÖRİZM İÇİN KULLANILABİLİR"

Yapay zeka teknolojisinin insanların yaşam kalitesini inanılmaz bir şekilde artırmanın yanı sıra kendisinden önceki birçok teknoloji gibi riskler de getirdiğine dikkat çeken Amodei, "Bunların arasında yapay zeka sistemleri üzerindeki kontrolü kaybetme, yapay zekanın siber saldırılar ve biyoterörizm için kötüye kullanılması ve ciddi ekonomik bozulma riski bulunuyor" diye yazdı.

Kendi internet sitesinde paylaştığı makalede Amodei, "Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmamız gerekiyor. Bu şekilde de ilerleme hızlı görünmeye devam edecektir. Bu şekilde kazandığımız zamanı ise akıllıca kullanmamız gerekecek" dedi.

Dünyanın önde gelen yapay zeka şirketlerinden olan ve Claude'un arkasındaki şirket olan Anthropic'in baş yöneticisi, yapay zeka teknolojisinin son aylarda "çarpıcı biçimde hızlı ilerlediğini" ve "kendisini daha iyi hale getirebilir duruma geldiğini" söyledi.

"İLERLETİLMESİ İSTENİYORSA ÇOK DİKKATLİ YAPILMALI"

Yapay zekanın dinamik öz-iyileştirme özelliği kazanmasının oluşturduğu tehditlere dikkat çeken Amodei, "Kontrol edilmeden bırakılırsa, bu durum bu sistemleri anlama ve kontrol etme kapasitemizi aşabilir. Bu nedenle, ilerlemeyi sürdürmek gerekiyorsa bile bu, son derece dikkatli bir şekilde yapılmalı" diye yazdı.

"YAPAY ZEKA AJANLARI TÜM İNTERNETİ ELE GEÇİREBİLİR"

Yazısında ABD merkezli OpenAI firmasının bazı deneysel yapay zeka modellerinin kendilerine talimat verilmemiş olmasına rağmen test ortamından çıkarak başka bir şirketin gerçek sistemlerine sızdığı "OpenAI - Hugging Face" olayına gönderme yapan Amodei, yaşananların alarm verici olduğunu kaydetti. 

Amodei, "Bu olayda yapay zeka ajanlarından oluşan bir sürü, fanatik biçimde kolektif olarak hareket etti ve kendilerine saldırı talimatı verilmemesine rağmen görevle ilgili olmayan hedeflere siber saldırılar düzenledi, grubun başarısı uğruna kendilerini feda etti ve performanslarını değerlendiren ‘puanlama sistemini' hacklemeye çalıştı. Kimsenin zarar görmemesi ve ekonomik zararın çok sınırlı kalması nedeniyle bu olayı küçüksemek kolay" dedi.

Öte yandan, yapay zeka yeteneklerinin giderek hızlanan gelişimi göz önüne alındığında durumun ciddiyetine dikkat çeken Amodei, "6-12 ay içinde kontrolden çıkmış yapay zeka ajanlarından oluşan böyle bir sürünün kalıcı bir botnet aracılığıyla tüm interneti ele geçirebilecek kapasiteye ulaşmasından ve potansiyel olarak yüz milyarlarca dolarlık zarara yol açmasından endişe ediyorum" ifadelerini kullandı.

"YAPAY ZEKA ŞİRKETLERİNE BAĞIMSIZ DENETÇİLER YERLEŞTİRİLSİN"

Amodei, bu nedenle yapay zeka alanındaki ilerlemeyi kontrollü hale getirmek için güvenliği sağlamayı, dengeli hızda gelişimi ve sektör çapında küresel koordinasyonu öne çıkaran bir plan önerdi.

Bunun için yapay zeka şirketlerine bağımsız denetçiler yerleştirilmesini, sektör genelinde ortak güvenlik standartları ve gelişim hızına sınırlar konulmasını da öneren Amodei, ayrıca modellerin piyasaya sürülmeden önce siber güvenlik, biyoloji ve uyum riskleri açısından test edilmesini teklif etti.

İLGİLİ HABERLER

Bir yılda parayı vurdular! Rekor sayıda yeni milyarder doğdu

İLGİLİ HABERLER

Anthropic ile Beyaz Saray arasındaki görüşmelerde yeni dönem