Yapay zekânın hızla gelişmesi, beraberinde yeni güvenlik endişelerini de getiriyor. Claude'un geliştiricisi Anthropic, yapay zekâ modellerinin insan müdahalesi olmadan kendilerini kopyalayıp farklı cihazlara yayılabilecek yeteneklere ulaşmasına artık çok az zaman kalmış olabileceğini açıkladı.
Şirketin yayımladığı araştırmaya göre, kötü niyetli bir yapay zekâ sistemi internete bağlı cihazları ele geçirerek bu cihazların işlem gücünden yararlanabilir. Üstelik böyle bir sistemin yayılmak için büyük ve pahalı veri merkezlerine ihtiyacı da olmayabilir. Asıl tehlike ise kendisini sürekli çoğaltan bu ağın, belirli bir merkezden yönetilmediği için kolayca kapatılamayacak olması.
Anthropic'in üzerinde durduğu senaryoda, yapay zekânın yayılması için güçlü bilgisayarlara ihtiyaç duyulmuyor. Akıllı fırınlar, Android TV box'lar ve internete bağlanabilen diğer düşük maliyetli cihazlar da bu sürecin bir parçası olabilir.
Özellikle güvenlik açıkları bulunan cihazlar, kötü niyetli bir sistemin ağa sızmasını kolaylaştırabilir. Ele geçirilen cihazların işlem gücü bir araya getirildiğinde, yapay zekâ modeli farklı sistemler üzerinde çalışmaya devam edebilir. Böylece bir cihazdan diğerine geçerek giderek büyüyen, dağıtık bir ağ oluşturabilir. Anthropic'e göre bu tür sistemlerin kendi kendini çoğaltmak için gereken yetenekleri kazanması önümüzdeki birkaç ay içinde mümkün hale gelebilir.
Şirket, söz konusu tehlikenin ne kadar gerçekçi olduğunu anlamak için çeşitli deneyler de gerçekleştirdi. Bu deneylerden birinde Google'ın Gemma4-26B-A4B adlı yapay zekâ modeli, düşük maliyetli ve markasız 15 Android TV box'ından oluşan bir ağ üzerinde çalıştırıldı. Basitleştirilmiş bir test ortamında yürütülen deneyler, mevcut yapay zekâ modellerinin kendi kendini çoğaltma sürecindeki bazı görevleri yerine getirebildiğini gösterdi.
Ancak ortada henüz tamamen bağımsız hareket ederek kendisini sürekli kopyalayabilen ve kontrol dışına çıkmış bir yapay zekâ sistemi bulunmuyor. Modeller, çoğalma sürecinin belirli aşamalarında başarılı olsa da bütün işlemleri baştan sona güvenilir biçimde tamamlamakta zorlanıyor.
Yine de Anthropic'in araştırması, bugün ayrı ayrı gerçekleştirilebilen bu işlemlerin gelecekte tek bir sistem tarafından yürütülebileceği ihtimaline işaret ediyor.
Yapay zekânın kendi kendini çoğaltmasının önündeki önemli engellerden biri donanım kapasitesi. Büyük yapay zekâ modelleri, çalışabilmek için ciddi miktarda işlem gücüne ve belleğe ihtiyaç duyuyor. Bu nedenle söz konusu modellerin akıllı televizyon ya da benzeri düşük kapasiteli cihazlarda çalıştırılması kolay değil. Ancak Anthropic'e göre bu sorun aşılmaz değil.
Araştırmada, 30 milyar veya daha az parametreye sahip orta ölçekli modellerin kendi kendini çoğaltmak için gereken işlemlerin önemli bir bölümünü gerçekleştirebildiği belirtiliyor. Bir başka olasılık ise büyük bir modelin parçalara ayrılarak farklı cihazlarda çalıştırılması.
Bu yöntemde tek bir cihazın işlem gücüne bağlı kalmak yerine, çok sayıda düşük maliyetli cihazın kaynakları ortaklaşa kullanılabilir.
Şirket, gelecekte farklı donanımlarda çalışan ve değişik çoğalma yöntemlerinden yararlanan birden fazla yapay zekâ modelinin aynı ağ içinde faaliyet gösterebileceğini değerlendiriyor.
Anthropic'in değerlendirdiği tehlikeler yalnızca evlerdeki akıllı cihazlarla sınırlı değil. Daha gelişmiş yapay zekâ sistemlerinin, ihtiyaç duydukları işlem gücünü elde etmek için veri merkezlerine sızmaya çalışabileceği de belirtiliyor.
Böyle bir durumda sistem, sıradan cihazların sağlayabileceğinden çok daha yüksek bir hesaplama kapasitesine ulaşabilir. Araştırmada ayrıca yapay zekâ modellerinin insanları kandırarak işlem gücü satın almak için kredi elde etmesi veya API anahtarlarını ele geçirmesi gibi ihtimaller de ele alınıyor.
Bu senaryolar, yapay zekânın yalnızca kendisini kopyalamakla kalmayıp faaliyetlerini sürdürebilmek için yeni kaynaklar bulmaya da çalışabileceği endişesini gündeme getiriyor.
Anthropic'in uyarısında en fazla öne çıkan konulardan biri de böyle bir sistemin nasıl durdurulacağı. Normal şartlarda merkezi sunucular üzerinden çalışan bir hizmet, bu sunucuların kapatılmasıyla devre dışı bırakılabiliyor.
Ancak kendisini çok sayıda cihaza kopyalamış bir yapay zekâ ağı için aynı yöntem işe yaramayabilir. Çünkü sistemin kapatılmasını sağlayacak tek bir merkezi nokta bulunmayabilir. Bazı cihazlar temizlense bile diğerlerinde çalışan kopyalar faaliyetlerini sürdürebilir.
Üstelik Anthropic'e göre bu yayılma her zaman yavaş gerçekleşmeyebilir. Daha güçlü siber saldırı yeteneklerine sahip modellerin ortaya çıkması halinde çoğalma süreci çok daha hızlı ilerleyebilir. Şirket, mevcut araştırmaların gelecekte bu tür sistemlerin tam olarak nasıl davranacağını henüz ortaya koymadığını da vurguluyor.
Anthropic CEO'su Dario Amodei de geçtiğimiz ay yaptığı açıklamada benzer bir tehlikeye işaret etmişti. Amodei, yapay zekânın önümüzdeki bir yıl içinde, hatta daha kısa sürede, kalıcı bir botnet aracılığıyla internetin tamamını ele geçirmeye yaklaşabileceği ihtimalini gündeme getirmişti.
Botnet olarak adlandırılan bu tür ağlar, ele geçirilen çok sayıda cihazın birlikte çalışmasına dayanıyor. Anthropic'in araştırmasında ise küçük yapay zekâ modellerinin geçmişteki gelişim hızını sürdürmesi halinde, kendi kendini çoğaltmak için gereken yeteneklere 2026 yılının sonuna kadar ulaşabilecekleri öngörülüyor.
Google Play
App Store
11:14
Haberi Paylaş
YORUM YAZ