Derinlemesine Analiz, Teyitli Haber! Tıkla ve favori kaynağın yap.
ABD merkezli yapay zekâ şirketi Anthropic, cuma günü yaptığı açıklamayla en gelişmiş modelleri arasında gösterilen Fable 5 ve Mythos 5'e erişimi durdurmak zorunda kaldığını duyurdu. Şirketin internet sitesinde yayımlanan açıklamaya göre bu karar, ABD hükümetinin aldığı son derece kısıtlayıcı bir ihracat kontrol talimatının ardından geldi.
Anthropic, kararın bir yanlış anlaşılmadan kaynaklandığını düşündüğünü belirterek erişimin yeniden açılması için çalışmalar yürüttüğünü açıkladı.
Söz konusu talimat, ABD vatandaşı olmayan kişilerin bu modelleri ABD içinde veya dışında kullanmasını yasaklıyor. Kararın arkasındaki ulusal güvenlik gerekçesi ise kamuoyuyla paylaşılmış değil.
Aslında bu gelişme, Anthropic'in son aylarda izlediği stratejiyi düşündüğümüzde pek de sürpriz sayılmıyor.
Şirket, nisan ayında Claude Mythos Preview isimli modelini kamuya açmak yerine dikkat çekici bir güvenlik kampanyası yürütmeyi tercih etmişti. Yayımlanan teknik raporlarda modelin aldatıcı davranışlar sergileyebileceği, belirli güvenlik sınırlarını aşabildiği ve gelişmiş silah teknolojileriyle ilgili çalışmalarda kullanılabilecek düzeyde bilgi sentezi yapabildiği öne sürülmüştü.
Özellikle biyolojik silah geliştirme süreçleriyle ilgili potansiyel yeteneklerine vurgu yapılması, modelin teknoloji dünyasının dışına taşarak geniş kitlelerin de gündemine girmesine neden oldu.
Aynı dönemde Anthropic, Project Glasswing adlı programı da hayata geçirdi. Bu program kapsamında sınırlı sayıdaki kuruluş ve araştırmacıya model üzerinde test yapma imkânı tanındı. Amaç, modelin siber güvenlik alanında yaratabileceği riskleri daha iyi anlamaktı.
Mythos kısa sürede yalnızca teknoloji çevrelerinin değil, ana akım medyanın da dikkatini çekti. Bazı uzmanlar bu tür sistemlerin gelecekte biyolojik, kimyasal ve henüz öngörülemeyen yeni silah türlerinin geliştirilmesine katkı sağlayabileceği yönünde uyarılarda bulundu.
İngiltere'de hükümet yetkilileri ve finans sektörü temsilcileri olası risklere karşı hazırlık planları oluştururken, ABD'de de yapay zekâya yönelik düzenleme tartışmaları hız kazandı. Hatta bazı değerlendirmelere göre Mythos'un duyurulması, yapay zekâ güvenliğini merkeze alan yeni politika adımlarının şekillenmesinde etkili oldu.
Buna rağmen Anthropic, geçtiğimiz hafta Fable 5 ve Mythos 5 modellerini kullanıma sundu.
Şirket, Fable 5'i "genel kullanıma uygun hâle getirilmiş Mythos sınıfı bir model" olarak tanımlarken, şimdiye kadar kamuya açtıkları en güçlü sistem olduğunu vurguladı. Mythos 5 ise yalnızca Project Glasswing kapsamında sınırlı erişimle sunuldu.
Anthropic'e göre hükümetin kaygılarının temelinde, Fable 5'in güvenlik önlemlerini aşabildiği öne sürülen bir yöntem bulunuyor.
Şirket açıklamasında, söz konusu tekniğin yalnızca daha önce bilinen ve nispeten küçük güvenlik açıklarını ortaya çıkardığını savundu. Ayrıca benzer açıkların diğer halka açık yapay zekâ modellerinde de bulunabildiğini ve bunların keşfedilmesi için özel bir güvenlik aşma yöntemine gerek olmadığını belirtti.
Anthropic, Fable 5'in duyurusu sırasında da tüm güvenlik önlemlerine rağmen bazı jailbreak yöntemlerinin tamamen engellenmesinin günümüz teknolojisiyle mümkün olmadığını açıkça ifade etmişti. Şirketin yaklaşımı, bu tür girişimleri tamamen ortadan kaldırmak yerine maliyetli ve zor hâle getirerek geniş çaplı kullanımını engellemek üzerine kuruluydu.
Dikkat çeken noktalardan biri ise Anthropic'in son açıklamalarındaki ton değişikliği oldu. Nisan ayında Mythos sınıfı modelleri insanlık için ciddi riskler taşıyabilecek, olağanüstü güçlü sistemler olarak tanıtan şirket, bugün yaşanan krizde aynı güvenlik açıklarını "küçük", "önceden bilinen" ve "basit" olarak nitelendiriyor.s
Google Play
App Store
13:15
