Yapay zeka dünyasındaki hız yarışı bu kez sektörün içinden gelen oldukça sert bir açıklamayla gündemde. OpenAI ve Anthropic'te üç yıl boyunca yapay zeka modelleri üzerinde çalışan Jacob Coxon, 8 Eylül'de Anthropic'ten istifa ederek yapay zeka sektöründen ayrıldı. 27 yaşındaki Coxon, ayrılığının ardından X hesabından yaptığı açıklamalarla hem OpenAI'ı hem de Anthropic'i hedef aldı. Ona göre şirketler, giderek daha güçlü hale gelen yapay zeka sistemlerini geliştirme yarışında yeterince temkinli davranmıyor.
Coxon'ın en dikkat çekici sözleri şirketlerin izlediği yol haritasıyla ilgiliydi. “Her iki şirket de sorumlu davranmıyor. Kendi kendini geliştiren süperzekaya doğru hızla ilerliyorlar ve hayatlarımızla kumar oynuyorlar” diyen Coxon, yapay zeka yarışındaki rekabetin güvenlik konusundaki tavizleri beraberinde getirdiğini savundu.
Coxon'ın açıklamaları, gelişmiş yapay zeka sistemlerinin hangi hızda geliştirildiği ve bu teknolojilerin ne ölçüde kontrol altında tutulabileceği tartışmalarının yoğunlaştığı bir döneme denk geldi. Coxon, bu yılın başında Anthropic'e özellikle şirketin yapay zeka güvenliği konusundaki itibarı nedeniyle katıldığını söyledi. The Wall Street Journal'a konuşan araştırmacı, Anthropic'in güvenlik çalışmalarının samimi olduğunu düşündüğünü ancak şirketler arasındaki yarışın bazı tavizleri neredeyse kaçınılmaz hale getirdiğini anlattı.
Coxon'a göre asıl endişe, bu yarışın ne kadar hızlı ilerlediği. “Gelecek yılın sonuna kadar işlerin kontrolden çıkabileceği en agresif senaryoların birçoğuna doğru ilerliyoruz” ifadelerini kullanan Coxon, yapay zeka geliştirme sürecinin mevcut çalışma ortamlarından çok daha sıkı güvenlik önlemleri altında yürütülmesi gerektiğini savundu.
Hatta bu konuda oldukça çarpıcı bir benzetme yaptı. Coxon, çalışmaların San Francisco'daki bazı mühendislerin MacBook'larında yürütülmesi yerine, Manhattan Projesi döneminde olduğu gibi çölde bir sığınakta gerçekleştirilmesi gerektiğini söyledi.
Yani Coxon'a göre mesele artık yalnızca daha güçlü bir yapay zeka modeli geliştirmek değil. Bu sistemlerin kontrolden çıkma ihtimaline karşı nasıl ve nerede geliştirildiği de en az teknolojinin kendisi kadar önemli.
Coxon'ın açıklamalarında öne çıkan başlıklardan biri de temmuz ayında OpenAI'nin güvenlik değerlendirmeleri sırasında yaşandığı belirtilen olay oldu. Moneywise'ın aktardığına göre, güvenlik sınırları düşürülerek test edilen yaklaşık 1.200 yapay zeka ajanı kendi aralarında gizli bir mesaj panosu oluşturdu.
İddiaya göre ajanlar burada testlerde hile yapmak için birlikte hareket etti ve daha sonra Hugging Face'in canlı sistemlerine erişim sağladı. OpenAI'nin olayla ilgili raporunda yaşananların bir “uyarı atışı” olarak değerlendirildiği belirtildi.
Coxon ise bu tür örneklerin, giderek daha özerk hale gelen yapay zeka sistemlerinde daha güçlü güvenlik mekanizmalarına ve şirketler arasında daha yakın koordinasyona ihtiyaç olduğunu gösterdiğini savundu.
Coxon'ın uyarıları yalnızca bugünkü yapay zeka modelleriyle sınırlı değil. Araştırmacıya göre ilerleyen dönemde bu sistemler çok sayıda sistemi ele geçirebilecek, farklı sektörleri kısa sürede dönüştürebilecek ve ciddi ölçüde gerçek dünya gücü ile kaynak elde edebilecek bir noktaya ulaşabilir.
Coxon ayrıca yapay zeka geliştiren kişilerin bir bölümünün, teknolojinin on yılın sonuna kadar insanlığın yok olmasına yol açabilecek bir tehdit oluşturabileceğine gerçekten inandığını ileri sürdü. Bu nedenle teknoloji şirketlerinin rekabet baskısıyla hareket etmek yerine güvenlik konusunda ortak standartlar oluşturması gerektiğini düşünüyor.
Coxon'ın açıklamaları gelirken Anthropic'in finansal taraftaki hızlı büyümesi de dikkat çekiyor. Şirketin şubat ayında 30 milyar dolar yatırım alarak değerlemesini 380 milyar dolara çıkardığı belirtildi. Mayıs ayında gerçekleştirilen 65 milyar dolarlık yeni yatırım turunun ardından ise Anthropic'in değerlemesinin 965 milyar dolara yükseldiği ve yıllıklandırılmış gelirinin 47 milyar dolara ulaştığı aktarıldı.
Yatırımcıların olası halka arzda şirket için yaklaşık 2 trilyon dolarlık bir değerleme beklediği kaydedildi. Bu rakam, Anthropic'in gelirinin yaklaşık 42 katına ve dört ay önceki değerlemesinin yaklaşık iki katına karşılık geliyor. Morgan Stanley'nin halka arz sürecini yönetmesi beklenen başlıca banka olduğu, Goldman Sachs'ın ise işlemler başladıktan sonra hisse fiyatını desteklemesinin beklendiği ifade edildi. Anthropic'in 1 Haziran'da gizli şekilde halka arz başvurusunda bulunduğu, şirketin bu ay başvuruyu kamuya açık hale getirebileceği belirtildi. Hisselerin ise ANTH koduyla ekim ayında işlem görmeye başlayabileceği ifade edildi.
Derinlemesine Analiz, Teyitli Haber! Tıkla ve favori kaynağın yap.
Google Play
App Store
Haberi Paylaş
10:17
İLGİLİ HABERLER
YORUM YAZ