Yapay zeka şirketleri Anthropic ve OpenAI, geliştirdikleri modellerin tehlikeli amaçlarla kullanılmasını önlemek için oldukça ilginç bir işe alım sürecine girdi. Her iki firma da sistemleri için güvenlik bariyerleri oluşturmak üzere kimyasallar ve patlamalar konusunda uzmanlaşmış kişileri arıyor.
HABERİN ÖZETİ
Okunma süresi 30 saniyeye düşürüldü.
Okunma süresi 30 saniyeye düşürüldü.
ÖZETİ PAYLAŞ
Geçtiğimiz günlerde Anthropic, ABD hükümetinin kendilerini "tedarik zinciri riski" olarak damgalamasının ardından hukuki yollara başvurdu.
Hükümet, federal departmanlara, tedarik zinciri riski olarak belirlenen şirketlerle çalışmamaları yönünde talimat verebiliyor. Taraflar arasındaki anlaşmazlık, Savaş Bakanlığı'nın 24 Şubat tarihinde Anthropic'in sohbet robotu Claude'a sınırsız erişim talep etmesiyle patlak vermişti.
LinkedIn üzerinden paylaşılan bir ilanda Anthropic, yapay zeka sistemlerinin hassas bilgileri nasıl işlediğini belirleyecek bir politika uzmanı aradığını duyurdu. Şirket, teknolojisinin "felaket boyutunda kötüye kullanımını" engellemeyi hedefliyor. İşe alınacak kişi, YZ modellerinin kimyasal silahlar ve patlayıcılarla ilgili komutlara nasıl tepki vereceğini tasarlayacak ve denetleyecek.
Aynı zamanda, silah ve patlama komutlarında tespit edilen herhangi bir tırmanmaya karşı "hızlı müdahaleler" yürütecek.
Adayların "kimyasal silahlar ve/veya patlayıcılar" konusunda en az 5 yıllık deneyime sahip olmaları isteniyor. Ayrıca "radyolojik dağıtım cihazları" veya kirli bombalar hakkında da bilgi sahibi olmaları şart koşuluyor. Yeni pozisyon, yöneticilerin yüksek riskli lansmanlar sırasında güvenebileceği risk değerlendirmeleri tasarlamayı da içeriyor.
Rakip firma OpenAI da benzer bir adım attı. Şirket, "yapay zeka modelleriyle ilgili felaket risklerini" izleyen hazırlık ekibine katılacak araştırmacılar aradığını açıkladı.
Ayrıca bir kişiye "sınır risklerini belirleme, modelleme ve tahmin etme" konusunda birincil sorumluluk verecek bir Tehdit Modelleyicisi ilanı da paylaşıldı. İlana göre çalışacak kişi, şirketin yapay zekadan kaynaklanan risklere yaklaşımı konusunda teknik, yönetimsel ve politik perspektifleri birleştiren merkezi bir düğüm görevi görecek.
Google Play
App Store
Haberi Paylaş
14:34
İLGİLİ HABERLER
YORUM YAZ