Nvidia'nın RTX 30 serisi ekran kartları, yıllar sonra yeniden gündemde. Ancak bu kez oyun performanslarıyla değil, yapay zekâ işlemlerindeki gizli güçleriyle. Geliştirilen açık kaynaklı yeni bir araç, Ampere mimarisine sahip bazı GeForce ekran kartlarında bulunan hesaplama kısıtlamalarını aşarak performansta ciddi artışlar sağlıyor. Zagita adı verilen proje, özellikle FP16 ve BF16 hesaplama işlemlerinde ekran kartlarının mevcut kapasitesinden daha fazla yararlanılmasına imkan tanıyor. Üstelik bunun için donanım üzerinde herhangi bir değişiklik yapılması ya da ekran kartının vBIOS yazılımına müdahale edilmesi gerekmiyor.
Projenin odağında Nvidia'nın GA102, GA103, GA104 ve GA106 GPU'larını kullanan RTX 30 serisi ekran kartları bulunuyor. Profesyonel modellere kıyasla hesaplama performansı sınırlandırılan bu kartlarda, yazılımsal kısıtlamaların aşılmasıyla dikkat çekici sonuçlar elde edildi. Yapılan testlerde bazı modellerin FP16 ve BF16 performansı neredeyse iki katına çıktı.
Örneğin RTX 3090 Ti'ın BF16 hesaplama gücü 87,5 TFLOPS'tan 157 TFLOPS'a yükseldi. Aynı kartın TF32 performansı ise 42,6 TFLOPS seviyesinden 82,6 TFLOPS'a ulaştı.
RTX 3080 10 GB modelinde de benzer bir tablo ortaya çıktı. Ekran kartının FP16 performansı 65 TFLOPS'tan 113 TFLOPS'a çıktı. Kullanıcıların paylaştığı test sonuçları, RTX 30 serisinde yüzde 80'e kadar performans kazanımı sağlanabildiğini gösteriyor. Ancak artış oranı ekran kartının modeline ve çalıştırılan iş yüküne göre farklılık gösteriyor.
Zagita projesi kapsamında paylaşılan test sonuçlarında RTX 3090 Ti, RTX 3070 ve RTX 3060 12 GB modelleri öne çıktı. Bazı kartlarda yüzde 80'i aşan kazanımlar görülürken, tüm modellerde aynı sonuç elde edilemedi.
Test sonuçlarına göre RTX 3080 Ti 20 GB modelinde kilit açma işlemi tamamlanmasına rağmen BF16 performansı yarı hızda kaldı. RTX 3070 Ti ise bu modülle henüz test edilmedi. Bununla birlikte aynı kilit açma yönteminin Windows'ta UEFI portu üzerinden çalıştığı bildirildi.
Yeni aracın asıl fark yarattığı alanlardan biri de büyük dil modelleri (LLM) oldu. Yapılan testlerde kilidi açılmış RTX 30 serisi ekran kartlarının, uzun bağlamlı yapay zekâ işlemlerinde kullanılan Prefill aşamasında yüzde 33-36 daha yüksek performans sunduğu görüldü. Bir başka önemli gelişme ise yanıt süresinde yaşandı. Yapay zekâ modelinin ilk token'ı üretmesine kadar geçen gecikme yaklaşık yüzde 25 azaldı.
Buna karşılık modelin yanıtını adım adım oluşturduğu Decode aşamasında belirgin bir performans değişikliği görülmedi. Yani yeni araç, özellikle yapay zekânın uzun metinleri işlemesi ve ilk yanıtı oluşturması sırasında avantaj sağlıyor.
Zagita yalnızca RTX 30 serisine yönelik geliştirilmiş bir çözüm değil. Projenin daha eski GTX 9, GTX 10 ve RTX 20 serisi ekran kartlarında da belirli performans kazanımları sağlayabildiği belirtiliyor. RTX 40 serisi de desteklenen modeller arasında yer alıyor. Ancak şu ana kadar en büyük kazanımların Ampere mimarisine sahip RTX 30 ekran kartlarında elde edildiği görülüyor.
Aracın önündeki en önemli engellerden biri ise işletim sistemi desteği. Proje şimdilik Linux ile sınırlı ve Windows için henüz doğrudan destek sunulmuyor.
Yapay zekâ tarafındaki gelişmeler, eski nesil ekran kartlarına yönelik ilgiyi de artırıyor. Özellikle 24 GB VRAM kapasitesine sahip RTX 3090, büyük dil modelleriyle çalışan kullanıcılar açısından yeniden cazip hale gelmiş durumda. Ancak bu ilginin ikinci el piyasasında da karşılığı var. Yurt dışında daha önce yaklaşık 1.000 dolar seviyelerinde satılan RTX 3090'ın fiyatı, son dönemde 2.000 doların üzerine çıktı. RTX 3090 Ti'ın fiyatı ise 3.000 dolara yaklaştı.
Google Play
App Store
17:29
Haberi Paylaş
İLGİLİ HABERLER
YORUM YAZ