NVIDIA Nemotron 3.5 modellerini kurumsal ajanlar ve yerel kullanım için duyurdu

NVIDIA, 15 Ekim Perşembe günü kurumsal ajanlar ve yerel yapay zekâ kullanımı için Nemotron 3.5 ailesinden yeni açık ağırlıklı modeller duyurdu. Şirketin açıklamasına göre 120 milyar parametreli Nemotron 3.5 Super VL kurumsal kullanıma, iki daha küçük Bolt modeli ise bilgisayarlarda yerel çalışmaya odaklanıyor. Super VL ve Bolt 74B-A9B erişime açılırken Bolt E4B’nin ay sonuna doğru sunulması planlanıyor.

Super VL kurumsal ajanları hedefliyor

NVIDIA, Super VL’nin Nemotron 3 Ultra’dan daha az parametre kullanmasına karşın talimatları izleme ve araç kullanma görevlerinde benzer doğruluk sağlayabildiğini söylüyor. Bu değerlendirme şirkete ait; kaynakta bağımsız test sonuçları veya karşılaştırma ölçümleri yer almıyor.

Modelin belge analizi, finansal muhasebe, bilimsel deneyler, sağlık sigortası talepleri ve güvenlik saldırılarına dayanıklılık gibi alanlarda kullanılabileceği aktarılıyor. NVIDIA, belirli ajan görevleri için sonradan eğitildiğinde Super VL’nin Anthropic ve OpenAI modellerinden daha hızlı çalıştığını öne sürüyor. Şirketin verdiği bu hız iddiası da belirli görevlerdeki sonradan eğitim koşuluna bağlı.

NVIDIA’nın bildirdiğine göre Skydance, EY, Ramp, Crowdstrike, Perplexity ve Salesforce Super VL’yi kullanan kuruluşlar arasında. Modelin açık ağırlıklı olması, kurumların kendi verileriyle ek eğitim yapıp kendi altyapılarında dağıtım gerçekleştirmesine imkân vermeyi amaçlıyor. Ancak kaynakta lisans koşulları ve kullanım bedeli açıklanmıyor.

Bolt modelleri bilgisayarda çalışacak

Ailenin daha küçük üyeleri olan Bolt modelleri, yapay zekâ ajanlarının bulut yerine yerel sistemlerde çalıştırılmasına yönelik. NVIDIA, bu yaklaşımı kullanıcıların günlük işleri buluta göndermeden yürütebilmesiyle ilişkilendiriyor.

Nemotron 3.5 Bolt 74B-A9B 24GB, çok adımlı akıl yürütme, araç çağırma ve web’de gezinme gibi ajan görevleri için tasarlanmış. NVIDIA modelin hız ile akıl yürütme arasında denge kurmayı hedeflediğini belirtiyor. Daha küçük Bolt E4B ise sohbet ajanlarına yönelik ve ayın ilerleyen günlerinde çıkacak.

Şirket, Bolt modellerinin NVIDIA RTX Spark çipini kullanan yeni AI PC’lerde ve DGX Spark iş istasyonlarında çalıştırılmasını hedefliyor. Haberde bu cihazların Microsoft ve Dell gibi iş ortakları üzerinden pazara sunulmaya başladığı belirtiliyor. Modeller için fiyat, ayrıntılı sistem gereksinimleri ve lisans koşulları ise açıklanmamış.

Mimarlık ve görselleştirme iş akışlarına olası etkisi

Mimarlık ofisleri ve görselleştirme ekipleri açısından duyurunun asıl önemi, ajanların yerel bilgisayarlarda veya kurumun kendi altyapısında çalıştırılması seçeneği. Belgelerle çalışma, tekrarlayan bilgi işleri ve araç kullanımı gibi görevler bu modellerin hedefleri arasında; ancak kaynak, Revit, 3ds Max, Blender ya da başka bir tasarım yazılımıyla hazır entegrasyon bulunduğunu söylemiyor. Bu nedenle modelleri doğrudan proje iş akışlarına bağlamak mümkünmüş gibi değerlendirmemek gerekiyor.

Yerel kullanım düşünülüyorsa modelin hedeflenen donanımla uyumu ve gerçek iş yüklerindeki performansı ayrıca sınanmalı. Duyuruda genel sistem gereksinimleri paylaşılmadığı için RTX Spark veya DGX Spark dışındaki donanımlara ilişkin uyumluluk varsayımı yapılamaz. Kurumsal dağıtımda da lisans koşulları ve veri işleme seçenekleri netleşmeden karar vermek erken olur. Açık ağırlıklı tanımı tek başına ücretsiz kullanım anlamına gelmiyor.

Erişilebilirlik ve iddialarda dikkat noktası

NVIDIA, Super VL ile Bolt 74B-A9B’nin kullanılabilir olduğunu, Bolt E4B’nin ise ay sonunda geleceğini söylüyor. Şirketin performans karşılaştırmaları belirli ajan görevlerine ve sonradan eğitim koşullarına dayanıyor; mimari üretim, render veya modelleme uygulamalarında ölçülmüş sonuçlar olarak sunulmuyor.

Ekipler için pratik sonraki adım, önce lisans ve donanım gereksinimlerini öğrenmek, ardından modeli gerçek bir belge ya da araç kullanımı senaryosunda denemek. Özellikle tasarım yazılımlarıyla bağlantı kurmak isteyen ofislerin, kullanılabilir entegrasyonların duyurulmasını beklemesi ve kurum içi verilerin nasıl işlendiğini doğrulaması yerinde olur.