Nvidia, GTC 2024’te yapay zeka modellerinin üretim ortamlarına hızlı aktarılmasını sağlayan NIM platformunu duyurdu.
Nvidia, “NIM” adını verdiği yeni yazılım platformuyla, yapay zeka modellerinin üretim ortamlarına hızlı bir şekilde entegrasyonunu sağlayacak. Bu platform, geliştiricilere zaman tasarrufu sunarken, yapay zeka projelerinin piyasaya sürülme süresini önemli ölçüde kısaltmayı hedefliyor. NIM, bulut ve veri merkezleri gibi çeşitli ortamlarda yapay zeka modellerinin dağıtımını kolaylaştırıyor.
NIM, Nvidia AI Enterprise’ın bir parçası olarak, bulut, veri merkezi ve GPU hızlandırmalı iş istasyonları gibi çeşitli ortamlarda yapay zeka modellerinin kolayca dağıtılmasına olanak tanıyor.
Platform, yapay zeka geliştirme ve paketleme süreçlerini basitleştirmek için geliştiricilere bulut tabanlı mikroservisler sunuyor. Endüstri standardı API’ler aracılığıyla platform, bu karmaşık görevleri kolaylaştırır ve geliştiricilerin modellerini daha hızlı ve kolay bir şekilde üretime geçirmelerine yardımcı olur.
NIM, şimdiden A121, Adept, Cohere, Getty ve Shutterstock gibi önemli yapay zeka modellerini destekliyor. Ayrıca, Google, Hugging Face, Meta, Microsoft, Mistral AI ve Stability AI gibi şirketlerin açık kaynak yapay zeka modellerine de destek veriyor. Ek olarak daha fazla destek için Amazon, Google, Microsoft gibi teknoloji şirketleriyle iş birliği yapıyor.
Nvidia, NIM platformuna Riva, cuOpt ve Earth-2 gibi mikro hizmetleri de ekliyor. Ayrıca, RAG LLM operatörünü de platforma eklemeyi planlıyor. Bu sayede, NIM kullanıcıları yapay zeka sohbet botları gibi karmaşık uygulamaları daha kolay şekilde oluşturabilecekler.
NIM ile yapay zeka dağıtımı kolaylaşıyor
NIM, Nvidia’nın yazılım çalışmalarını erişilebilir kılıyor. Buna göre NIM modelleri optimize edicek. Sonrasında çıkarım motoruyla birleştirecek ve paketleyerek mikroservis olarak sunacak.
Nvidia, NIM ile yapay zeka modellerinin pazara sunulma süresini kısaltmayı amaçlıyor. Bununla birlikte platform, yz teknolojilerinin hızlı ve kolay şekilde benimsenmesine katkıda bulunarak, teknolojilerin yaygınlaşmasını hızlandırıyor.
NIM’in faydaları nelerdir?
- Zaman tasarrufu : Geliştiriciler, NIM tarafından sunulan önceden eğitilmiş modelleri kullanarak yapay zeka modelleri geliştirebilecekler. Sıfırdan model oluşturma sürecinde harcayacakları zamanı tasarruf edecek.
- Kolay dağıtım : NIM, modellerin üretim ortamlarına hızlı ve kolay bir şekilde aktarılmasını sağlar.
- Geniş model desteği: Platform, Nvidia, Google, Hugging Face, Meta ve Microsoft gibi firmaların modellerini destekliyor.
- Mikro hizmetler : Riva, cuOpt ve Earth-2 gibi mikro hizmetler, geliştiricilere ek işlevler sunar.
- Hızlı pazara sunma : NIM, yapay zeka modellerinin pazara sunulma süresini kısaltır.