NVIDIA, GTC 2024 etkinlikleri kapsamında önemli açıklamalarda bulundu. O açıklamalardan bir tanesi de “NIM” olarak isimlendirilen yeni bir yazılım platformuydu. NIVIDA NIM, önceden eğitilmiş olan yapay zekâ modellerinin üretim ortamlarına hızlıca aktarılmasını sağlayacak. Böylelikle geliştiriciler, çok ciddi anlamda zaman tasarrufu yapmış olacaklar.
NVIDIA’ya göre yapay zekâ modellerinin üretim ortamlarına dağıtımı, genelde haftalar alıyor. İşte NIM, tam olarak burada devreye giriyor. Kendi yapay zekâ yol haritalarını hızlandırmak isteyen şirketler, NIM platformu ile bu süreci hızlandırmış olacaklar.
NIM, daha şimdiden pek çok şirkete destek veriyor
NVIDIA’nın yeni yazılım platformu, şimdiden NVIDIA, A121, Adept, Cohere, Getty Images ve Shutterstock’un yapay zekâ modellerini destekliyor. Ayrıca Google, Hugging Face, Meta, Microsoft, Mistral AI ve Stability AI’ın açık kaynak yapay zekâ modellerine de destek veriliyor. Ancak NIM, bunlardan ibaret olmayacak. Daha fazla destek ve entegrasyon için Amazon, Google ve Microsoft gibi firmalarla çalışmalar devam ediyor.
NVIDIA, NIM ile bazı mikro hizmetler de sunacak. Mesela bir şirket, konuşma ve çeviri modellerini özelleştirmek için Riva’yı, hava ve iklim simülasyonları için de Earth-2 modelini kullanabilecekler. Üstelik şirket, bunların kapsamını da genişleteceğini duyurdu. Mesela RAG LLM yapısı, NIM ile uyumlu hâle getirilecek ve üretken yapay zekâ sohbet botları oluşturulabilecek.
