加速應用成長 NVIDIA NIM微服務可在數分鐘內完成佈署自動生成式AI

▲NVIDIA NIM微服務可在數分鐘內完成佈署自動生成式人工智慧

NVIDIA宣佈推出以支援CUDA的GPU加速，並且能以預先訓練人工智慧模型運作，可在最佳化調整後佈署於雲端、資料中心、工作站及PC的NVIDIA NIM微服務。

藉由NVIDIA NIM微服務，NVIDIA表示將能透過數十種企業級自動生成式人工智慧，讓企業能以微服務形式在自有服務平臺建構、佈署客製化應用程式，並且確保完全持有及控制自有智慧財產權的權利。

▲NVIDIA NIM微服務能佈署於雲端平臺，或是自有伺服器運作環境，讓企業、開發者能在短時間內導入人工智慧應用資源

除了提供NVIDIA NIM微服務，目前企業也能透過NVIDIA CUDA平臺使用NVIDIA及其合作伙伴生態系統收錄的20多種熱門人工智慧模型，例如A121、Adept、Cohere、Getty Images、Shutterstock提供模型，以及Google、Hugging Face、Meta、Mistral AI及Stability AI提供開放模型，而NVIDIA加速軟體開發套件、函式庫及工具也能作爲NVIDIA CUDA-X微服務使用，藉此應用在檢索增強生成 (RAG)、可程式化控管、資料處理、高效能運算 (HPC)等作業。

▲可透過NVIDIA CUDA平臺使用NVIDIA及其合作伙伴生態系統收錄的20多種熱門人工智慧模型建構服務

包含Adobe、Cadence、CrowdStrike、Getty Images、SAP、ServiceNow，以及Shutterstock均爲首波透過NVIDIA AI Enterprise 5.0使用NVIDIA NIM微服務的業者，分別應用旗下提供的應用程式、資料服務，以及網路安全平臺服務。

而NVIDIA NIM微服務以包含Triton Inference Server、TensorRT-LLM在內推論軟體構成的預先建置容器形式運作，並且以API即可完成串接，讓人工智慧應用服務佈署從原本需要花費數週時間，縮減爲幾分鐘即可完成，甚至能佈署於自有安全託管環境，藉此提升人工智慧應用彈性。

▲透過API形式即可完成串接，並且在短時間內完成人工智慧技術建置

目前企業將可在AWS提供的Amazon SageMaker、Google Cloud的Kubernetes Engine，以及微軟的Azure AI雲端平臺使用NVIDIA NIM微服務，並且與Deepset、LangChain與LlamaIndex在內熱門人工智慧框架整合。

此外，NVIDIA也公佈超過20款可用於醫療保健領域的NVIDIA NIM微服務，以及NVIDIA CUDA-X微服務項目，藉此將自動生成式人工智慧帶到更多應用範疇。

▲NVIDIA也公佈超過20款可用於醫療保健領域的NVIDIA NIM微服務，以及NVIDIA CUDA-X微服務項目，藉此將自動生成式人工智慧帶到更多應用範疇

包含Parabricks、MONAI、NeMo、Riva與Metropolis在內NVIDIA加速軟體開發套件和工具，目前均可作爲NVIDIA CUDA-X微服務存取使用。而研究人員、開發人員及相關從業人員可透過微服務，更容易將人工智慧與全新、既有應用程式進行整合，並且可從雲端或本地位置執行這些應用程式。

全新醫療保健微服務可爲醫學成像、醫療技術、藥物探索和數位健康領域持續增加的模型集合提供最佳化的推論結果，並且能用於生成生物學、化學和分子預測。

▲透過微服務形式使更多醫療保健服務導入人工智慧應用資源

這些微服務還包含一系列可用於藥物探索的模型，例如用於生成化學的MolMIM、可用於預測蛋白質結構的ESMFold，以及協助研究人員瞭解藥物分子如何與標靶進行相互作用的DiffDock。

而VISTA 3D微服務更加快建立3D分割模型的速度，另外相較在CPU上運行的DeepVariant分析速度，Universal DeepVariant微服務將基因組分析工作流程中的變異調用速度提高50倍以上。

開發者將可透過「ai.nvidia.com」網站免費試用NVIDIA NIM微服務，而企業則可在NVIDIA認證系統及主要公有云服務平臺透過NVIDIA AI Enterprise 5.0佈署NVIDIA NIM微服務。

▲目前可透過「ai.nvidia.com」網站免費試用NVIDIA NIM微服務

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》