輝達今在臺日同步推出四款 用於生成式AI的NIM微服務

NVIDIA在日本與臺灣推出用於生成式AI的NIM微服務。圖/輝達提供

全球AI霸主輝達（NVIDIA ）今日宣佈推出四款全新NVIDIA NIM微服務，讓開發人員能夠更輕鬆地建置與部署高效能的生成式AI應用。

這些微服務支援社羣常用的各種模型，並且針對地區需求量身打造。這些微服務可以按照當地語言和文化傳統，透過準確理解和改善的迴應，強化與使用者的互動。

世界各國都在追求發展主權 AI，利用自己的運算基礎設施、資料、勞動力及商業網路來發展人工智慧（AI），以確保 AI 系統符合當地的價值觀、法律與利益。

根據 ABI Research 的資料顯示，光是在亞太地區，預計到2030年時，生成式AI軟體的營收將從今年的50億美元成長到480億美元。

使用日文資料訓練出的 Llama-3-Swallow-70B，以及用國語資料訓練出的 Llama-3-Taiwan-70B，都屬於區域語言模型，可以更深入瞭解當地法律、法規和其他習俗。

建立在Mistral-7B 模型上的 RakutenAI 7B系列模型，投入英文和日文資料集進行訓練，並且可以當成用於對談（Chat）和指令（Instruct）的兩種不同的NIM微服務提供給外界使用。樂天（Rakuten）的基礎和和指令模型在開放的日文大型語言模型中取得亮眼成績，在2024年1月至3月進行的LM Evaluation Harness基準中，平均分數名列前茅。

使用一個地區的語言訓練大型語言模型（LLM），能夠更好地理解和反映文化與語言上的微妙之處，有助於確保進行更加精準細緻的溝通，創造出更有效果的輸出內容。

與 Llama 3等基礎LLM相比，這些模型在理解日語和國語、處理當地法律任務、回答問題，以及語言翻譯和總結方面的表現相當優異。

從新加坡、阿拉伯聯合大公國、南韓和瑞典，再到法國、義大利和印度，世界各國均投注心力發展主權AI基礎設施。

全新 NIM微服務讓企業、政府機構和大學可以在自己的環境中託管原生LLM，使得開發人員能夠開發先進的AI輔助功能（copilots）、聊天機器人和AI助理。開發人員可以輕鬆把包裝爲NIM微服務的主權 AI模型部署到生產環境，同時獲得更優異的效能表現。