英特爾新 Windows 應用能本地跑 AI 聊天機器人
英特爾最近爲其最新的酷睿 Ultra 200V 系列處理器更新了其 AI 遊樂場應用程序,增添了新的特性和功能。這是一個能讓您在個人電腦上直接嘗試 AI 和機器學習任務的一站式平臺。
最新版本的 AI 遊樂場(v1.21b)爲酷睿 Ultra 200V 系列處理器帶來了一個新主題。它還包括一個預先填充的大型語言模型選取器,其中有像 Phi3、Qwen2 和 Mistral 這樣的大型語言模型(LLM)。然而,只要用戶自己的原生 PyTorch LLM 與 Transformer 4.39 版或更高版本兼容,就仍然可以使用。AI 遊樂場還支持整合本地文檔來進行搜索、總結和獲取洞察。用戶可以從 CivitAI 和 Huggingface 等平臺下載替代模型。所有的 AI 計算、提示和輸出都在用戶計算機本地進行處理,而非在雲端處理,從而增加安全性。
在“創建”和“增強”功能中,這一變化使得在生成圖像時獲取所需的像素數量和形狀變得更簡單。還有一個很酷的新增功能,那就是會話管理器,它允許用戶保存他們的聊天討論,並在以後返回特定主題。這樣,如果您需要它在一段時間內專注於某一件事,就不必進行全新的聊天或試圖讓人工智能處於相同的思維空間。此功能保存對話歷史,有助於像編碼或創意寫作這類項目的連續性。
安裝程序已得到改進,其安裝過程變得更加順暢。現在它包含了 VC++ 可再發行組件安裝程序,用於解決缺少 DLL 的問題,並且會調整至一個空閒端口。這能夠防止與現有應用程序或服務產生衝突。還添加了一個異常處理程序,用以提供有關安裝問題的信息,同時方便支持請求。
LM Studio 對於那些想要 AI Playground 的替代品 的人來說是個不錯的選擇,特別是對於那些在意隱私和本地處理的用戶。與針對配備 Arc GPU 的英特爾 PC 做了優化的 AI Playground 不同,LM Studio 可以在更廣泛的 Windows 機器(以及 Mac 和 Linux)上運行。這使得具有不同硬件配置的用戶都能使用。
更新後的 AI 樂園可以從英特爾網站進行下載。它能在配備了內置英特爾銳炫 GPU 的英特爾酷睿 Ultra PC 系統,或者配備了 8GB 內存的英特爾銳炫獨立顯卡的系統上運行。