對話360智腦總裁張向徵：如何打造安全大模型

8月2日消息，第十二屆互聯網安全大會（ISC.AI 2024）開幕，本次大會以“打造安全大模型，引領安全行業新革命”爲主題，深度聚焦安全和AI兩大領域。現場，我們採訪到了360智腦總裁張向徵，關於360智腦對安全問題的理解以及產品規劃等議題進行了深入交流。

張向徵介紹，智腦團隊負責通用模型能力，以及面向核心業務場景做專項能力，比如智閱，瀏覽器，文本總結、視頻/字幕總結、思維導圖生成、搜索的猜詞、意圖識別和總結等等。與此同時，智腦團隊還負責API和AI安全結合大模型能力的工作。

本屆大會的主題就是“打造安全大模型”，談及安全話題，張向徵表示，安全問題分幾塊，第一塊是系統部署層面，這是傳統網絡安全相關，包括Agent框架，包括向量數據庫，包括PyTorch框架，本身是有潛在的漏洞風險；第二塊是生成出的內容是否符合監管要求，包括價值觀的對齊；第三塊是輸出結果出錯，假設出現10%，我不知道這個10%發生在什麼時候，導致很多時候生成的結果到底該不該信。第四塊是和Agent框架相關，大模型只是調度的中樞，可以訪問很多第三方或者公司或者企業內部的很多數據庫，如果做自動化的操作有可能波及到其他系統的安全。比如，用於具身智能，可能會做一些危險的動作。

在安全層面，ToB和ToG的不同也較爲明顯，張向徵介紹，安全問題容忍度不一樣，比如政府部門，訓練數據需要提供私有化的部署方案，所有的微調、增量訓練都必須在政府機構內部網絡環境裡做。在ToB場景，比較典型的是教育，有一首詩“牀前明月光”，網上有兩個版本，產品經理就很慌，覺得這麼出名一首詩，整首詩介紹爲什麼跟課文上不一樣。兒童沒有很好的辨別能力，這就導致對結果可信度要求非常高。

談及小模型話題，張向徵指出，小模型在電腦端的應用，我們有過一些探索，內測了相關的方案，但是符合要求的筆記本還太少了，量沒有那麼大。另外我們也考慮了接受度，我們認爲目前小模型的產品化還有一段路需要走。

關於近來熱議的AI搜索話題，張向徵迴應道，AI搜索跟傳統搜索比，比較特色的地方是可以多步推理或者多個關鍵詞搜索，把複雜問題做拆解，分步驟的、自動地去做多步檢索之後再去做融合，或者推理完第一步之後再把推理出來的結果再做一次搜索，然後再交給大模型，再去做融合。未來，如果AI搜索能力越來越強，用戶的習慣就會遷移，但不能說是一個完全新的產品形態，這和用戶使用習慣相關。（定西）

本文來自本站科技報道，更多資訊和深度內容，關注我們。