人工智能如何實現安全可控？張鈸院士：發展第三代人工智能

受訪者供圖

人民網北京6月4日電(丁亦鑫)作爲引領第四次科技革命的戰略性技術，人工智能給社會建設和經濟發展帶來了重大而深遠的影響，但數據隱私、算法偏見、技術濫用等安全問題也正給社會公共治理與產業智能化轉型帶來嚴峻挑戰。未來人工智能如何兼顧創新發展與安全可控？6月3日，北京智源大會期間，圍繞這一話題展開的“AI安全與產業治理”論壇成功召開。

現階段，人工智能產業正經歷從高速增長向高質量發展的轉變，產業期待的提升讓金融、醫療等更復雜的高價值場景的應用需求不斷增加，安全性的重視程度也不斷提升，人工智能如何長久高質量發展成爲亟待解決的問題。

會上，中國科學院院士、清華大學人工智能研究院院長張鈸在致辭中表示，未來人工智能產業發展在擴大應用場景的同時，必須實現數據、算法與應用層的安全可控。同時，他表示人工智能的安全可控問題要同步從技術層面來解決。在具體的實現路徑上，他提出要發展“第三代人工智能”，即融合了第一代的知識驅動和第二代的數據驅動的人工智能，利用知識、數據、算法和算力四個要素，建立新的可解釋和魯棒的AI理論與方法，發展安全、可信、可靠和可擴展的AI技術。

北京市經濟和信息化局郭家義在講話中對發展第三代人工智能表達了充分的期待。他認爲，隨着人工智能的快速發展，各種安全問題也接踵而至。第三代人工智能的提出恰逢其時，將助力我國實現人工智能在安全可信領域的突破，也必將對北京進一步落實國際科技創新中心定位、構建首都高精尖經濟結構產生積極的影響。

中國信息通信研究院安全所信息安全研究部主任魏薇表示，人工智能與數據產業互促發展的同時安全問題也交織影響，一方面人工智能對數據強依賴的發展特性導致其面臨的自身數據安全風險、應用導致的數據安全風險以及應用加劇的數據治理挑戰日益凸顯，另一方面，人工智能也爲數據治理工作提供自動化、智能化、高效化、精準化的智慧支撐。

數據的不安全和算法的不安全是制約當前人工智能產業發展的主要因素，也是發展安全可控人工智能需要解決的核心問題。什麼樣的人工智能纔是“安全可控”的？作爲第三代人工智能的踐行者，瑞萊智慧CEO田天在會上介紹說，“安全”是指打造數據安全與算法安全兩大核心能力，解決數據強依賴帶來的隱私泄漏與數據投毒等隱患，同時提升算法的魯棒性與可靠性。“可控”既指應用層面的合規可控，更指核心技術的自主可控，以自主可控爲根基，通過理論創新、技術突破形成核心競爭力。他強調，安全可控是發展第三代人工智能的核心基準，也是加快人工智能高質量發展的有力支撐。

針對算法治理路徑的探索，清華大學人工智能治理研究院副院長樑正提出，首先需進行分領域、分級治理，並確定治理優先級，目前聚焦於利用個人信息進行的自動化決策系統，未來聚焦於涉及人身安全的高風險領域，同時在算法治理中識別和區分規則問題和技術問題，採取針對性的措施，以及堅持安全、公平、透明和隱私等基本原則，實現負責任的人工智能。