確保生成式人工智能向善而行（新知）

本文轉自：人民日報

確保生成式人工智能向善而行（新知）

——在新的起點上不斷推進創新⑤

楊 東

緊隨科技進步和行業發展的步伐，全面提升治理水平，促進生成式人工智能健康發展

【現象】從一個靈感起步，設置主題、類型、人物、情節等各種參數，引導編劇填入自己的想法，大模型可以在極短時間內生成類型片劇本初稿。不久前，西部電影集團有限公司發佈國內首個擁有自主知識產權的電影創作類生成式人工智能系統。近年來，生成式人工智能技術取得突破性進展，開始完成繪畫、譜曲、諮詢互動等原本被認爲只能由人來完成的工作，正在並將繼續對生產生活產生深遠影響。

【點評】

人工智能是引領未來的戰略性技術，是新一輪科技革命和產業變革的重要驅動力量，是必須搶佔的科技制高點。生成式人工智能可以依託事先訓練好的多模態基礎大模型等，利用用戶輸入的相關資料，生成具有一定邏輯性和連貫性的內容，是目前最具革命性、引領性的科學技術之一。

從進行數據處理，到學習和模擬事物內在規律，這一跳躍讓人工智能更加接近人類的創造力，可以完成更多複雜場景任務。與此同時，解決相關安全風險和倫理問題也變得更加緊迫。

黨的二十屆三中全會《決定》提出：“完善生成式人工智能發展和管理機制。”緊隨科技進步和行業發展的步伐，全面提升治理水平，促進生成式人工智能健康發展，是形勢所需，也是更好保障公衆利益的內在要求。

儘管技術路徑已經明確，但生成式人工智能產品和服務的商業化、大衆化、普及化，仍處於起步階段。2023年，我國生成式人工智能的企業採用率已達15%，市場規模約爲14.4萬億元。目前，我國現有完成備案並上線爲公衆提供服務的生成式人工智能服務大模型近200個，註冊用戶超6億。我們已佔據有利身位，且有豐富的數據資源、廣闊的市場需求、穩定的技術基礎和多樣化的應用場景，要充分發揮這些優勢，力爭在新一代人工智能技術的發展上搶佔先機，爲更多行業向價值鏈中高端攀升提供更強推動力。

着力推動技術進步、產業發展的同時，也要看到，生成式人工智能會帶來一些治理難題。比如，利用他人作品生成新的“作品”，可能涉嫌侵權；利用人工智能生成虛假信息進行詐騙，增加防範難度；隨着技術應用的拓展，一些就業崗位可能會受到較大沖擊；等等。

針對各種可能發生的風險，相關部門和地方已經出臺了一些技術應對、綜合防治措施及安全開發應用指引，促進人工智能向善而行。比如，北京市編制大模型分級分類管理和安全評測標準，圍繞真實場景開展應用質量評估、倫理對齊等方面評測；上海交通大學發佈“生成式人工智能教師使用指南”，對版權與學術誠信、倫理與公平等問題作出規定……堅持未雨綢繆，堅持倫理先行，進一步加強人工智能規則治理，完善相關法律體系建設，才能做到趨利避害、安全使用。

發展人工智能，根本目的是造福人類、增進人民福祉、促進人的全面發展。在技術加速演進的關鍵階段，堅持發展與治理、創新與安全並重，着力培育安全、可靠、公平、透明的技術研發和應用生態，定能不斷促進人工智能健康發展，更好抓住新一輪技術變革帶來的新機遇。

《 人民日報 》（ 2024年11月04日 05 版）