南財合規週報(第172期):韓國國會通過《AI框架法案》;買保險被“錄屏”,支付寶、螞蟻保和太平保險被指控侵犯隱私

21世紀經濟報道記者肖瀟 實習生袁清渠 崔佳豪 北京報道

隨着2024年步入尾聲,合規再度迎來不少關鍵時刻。各領域的規則調整與輿論焦點,爲未來一年埋下新的伏筆:

反壟斷方面,《反不正當競爭法》迎來修訂 進一步維護公平競爭市場秩序;

個人信息保護方面,“反殺熟攻略”開始在社交平臺流行;買保險被“錄屏”,支付寶、螞蟻保和太平保險被指控侵犯隱私;

人工智能領域,人民法院最新的五年改革綱要再次提到人工智能等新型裁判規則;信通院藍皮書顯示,AI情感陪伴易讓人產生情感依賴;

目光轉向海外,特朗普促最高法院暫緩實施TikTok強迫出售令;韓國國會通過《AI 框架法案》;研究稱ChatGPT 搜索功能存在被操縱風險。

一、反不正當競爭與個人信息保護

1、《反不正當競爭法》迎來修訂 進一步維護公平競爭市場秩序

十四屆全國人大常委會第十三次會議日前審議了《中華人民共和國反不正當競爭法(修訂草案)》。現行《反不正當競爭法》於1993年公佈施行,並於2017年、2019年兩次修改。

國家市場監督管理總局局長羅文介紹說,草案主要修訂了以下內容:明確反不正當競爭總體要求,完善部門職責表述,規定縣級以上人民政府反不正當競爭行政主管部門對不正當競爭行爲進行查處,法律、行政法規規定由其他部門查處的,依照其規定。

2、“反殺熟攻略”開始在社交平臺流行

最近“反殺熟攻略”在社交平臺流行,一名網友聲稱自己通過反覆評論“機票太貴,買不起”,成功讓直飛航班的票價從4309元降到了1903元。

除了留言評論刷屏、在剪貼板複製粘貼“哭窮”話術、用更便宜的安卓手機下單,以及反覆卸載重裝APP,都是廣泛傳播的做法。背後的思路是“污染”大數據池,讓算法給自己貼上“價格敏感”或“新顧客”的標籤,希望拿到更多優惠。

不過平臺客服解釋稱,價格變動受多種因素影響,不能直接證明是評論引起的。即使是在同一時間發現了價格差異,也更可能來自賬戶中的優惠券,而非殺熟。

南財點評:大廠算法工程師表示評論通常是“不太重要的數據”。這是因爲在訓練算法模型之前,平臺需要判斷龐大的用戶數據裡哪些最有用,而評論的數據量大、篩選成本高,又不能直接表達用戶特徵,對平臺並不划算。相比之下,如果存在殺熟機制,換手機更可能有用。手機型號信息是用戶畫像的一部分,而且通常對算法決策有重要影響。

不過以上做法至多也只是“馴化”算法推薦更多低價商品,而非調整商品定價。不管是搜索還是推薦算法,原理都是讓模型預估一個概率,比如猜測某條內容的點擊率。而定價需要生成一個具體價格,機制更加複雜,也是行業裡鮮少討論的商業秘密。

三、人工智能

1、最高法:完善人工智能、算法和涉數據不正當競爭等裁判規則

最高人民法院發佈《人民法院第六個五年改革綱要(2024—2028年)》(以下簡稱《綱要》)。

最高人民法院副院長茅仲華介紹,《綱要》明確了9個方面45大項改革內容,200餘項具體改革任務,是當前和今後一個時期指導人民法院改革規劃和實施推進的綱領性文件。

一些近年來備受關注的議題,在《綱要》中都有一定程度的迴應:例如,《綱要》提出要防止和糾正通過行政、刑事手段干預經濟糾紛,以優化營商環境;

面對人工智能和算法更新迭代,要完善新興領域的裁判規則,並涵蓋了外賣騎手、網絡主播等新就業形態的勞動爭議規則;

同時強調深化司法公開,並重申上網文書隱名規則,以防止侵害當事人隱私或泄露商業秘密。

2、信通院藍皮書:AI情感陪伴易讓人產生情感依賴

近日,中國信通院發佈《人工智能治理藍皮書(2024年)》(下稱藍皮書),其中指出,2024年前三季度人工智能領域融資得到復甦,全球AI融資佔全行業融資比例持續上升,從2022年的6.1%上升至2024年前三季度的12.0%。

藍皮書指出,全球層面人工智能技術發展不平衡問題日益突出,主要資源向少數國家集中。人工智能日益提升的情感陪伴能力易於讓人產生情感依賴,這可能導致倫理危害。新一輪人工智能替代就業的能力、影響範圍等都有了巨大提升,人工智能替代效應將主要衝擊中高端收入羣體。

四、海外動態

1、特朗普促最高法院暫緩實施TikTok強迫出售令

當地時間12月27日,美國當選總統特朗普向美國最高法院提出請求,要求暫停執行TikTok強制出售令。特朗普表示,希望法院在他於明年1月20日正式就職後,給予他時間通過政治手段解決此爭議。

早先,當地時間12月18日,美國最高法院宣佈就禁止TikTok在美國運營的法案再次進行討論。據報道,美國最高法院將於1月10日就此案進行辯論,允許法院在法律1月19日生效前對該問題作出裁決。該法案要求TikTok母公司字節跳動剝離TikTok,否則將禁止TikTok在美運營。字節跳動明確表示,不會出售TikTok業務。

2、研究稱ChatGPT 搜索功能存在被操縱風險

據媒體12月24日發佈的一項調查指出,ChatGPT搜索工具存在被操縱的安全風險。該研究表明,當ChatGPT處理包含隱藏內容的網頁摘要時,可能會受到第三方指令的影響,這些指令旨在干擾ChatGPT的迴應,或是通過大量隱藏的文字來推銷某個產品或服務的優點——即使頁面上存在負面評論,ChatGPT也可能返回對產品的正面評價。

安全研究人員還發現 ChatGPT 可以從其搜索的網站返回惡意代碼,出現了含有釣魚惡意行爲的虛假網站。

3、韓國國會通過《AI 框架法案》

12月27日,韓國國民議會通過了《人工智能發展與信任基礎創建法》(簡稱《AI框架法案》),預計該法案將在明年初通過內閣會議後,於2026年1月正式實施。這一立法行動使韓國成爲繼歐盟之後,全球第二個通過專門針對人工智能的法律框架的國家或地區。

《AI框架法案》主要聚焦於三個核心方面:建設治理體系、支持產業發展和防範可能風險。在風險防範上,韓國政府特別強調了對高影響力AI和生成式AI系統的監管。法案明確規定,這些類型的AI系統被定義爲受監管實體,要求相關開發方必須確保其透明度和安全性。