當數字人比你更像你 需警惕倫理法律風險
AI“復活”包小柏女兒。 資料圖
從數字人湯曉鷗、包小柏女兒，再到AI生成的“李玟”“喬任樑”，今年以來，“AI復活”一度成爲熱門話題。“AI復活”逐漸走向商業化，成爲一門新生意的同時，其背後的倫理與法律問題也不容忽視。4月24日，南方都市報在北京舉辦南都數字經濟治理論壇第13期活動，主題聚焦“AI復活:科技慰藉還是生意噱頭”。六位來自產業實踐、技術安全、科技哲學和法律方面的專家齊聚一堂，共同探討爭議中的“AI復活”。
會上，知名音樂人包小柏以視頻形式參會，講述重建女兒數字生命的經歷。“虛擬人鄧麗君”幕後操刀團隊數字王國的中國區副總經理陳曉光，在現場揭秘讓一代歌后與周杰倫同臺對唱背後的故事，並分享了虛擬人技術在組織管理等應用場景的商業化實踐。中國科學院信息工程研究所正高級工程師韓冀中介紹了數字人生成技術及其風險。他表示，如果合成內容未明確標識，且未能得到個人授權，會因此產生道德和法律問題。當有一天面對“比你更像你的數字化身”時，該如何自處?中國社科院哲學所科技哲學研究室主任段偉文提到了數字化身與身份的同一性問題，同時強調應重視AI分身對情感和倫理帶來的衝擊。
AI復活背後的倫理與法律拷問
今年以來，利用AI技術“復活”親人成爲熱議話題。知名音樂人包小柏通過重建女兒的AI數據來彌補愛女生前的遺憾，希望她在數字世界裡沒有病痛；商湯科技已故創始人湯曉鷗以數字人的形式“現身”公司年會，講起了一段脫口秀。但與此同時，也有人利用AI技術“復活”李玟、喬任樑等已故明星收割流量，遭家屬斥責是在“揭傷疤”。
這些“AI復活”案例，一再引起公衆對這項技術及其使用邊界的討論。AI“復活”逝者，一方面可以讓思念具體化，給人們帶來心理慰藉，但另一方面也面臨諸多倫理和法律的拷問。如何看待這一現象?
當天研討會上，與會嘉賓從不同的專業背景分享了他們的看法。北京高勤律師事務所合夥人王源表示，在未獲得逝者家屬的明確同意下，用逝者的聲音、圖像等個人數據，涉嫌侵權。
包小柏也強調，在使用AI技術延續逝者的“數字生命”時，要考慮有無立法依據和完整授權，同時避免對他人造成傷害。“要不要AI生成，是(逝者)家屬決定的事。不是商業(機構)，有技術有手法的人可以拿來道長短的，這叫二次傷害。”
根據我國《民法典》第九百九十四條規定，死者的姓名、肖像、榮譽、隱私、遺體等受到侵害的，其配偶、子女、父母有權依法請求行爲人承擔民事責任；死者沒有配偶、子女、父母且已經死亡的，其他近親屬有權依法請求行爲人承擔民事責任。
AI復活涉及對逝者個人信息的再利用。《個人信息保護法》第四十九條指出，死者的近親屬可以對死者的相關個人信息享有查閱、複製、更正、刪除等權利；但死者生前另有安排的除外。
此外王源補充道，AI“復活”逝者，除了可能涉及的人格權、個人信息保護和著作權等問題外，還應考慮公序良俗。比如，出於國家利益和社會利益的考慮，不能隨意地“復活”一些歷史英雄人物，更不能用於商業用途。
中國科學院信息工程研究所正高級工程師韓冀中注意到，現在一些AI“復活”名人的視頻，已經能做到難以分辨真假的程度。如果合成內容未明確標識，並未能得到個人授權，就會因此產生道德和法律問題。
在段偉文看來，AI復活背後還有很多新的問題值得討論:“個人數據遺產歸誰所有?”“是不是所有人都有權利選擇AI‘復活’?如果他是一個罪犯，我們可以‘復活’他嗎?”“怎麼尊重他人不想被‘復活’的意願?”
他認爲隨着科技的不斷髮展，可能產生一些新的價值和倫理衝突；未來需要建立一種新的倫理關係，並在法律方面有所考量和迴應。
藝術再創、數字分身……人機共創的未來
2013年9月6日，虛擬人鄧麗君現身周杰倫的臺北演唱會，不僅獻唱了經典金曲《你怎麼說》，還與周杰倫合唱《紅塵客棧》和《千里之外》。這兩年，在一些衛視的跨年晚會上，虛擬人鄧麗君也幾度亮相，與王心凌、周深等人一同表演。
提供視覺特效和虛擬人技術“復活”鄧麗君的幕後團隊，是成立於1993年、總部位於香港的數字王國。陳曉光是該公司中國區的副總經理，當天在研討會上他分享了AI“復活”鄧麗君背後的故事。
“與其說復活，我們倒不如說這是一種藝術再創——用當前的技術來彌補我們的遺憾。藉此，鄧麗君的藝術生命得到延續，同時也讓喜歡她或者還不瞭解她的人，擁有記憶永存的方式。”陳曉光說。
據他介紹，在嘗試“復活”鄧麗君前，數字王國聯繫了鄧麗君的三哥、鄧麗君文教基金會董事長鄧長富先生。在充分溝通和獲得鄧家人及其版權方許可後，纔開始進行接下來的商業化操作。“AI復活是在一定界限內的復活，而不是肆意的突破。”陳曉光說。
如果說AI復活有不可逾越的邊界，那麼活着的人主動打造數字分身則有更多想象。不久前，一位技術公司的朋友主動聯繫王源，稱只要提供相關視頻素材，就可以幫她打造一個數字人，未來即可用數字分身直播或線上參會。對此，王源表現出興趣——“技術的發展勢不可擋，那爲什麼不擁抱呢?”
元宇宙數字品牌公司AVAR創始人胡雅婷認爲，AI和人共創的未來具有無限延展和想象空間。數字生命對用戶來說，是無價的。但實現的前提是，具有比較高端的多模態能力，並投入大量的訓練數據，才能達到更好的交互體驗。“所謂數字生命，應該是一個完整的生命體，而不只是一張圖片或者一個視頻。”
放眼未來，韓冀中認爲隨着AI復活等應用的不斷落地，將有更多人選擇把個人數據放在互聯網上編輯處理，並形成新的信息流。回顧互聯網技術發展，他認爲每次信息流的變革，從黃頁，搜索引擎到算法推薦，都深刻改變了互聯網生態，未來我們可能靠AI代理作爲數字分身，來幫我們瀏覽、收集和處理資訊，甚至與人進行交互。
“如果說有一天這能成爲現實的話，互聯網將邁入人機共生的時代，那麼現在整個互聯網生態也會發生改變。在這種趨勢下，不僅需要促進包容其發展，也要關注其安全風險。”韓冀中說。
段偉文嘗試描繪未來生活的場景:人們用AI來寫小說，用AI編撰人生；從現在出門照鏡子變成出門“照”數字人，由虛擬世界的另一個自己提供穿衣搭配建議；甚至人們可能在AI重建的數字空間裡重“活”一遍……
“但是它一定會是美妙的嗎?有可能我們很快就會厭倦這樣的虛擬生活。”段偉文說。不過未來是什麼樣的，沒有人能給出準確答案。他認爲總的來說，人們的思想需要儘可能地開放，在探索中尋找到規則並不斷往前進。
聚集
是否存在人們沉迷於與虛擬形象相處的風險?
研討會上，段偉文首先指出，數字人技術實際上是對人類存在和生命的可能性維度的一種探索，也可以理解爲數字技術重新定義和構造了自我與生命。
未來也會出現虛擬隱私等問題
段偉文指出，一方面，數字技術已成爲當前人類所生活時代的“引力場”，人們被數字世界約束，技術的使用改變了人類的思維方式以及道德生活的重心。
另一方面，除了現實世界，人們生活在虛擬數字世界中的時間越來越長，數字世界逐漸成爲人類可選擇的生活空間，在其中重新定義和構造自我和生命。在他看來，這意味着人類一直以來都與技術相結合，是一種“半人馬”式的存在。
如今，數字技術賦予了人類一種新的“半人馬”狀態，即通過一種技術圖像影響人類生活。“這種技術圖像是從古到今一直都有的，對於原始人類來說，那些原始的壁畫就是一種很重要的技術圖像，它能夠賦予一個族羣，賦予一個種族，賦予一個家族生活或者生存的意義。”
那麼，如今的技術圖像指什麼?段偉文認爲是短視頻應用等。在他看來，一直以來人類思維裡就有一種內在的虛擬，這種思維中的虛擬與真實技術相結合，使得人類對世界的認知產生變化。從原始種族的壁畫圖騰到現在的“網紅打卡地”，都是“半人馬”式存在的體現。
段偉文還談到，AI分身是AI驅動的自動化主體。換言之，“AI復活”是在學習以往數據的基礎上產生的一種合成效果，這種效果可以將人與其數字人剝離開來。比如，人類可以用一個AI分身去演講，另一個分身去賣貨。
他強調，AI分身的應用可能造成一些負面影響。一是出現“海神效應”，人們的行爲和自我認知受到在虛擬世界中化身形象的影響。“你可以在不同的地方扮演不同的角色，但是能不能保證你的人格還是統一的，這是一個問題。”
二是自戀情結。數字技術讓人類更多地觀察自己、瞭解自己，甚至比其自身更瞭解人類。在這樣的情況下，數字技術既可以指導人類生活，也可能讓人類陷入一種自戀情結中——在數字人應用的過程中，“找回自我”或成爲問題。
他舉例道，一位韓國裔藝術家曾特意將自己少女時代寫的日記數據全部用於AI訓練，之後與少女時代的數字人“自己”對話，回憶青春歲月。通過這種方式，這位藝術家打開了一些心結，與過去達成和解——“那麼這當然是一種最好的情況，但是實際上也會有時候和解不了，陷入到一個死結裡面。”
在他看來，無論是“AI復活”還是數字人，都意味着人類可以在有情感需求時實現一種虛擬交往，因此未來也會出現虛擬隱私、精神隱私等方面的問題。“我喜歡誰，我討厭誰，我跟誰談得來，誰能夠打開我的心扉等等……它不一定是在真實世界發生的，但確實讓我們內在的心理空間有更大的一種翻轉。”
三是數字化身與身份的同一性問題。他在會上提到，提出“人工智能超越人類智能的奇點臨近”的庫茲韋爾一度每天收集父親生前的數據並用於製作數字人，這個過程中他意識到“做出的數字人‘父親’比我爸爸還要像我爸爸”。這意味着人類的認知存在很多刻板印象，同時應重視AI分身對情感和倫理帶來的衝擊。
對人類以往“雙重生活”的一種突破
那麼從科技哲學的角度，如何看待“AI復活”?若這一技術持續發展，是否會有人們沉迷於與虛擬形象相處的風險?
對此，段偉文表示，最重要的是區分兩個問題。首先是明確四種生命及其邊界，包括物理生命、精神生命、社會生命和數字生命，其中物理生命指人類的生理、心理等，精神生命指思想觀念。如果一個人去世，其精神生命可能還存在，但物理生命、社會生命已經消失，社會不再承認逝者的存在，理論上其不會再影響、干預他人生活。
其次，“AI復活”以及數字人技術意味着對人類以往“雙重生活”的一種突破。他解釋，人類長久以來都身處“不如意”的狀態中，它能帶來實現憧憬嚮往的生活與活在其中的生活、從未發生的生活與不斷展開的生活、轉瞬即逝的生活與可以贖回的生活三種可能性。在解釋“可以贖回的生活”時他提到，“‘AI復活’好像給了我們這樣一種暗示——我們可不可以重新活一遍?是不是可以有後悔藥?”
談及沉迷風險，段偉文引用了古希臘神話中恩底彌翁的故事作爲回答。故事中，恩底彌翁與月亮女神塞勒涅相戀，塞勒涅深感人類與衆神相比壽命短暫，於是向天神宙斯請求賜予愛人長生。宙斯決定，恩底彌翁若想要獲得長生並永保青春，就必須陷入長眠。最後恩底彌翁選擇長眠，每夜在睡夢中與塞勒涅相會。
段偉文表示，這則古希臘神話啓示人類，要追尋數字生命，可能就要付出“長眠不醒”的代價。“我們爲了慾望，爲了永久滿足對月亮女神的欲求，就只好把凡人的守夜變成不朽的睡眠，這就形成了一個死結——它妨礙了我們生命的自然進程，阻礙了人類自身創造更美好生活的可能性。”
挑戰
數據授權等安全風險須前置治理
AI鄧麗君如何翻唱周杰倫的《千里之外》?袁隆平院士的仿真語音又是如何生成?
研討現場，韓冀中給與會嘉賓帶來了上述場景的LIVE演示，並分享科普了其背後的AIGC技術原理及數據安全治理挑戰。
互聯網或將進入人機共生的時代
從“AI孫燕姿”到“AI李玟”“AI高以翔”，從“虛擬歌手一秒出專輯”到當下“復活逝者”的火爆業務，AIGC行業的發展可謂一日千里。在韓冀中看來，雖然生成式人工智能技術離真實大規模落地尚有一定距離，但在商業應用場景的豐富速度上還是非常迅猛的。韓冀中認爲，“數字人也許會改變互聯網的信息流，引發數字時代的新趨勢，互聯網或將進入人機共生的時代，更多與個人日常生活相關的數據會上網”，與此同時，大模型服務質量的提升也有賴於高質量的訓練數據，但是企業能否合規留存與使用個人數據，如何保護個人隱私安全，仍是一個具有挑戰性的問題。
在《數字人生成技術及其風險》的主旨演講中，韓冀中總結了全球AIGC當前主要的模態技術路徑:在文本方面體現爲聊天機器人技術；音頻方面包含了語音內容的聲音克隆、音色模仿以及歌曲生成技術；圖像和視頻方面則是以人爲主體的身份替換、說話人生成、人物定製化生成，以及聚焦於環境且基於文本指導的圖像或視頻生成。
“對周杰倫的音頻輸入，首先儘可能地去除他的音色，而保留其中的歌詞、語氣等信息，隨後再使用專屬於鄧麗君的vits模型爲其添上鄧麗君的音色。”韓冀中以語音生成領域爲例，介紹稱當前該領域主要包括音色遷移、聲音克隆等主流技術形態。”
“聲音克隆主要基於卷積神經網絡和大規模語音的預訓練模型，比如只要輸入袁老的既往語音來提供音色，再加上一段文本，就能克隆出對應音頻。”韓冀中演示稱。他同時表示，“在音樂生成行業比較敏感的話題，則主要是涉及音樂版權的問題，相關業務領域的訓練數據來源目前也存在風控漏洞。”
“對AI復活逝者的追尋是有代價的”
會上韓冀中表示，在AI復活親人的案例中，可以綜合利用這些工具，比如使用定製化文生圖技術生成親人頭像、使用聲音克隆技術複製親人音色、使用文字生成技術生成對話內容、使用音頻驅動視頻生成技術來驅動親人的頭部動作等。
“對AI復活逝者的追尋是有代價的。”韓冀中坦言，對數字人來說，技術上可以實現和親人聊天交流，甚至能將一些記憶的對話場景寫入數據庫，作爲大模型的提示詞，生成復原當時場景的對話。而從相應的技術需求來說，“AI復活親人”爲了做到惟妙惟肖，在數據層面需要收集一定規模高質量的逝者面部圖像和聲音數據，他以包小柏提到的對女兒遺產信息的使用授權爲例，“如何保障這些逝者海量的敏感隱私數據在被授權後的合理存儲、使用與清洗，是一個新的安全挑戰。”
他強調，依照《互聯網信息服務深度合成管理規定》，訓練數據包含個人信息的，應當遵守個人信息保護的有關規定。AI服務提供者若在未獲得數據主體(即逝者家屬或法定繼承人)的明確同意下收集逝者的個人數據，如聲音或圖像，就是侵犯了逝者的隱私權。而即便在獲得授權的情況下，服務提供者對於使用逝者數據的方式仍可能超出原授權的範圍，如未經授權用於模型訓練，“這種行爲可能對逝者家屬造成嚴重傷害。”
與此同時，隨着合成內容的效果越來越逼真，如果未明確標識，容易引發混淆，加劇網絡虛假信息的泛濫，韓冀中一針見血地指出。而根據《互聯網信息服務深度合成管理規定》，深度合成服務提供者所提供的深度合成服務，可能導致公衆混淆的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識。
此外，韓冀中還同時提到，如何甄別公司發佈的數字人技術是否使用了某個隱私數據，在技術上也在探索階段，目前的檢測技術還需要企業配合提供測試接口，純粹的黑盒測試仍有一定困難，因此“在一些企業不配合的情況下也很難探知它是否使用過一些無授權的隱私數據。爲此，我們團隊也正在開展相關研究，如有進展，會再向大家彙報與交流”。
採寫:南都記者 李玲 樊文揚 呂虹 莫倩如 見習記者 楊柳