火山引擎4K修復影片入選北影節,相關技術在CVPR2024奪冠
4月22日消息,近日第十四屆北京國際電影節正式開幕。由中國電影資料館、抖音和火山引擎聯合4K修復版的港片《A 計劃》與《賣身契》入選“致敬·修復”單元。
據悉,《A計劃》《賣身契》分別上映於1983、1978年。2023年8月,中國電影資料館、抖音和火山引擎共同發起了“經典香港電影修復計劃”,宣佈將4K修復100部香港電影。此次放映的這兩部影片就來自上述項目,影片的原始拍攝底片在香港完成4K規格掃描,整個修復流程包括中國電影資料館的物理和數字修復,火山引擎的AI技術修復,以及雙方合作的藝術修復等環節。
火山引擎是字節跳動旗下的雲服務平臺,曾分別攜手西瓜視頻和抖音,完成100部國產經典動畫和Beyond經典演唱會的4K修復。
在“經典香港電影修復計劃”中,火山引擎首次將AIGC技術應用於老片修復場景,藉助視覺大模型強大的生成能力和豐富的先驗知識,實現修復效果在清晰度、色彩、流暢度和瑕疵消除等方面的全方位提升。
“一方面,大模型生成能力強,藉助Stable Diffusion大模型的生成能力,修復效果優於之前的算法,畫面細節更自然;另一方面,大模型具有非常強的信息結構化能力,在學習了海量數據對後,可以在其中提煉出大量的知識並“存儲”在模型參數之中,其生成空間更豐富,能夠應對更多的修復場景。”火山引擎視頻雲技術架構總監王悅介紹。
目前,火山引擎已針對視覺大模型在一些場景下容易生成僞影或者虛假紋理,以及視頻多幀場景的穩定性等問題,在算法和工程上進行了一系列優化,提升了大模型在4K場景下的處理效率併兼顧算力成本。
隨着修復工作的深入,火山引擎多媒體實驗室通過引入自適應特徵加權模塊、無監督學習與有監督學習相結合、文字語義先驗等訓練手段,對視覺大模型進一步的調優,在極低畫質人像重建、褪色膠片顏色調整和文字缺失筆畫生成等幾個方面取得了較好效果。
與此同時,在計算機視覺頂級會議CVPR 2024中,火山引擎多媒體實驗室一舉奪得了NTIRE( 圖像恢復與增強的新趨勢New Trends in Image Restoration and Enhancement)賽道的冠軍,其奪冠方案是基於提示學習(Prompt Learning)的圖像增強恢復,主要解決的問題,就是修復類似於老片中大量存在的不可預知的複雜損害(未知複雜退化)。
“老片修復這件事情,其實我們每天都在做。”王悅說,老片中常見的清晰度低、流暢度低、色彩失真、有瑕疵等畫質問題,在抖音的海量投稿裡也廣泛存在。通過服務抖音,火山引擎在老片修復方面已經形成了一套較爲完整的智能處理技術方案。
目前,觀衆在抖音、西瓜視頻,可線上觀看“經典香港電影修復計劃”已修復完成的電影,其餘電影的4K修復版也將陸續上線。(一橙)
本文系本站科技報道,更多新聞資訊和深度解析,關注我們。