京東陶大程：超級模型生態系統將引領新一輪產業變革

7月8日消息，2021世界人工智能大會（WAIC）第八屆中國產業互聯網高峰論壇上，澳大利亞科學院院士、京東探索研究院院長陶大程博士表示，超級模型生態系統引領新一輪產業變革，他認爲，通過構建超級模型生態系統可以推動人工智能技術更高效地落地，應用涵蓋科技創新、經濟發展、文化融合等多個維度，以此引領新一輪產業變革。

陶大程博士認爲，目前人工智能技術在落地的過程中存在應用場景複雜、模型單一、算力分佈較爲分散、基礎理論層面缺乏可解釋性等難點，導致中小企業在數據和算力都有限的情況下，更易面臨人工智能的應用困境。在這種背景下，超級模型生態系統應運而生。

在他看來，超級深度學習模型是超級模型生態系統的核心，針對各個領域中存在的普遍問題，包括數據不足、數據孤島問題以及模型性能有限等問題，提出了有效的解決方案，包括利用超大規模無標註數據進行自監督預訓練、知識蒸餾、遷移學習等，同時通過構建完備的數學理論等模式，增強了模型的可解釋性，使人工智能算法做出的決策更易於評估。

目前，超級深度學習的發展趨勢主要體現在三個方面，包括訓練模型的數據量日益增大、數據種類愈發豐富；模型規模增大、參數量以指數倍增加；計算資源更充足、模型訓練的計算開銷大幅上升等。超級深度學習模型已在一些領域實現了相應的實踐，衍生了許多超級模型，在NLP領域如GPT-3，可以用於機器翻譯或智能問答等下游任務；在多模態領域如DALL.E，可以用於視覺信息問答或圖像描述等下游任務。

陶大程博士認爲，超級深度學習將會引領產業的下一輪變革，它能有效地整合不同模態、不同來源、不同任務的數據和信息，進而滿足新的生產需求、新的應用場景、新的商業模式，實現數字經濟變革。可以預見的是，超級深度學習將會進一步促進智能製造、數智健康、智慧文旅等產業應用落地，成爲引領產業變革的重要力量。

比如，在數智健康領域，超級深度學習（超級GNN網絡）可以表徵海量分子結構，能夠加速新藥物研發；還可以對全棧醫學影像表徵，實現自動診斷、治療方案推薦、預後分析、復健助理、全週期呵護，更能對大量多模態公共服務數據聚合分析，全方位多角度實現公共健康監控，助力人工智能在公共衛生、疫情研判、情緒管理、地圖服務、基因檢測、藥物研發、互聯網醫院等多種具體場景中發揮重要的作用。

此外，針對製造產業，超級深度學習可以實現全生命週期數字產業升級，提升效率、降低成本、敏捷製造，實現數智化的生產方式變革；在文化產業方面，超級深度學習可以促進國際文化產業變革，以多語言識別翻譯技術爲基礎，實現多文化的遺產保護與溝通交流，促進多個國家文化和商業的融合和發展。

他表示，各個國家都在佈局超級深度學習，預計超級深度學習在未來5到10年將會對數智化社會供應鏈體系起到關鍵性的支撐作用，從而賦能全產業鏈，其中包括智能零售、智能物流、智能供應鏈等多個與人類需求密切相關的產業。京東探索研究院將會繼續在超級深度學習領域深耕，與行業共探產業升級新機遇，賦能產業數智化發展，爲數字經濟變革貢獻一份“超級”力量。