火山引擎VeDI實驗平臺助推企業量化決策能力升級

(原標題:火山引擎VeDI實驗平臺助推企業量化決策能力升級)

量化決策,正成爲企業在數智化浪潮中掌握方向的必備之舵。

通過“拍腦袋”式的經驗決策,企業往往難以優選出帶來更高收益的策略。相比之下,通過數據分析帶來的量化決策則是一種更爲可靠的方式。作爲量化決策的關鍵工具,A/B實驗能夠通過科學的實驗鏈路,對特定策略進行效應評估,從而支持企業在業務場景中實現高效歸因與精準決策,用數據找到推陳出新的最優解。

在字節跳動濃厚的A/B實驗文化下,火山引擎數智平臺旗下的A/B測試DataTester目前已覆蓋字節內部500多個業務,平臺上共有超240萬個實驗,其中同時運行的實驗超5萬個,從實踐中沉澱了一站式實驗管理與場景化特型實驗等全方位實驗能力。

業務場景複雜化、多元化的趨勢,打破了沿用傳統假設檢驗框架的慣性。邊際收益、干涉效應、自動實驗配置以及隨機實驗盲區等一系列伴生於業務快速發展的新挑戰,促使DataTester邁向超越傳統假設、拓展邊界的創新之路。

在邊際收益方面,DataTester技術團隊通過提升敏感度指標,推出增強版CUPED方法,從而對上新策略的真實效應進行準確度量。在相同樣本量下,可準確度量出較之原來小20%的真實效應度,爲業務提供更精確的助力。

爲應對干涉效應挑戰,DataTester技術團隊基於並行化的Leiden算法,快速處理億級用戶的複雜社交網絡,完成基於社交圈的聚類分流。此外,團隊對傳統A/B實驗數據進行了統計修正和調整,基於馬爾科夫過程和強化學習,解決了市場雙邊關係和間接干涉場景問題。自動實驗配置方面,實驗平臺則加入了遷移學習的貝葉斯黑盒調參。

在應對策略分配不均等隨機試驗盲區問題時,實驗平臺採用觀察因果推斷作爲傳統 A/B 測試的替代工具。相較於後者,因果推斷通常爲全量採樣,數據採集成本更低,但後續的分析、解讀和溝通成本卻更高。有鑑於此,DataTester技術團隊優化了觀察因果推斷過程,着力於提升穩健性與降低風險,爲用戶提供儘可能自動化的、支持觀察因果推斷的分析工具,以保證在高結論質量下進行精準決策。

在實踐中,中小型業務是因果推斷這一工具的重要落地場景。對中小型業務而言,在脫離高速成長期後,往往會面臨用戶數不足、實驗結果不顯著的困境,而因果推斷正是適配解法。目前,火山引擎A/B測試的因果推斷工具已落地遊戲、本地生活、電商以及互娛體驗等行業的中小型業務,未來還將進一步探索更多落地場景。

在火山引擎VeDI的數智產品矩陣中,除了DataTester提供的A/B實驗能力,DataFinder、DataWind、VeCDP以及GMP還能爲企業提供增長分析、數據洞察分析以及精準營銷的全鏈路數智能力。在VeDI數智產品的支持下,企業將實現全景式數據消費,降低試錯成本,提高業務收益,從激烈市場競爭中脫穎而出。