聯發科推臺版ChatGPT「連阿嬤都會用」 報帳、面試還能幫忙寫程式
羣聯電子跟聯發科合作,打造比傳統AI伺服器耗電更少的「aiDAPTIV+」。(圖/記者黃耀徵、劉耿豪攝)
「大家都在問爲什麼聯發科要做這件事情?因爲我們蔡董說,『2024年讓AI普及在臺灣,是聯發科技集團的使命』所以不管哪一個部門,都把這件事當成最重要的目標,而且要思考,生成式AI如何提升生產力。」聯發科技人工智慧暨數據工程處副處長楊建洲向CTWANT記者表示。
晶片設計龍頭跨界AI,聯發科技在4月9日對外正式宣佈生成式AI服務平臺「MediaTek DaVinci」(聯發科技達哥),背後的動機,除了董事長蔡明介認爲聯發科的競爭力就是「技術力」,更希望臺灣產業加速導入生成式AI,讓原本「超級富豪才玩得起的AI,可以用更便宜的方式、且各行各業都能取得。」羣聯電子技術長林緯說。
國際電機電子工程師學會(IEEE)今年5月將頒發電子產業最高個人榮譽之一 IEEE Robert N. Noyce Medal 予聯發科技董事長蔡明介,以彰顯他的遠見及對全球半導體產業的影響力,賦予世界各地數十億平民百姓使用先進科技的機會與帶來的好處。
「我常跟團隊說,如果你做出來的東西,你的阿嬤不會用的話,就要退回去,所以我們的平臺必須要夠開放、夠安全,而且不斷迭代進步。」楊建洲說。
MediaTek DaVinci原先是爲集團內部打造具資料安全性、提高生產力的生成式AI工具,後續獲各部門廣泛使用。「其實DaVinci這個名字,是我們問系統,如果你想要一個有藝術、科技、人文特質的名字,要取什麼,他就幫自己取了DaVinci達文西,」楊建洲跟CTWANT記者透露,「我覺得這個很棒,我們公司是『發哥』嘛,現在又有『達哥』,聽起來很『發達』。」
聯發科技人工智慧暨數據工程處副處長楊建洲。(圖/記者黃耀徵攝)
聯發科人工智慧暨數據工程處協理葉家順表示,聯發科約2萬名員工有1萬人會寫程式,所以在開發時就鼓勵大家一起用,去年5月11日上線、12月推出智慧助理功能,目前達哥平臺在聯發科集團滲透率達96%,有跨50多個部門參與這個生成式AI專案,使用後更是取得8成以上的員工認同。
目前聯發科內部使用達哥做軟體開發的分析需求規格、生成技術文件,在編寫程式部分,能協助寫程式、協助除錯和Code review等工作,另外還能幫助開發者自動生成測項、自動生成測試案例等,其他還有像是人資篩選履歷和自動配對,財務自動辨識發票並報銷流程,法務拿來專利翻譯、合約修改,銷售業務也可以即時查詢客戶訂單出貨等資訊。
「其實我們一開始就有同仁用達哥做炒股、搶票小幫手,不過後來都被公司刪掉了,被說應該做點『正經事』。」聯發科員工笑着說。
葉家順坦言,目前達哥平臺可能只有70分,但這是一套可不斷進化的系統,達哥1.0在去年完成,今年2.0版本新添智慧助理架構,具備4個主要商店,包括AI模型、擴充外掛、提示範本、知識庫(DVCs)等,使用者可用來打造適合自己的智慧助理。
此外,達哥平臺本身也有內建一般企業常用的功能,像是DocChat可用來分析競爭對手、履歷表媒合、技術文件摘要,VideoChat則能自動生成會議記錄、產出YouTube影片摘要、TED影片摘要等,WebChat能用於技術趨勢分析、市場趨勢收集、產業新聞集錦等。而Plugins新功能,可提供企業知識檢索、RPA自動化等。
各界都知道生成式AI很強,但實際落地很少,因此達哥平臺在聯發科內部上線測試後,臺廠趨之若鶩,紛紛上門。「去年第二季集團內部開始測試後,第三季、第四季很多業界的學長學弟跑來詢問,能不能讓他們也試試看。」葉家順說,聯發科上個月開放給外部企業申請串接,目前已有數十家來自高科技、金融、電信、法律、製造、銷售、服務、系統整合、雲端服務等行業的企業,以及教育機構、新創公司加入。
生成式AI服務平臺MediaTek DaVinci合作多家系統商,包含宏碁資訊服務、雲馥數位、賽微科技、緯創軟體等。(圖/記者黃耀徵攝)
目前該平臺合作多家系統商,包含宏碁資訊服務(ABE)、雲馥數位(CloudRiches)、賽微科技(Cyberon)、緯創軟體(WITS)等;賽微科技表示,可以想像達哥平臺就像是一個App Store,而系統廠就像是內容開發商,在上面開發不同的APP應用程式,與公司內部系統串接,假設員工要請假,只要在達哥平臺介面上說「我要請假」,就會串接到公司人資系統,幫員工導入請假程序。
全球最大的獨立快閃記憶體(NAND Flash)控制晶片IC設計廠羣聯電子跟聯發科合作,以固態硬碟(SSD)整合AI運算架構,降低AI基礎建設的硬體成本,打造比傳統AI伺服器耗電更少的「aiDAPTIV+」方案,也就是一臺電腦主機大小,就能讓一般企業在公司裡用內部網絡使用自己的生成式AI,價格便宜、CP值高,插一般的電源就可以,不用特別幫機器吹冷氣,也不怕上傳雲端後資料外泄。
羣聯電子技術長林緯表示,他們現在內部也在用達哥系統,因爲過去老一輩的高層擔心用ChatGPT資安會有問題、怎麼控管、如果新創公司倒了怎麼辦等等問題,所以才停滯不前,而聯發科推出這樣的平臺,解決了這些問題,「真的能更快地推動人類AI的普及。」
更多 CTWANT 報導