隨著生成式人工智慧 (Generative AI) 的出現,不僅各種AI應用領域不斷擴大,產官學單位對AI模型微調 (Fine-Tuning) 運算的需求也持續上升,AI逐漸成為生活中不可或缺的未來場景似乎不再遙不可及。鑒於此趨勢,群聯電子 (Phison; 8299TT) 與產業巨頭聯發科技 (MediaTek; 2454TT) 於今日 (3/15) 攜手宣布了一項重大的策略聯盟。群聯電子的創新AI運算服務「aiDAPTIV+」將與聯發科技旗下領先的生成式AI服務平台「MediaTek DaVinci」深度整合,共同開創AI運算與應用服務的新時代,加速普及生成式人工智慧於大眾的日常生活。
「MediaTek DaVinci」平台是聯發科技基於GAI服務框架(GAISF)打造的一款先進的生成式AI服務開放式平台,開發者可在「MediaTek DaVinci」平台上開發各類實用的插件,建立豐富的生態系統,同時提升使用者的互動體驗。
群聯電子推出的「aiDAPTIV+」服務方案,通過其獨特的SSD整合AI運算架構,將大型AI模型進行結構性拆分,並與SSD協同運行。這種方法不僅大幅降低了AI基礎建設的硬體成本,還提高了運算效率,使得在有限的GPU與DRAM資源下也能夠訓練大型的AI模型。「aiDAPTIV+」的技術已在工業4.0領域獲得實證,預計未來也將持續協助各產業加速進行AI轉型,提升企業競爭力。再者,相較於傳統的AI伺服器架構,群聯的「aiDAPTIV+」方案在相同的AI模型微調訓練運算條件下,所需的整體電力較少,也符合當前減少能源消耗和碳足跡的環保趨勢。
群聯的「aiDAPTIV+」方案不僅已在全球首款整合SSD協同運算的量產AOI光學檢測系統中展現其工業應用價值,更已協助國立陽明交通大學廖元甫教授的客台語AI提升辨識準確度。與聯發科技「MediaTek DaVinci」的結合,將進一步拓展「aiDAPTIV+」技術的應用範疇,為AI服務市場注入新動力,不僅將為用戶帶來更優質的體驗,也將為開發者開闢更廣闊的創新空間。
群聯技術長林緯博士強調,群聯電子的使命即是透過創新技術來解決實際問題,並推動產業的進步。我們的「aiDAPTIV+」技術方案將為AI模型微調 (Fine-Tuning) 運算領域帶來革命性貢獻,而聯發科技的「MediaTek DaVinci」平台在AI服務領域也已取得卓越的成就,通過雙方的共同努力,我們將能夠快速導入AI應用於大眾的日常生活,並為我們的客戶創造更大的價值。
聯發科技人工智慧暨數據工程處協理葉家順表示,聯發科技長期致力於推動AI的創新與應用,期待「MediaTek DaVinci」生成式AI服務平台能為產業激發出更多的新應用。群聯電子的「aiDAPTIV+」技術方案不僅為我們的平台帶來了前所未有的地端運算能力,也為我們的使用者和開發者社群開啟了新的可能性。我們期待這次合作能夠為整個產業帶來深遠的影響,並攜手創造更加智慧的未來。
群聯電子與聯發科技雙方合作的效益包括:
- 創新的AI運算架構:「aiDAPTIV+」的模型結構分拆並與SSD協同運行技術,支援更大型AI模型的訓練。
- 提升成本效益:預計將降低AI服務的硬體建構成本,使得AI技術的應用更為廣泛且經濟。
- 提升「MediaTek DaVinci」平台的擴展性:結合「aiDAPTIV+」後,將為開發者提供更多元客製化插件的開發可能性。
- 加速部署地端AI應用:透過結構性拆分AI模型,「aiDAPTIV+」能夠快速適應不同的應用需求。
- 更符合ESG趨勢的解決方案:「aiDAPTIV+」能降低AI模型微調運算的總電力需求,減少能源消耗和碳足跡,符合環保趨勢。
此外,透過群聯「aiDAPTIV+」技術方案與聯發科技「MediaTek DaVinci」平台的合作,AI伺服器廠商將能提供一個完整的地端軟硬體整合方案,使AI伺服器產品更具競爭力,為終端客戶提供一站式的AI服務。
群聯電子與聯發科技相信,透過雙方的合作,不僅將能夠為AI伺服器廠商帶來差異化的競爭優勢,加速AI技術的普及,更能為終端用戶創造更多價值,打造AI Everywhere的智慧未來新世代。