賦能AI無極限 - 群聯電子『aiDAPTIV+ 』方案 - 降低 AI微調訓練成本的重大突破
群聯電子 (Phison; 8299TT) 今日 (3/18) 宣布與技嘉 (GIGABYTE)、華碩 (ASUS)、MAINGEAR、台灣大哥大 (Taiwan Mobile) 及聯發科技 (MediaTek) 建立 「aiDAPTIV+」技術合作夥伴關係。在 GTC 2024 上,群聯電子和合作夥伴將展示「aiDAPTIV+」技術方案,這是一種整合硬體和軟體的AI模型微調訓練解決方案,可讓企業進行AI模型微調運算的過程中依舊保有資料的安全性與不外流,讓機器學習 (Machine Learning) 更安全有保障。
AI模型的預訓練 (Pre-trained) 可提供AI對語言或圖形等的通用理解,但群聯的「aiDAPTIV+」可賦能AI模型微調運算,將預訓練 (Pre-trained) 的AI模型塑造成能夠理解特定領域的專業工具 (例如 符合律師、會計師、醫師、工程師等特殊領域的AI助理),以提供符合各種專業領域所需的精確服務。通用型工作站硬體透過 「aiDAPTIV+」軟體Middleware和群聯獨家專利設計的aiDAPTIVCache系列ai100 SSD,將可讓現行的工作站電腦或是AI伺服器訓練更大的AI模型。
MAINGEAR 創始人兼執行長 Wallace Santos 表示:「MAINGEAR 的 Pro AI 系列工作站採用群聯「aiDAPTIV+」技術,讓使用者能夠在不大幅增加成本的情況下,擁有大型AI語言模型微調訓練能力。我們致力於打造功能強大且經濟實惠的解決方案,確保中小型企業、大學和研究機構在以前需要數百萬美元投資的產業中獲得競爭優勢。」
群聯「aiDAPTIV+」是業界最創新的解決方案,可解決企業當今的AI落地應用痛點。
群聯「aiDAPTIV+」的功能包括:
- 易用性 – 專注於訓練使用者的資料,而不是訓練工程師。「aiDAPTIV+」的設計旨在提供使用者降低AI訓練複雜性和AI運算硬體設施需求。
- 高CP值與可擴充性 – 利用群聯獨家專利的高耐用aiDAPTIVCache 系列 SSD,使用者能在不大幅增加成本的前提下,直接與現行工作站或AI伺服器整合,並增加GPU的可用記憶體容量,讓使用者可以運算更大的AI模型與使用更多的資料量進行AI訓練。
- 保密與安全 –「aiDAPTIV+」是一種地端AI微調訓練解決方案,可讓使用者將資料保留在地端,不用上傳雲端,資料更安全保密。
技嘉科技執行長李宜泰指出,技嘉跟群聯已有很長的技術合作經驗,包括技嘉 SSD 也是採用群聯的技術方案,群聯在 SSD 控制晶片的領先地位再加上技嘉於 PC 市場的深厚經驗,雙方一直是合作無間。而除了 PC 市場以外,技嘉也深耕 AI 伺服器多年,我們很高興群聯推出的獨創 AI 技術方案「aiDAPTIV+」,協助技嘉的 AI 伺服器客戶提供另一種 AI 模型微調運算的運算架構,透過整合 SSD 至 AI 運算架構,將 SSD 當作 DRAM 來使用,大幅降低 AI 模型微調運算的成本,對全球想要導入 AI 輔助應用的客戶而言是一大福音。技嘉將持續擴大跟群聯在「aiDAPTIV+」技術的合作,共同為 AI 應用普及盡一份心力。
華碩全球副總裁暨開放平台事業群資料中心技術長暨資料中心事業部總經理朱培蘭 (Paul Ju) 表示,華碩 AI 伺服器整合群聯最新的高速資料傳輸技術「aiDAPTIV+」,在不大幅增加客戶成本的前提下,大幅提升運算效能。未來華碩也將持續跟群聯密切合作,共創多贏。
台灣大哥大資訊長蔡祈岩指出,隨著AI技術持續突破發展,逐漸滲透軟硬體及跨產業應用,台灣大哥大以電信本業天賦,積極布局跨產業合作,持續提升附加價值予台灣大用戶。群聯的獨家「aiDAPTIV+」技術方案,不僅完美整合台灣大現有的AI運算架構,而且還有效的擴大台灣大的AI模型運算規模以及效能提升,是一套非常創新的AI運算架構。未來台灣大將密切的與群聯合作,一同協助台灣大用戶以商務角度切入,共同協助用戶「打造企業與一般用戶專屬生成式AI應用與運算平台」。
群聯電子「aiDAPTIV+」亦與聯發科技最新的人工智慧平台「MediaTek DaVinci」合作,使企業從訓練階段到實際運作大型AI模型的過程,都能維持對地端敏感資訊的控制能力。
聯發科技人工智慧暨數據工程處協理葉家順表示,聯發科技致力成為 AI 賦能者,讓前瞻科技普及。群聯電子的「aiDAPTIV+」強大的地端運算能力,結合 MediaTek DaVinci 的高整合度及擴展性,我們共同賦能各行各業導入生成式 AI。
在 GTC 上,群聯電子還將展示全系列的 PCIe Gen5 生態系統產品,包括 X200 SSD、PS7100 系列 Redrivers 和 PS7200 系列 Retimers。
- PCIe Gen5 SSD X200: 最高效能超過 14GB/s,在2/U.3 和 E3.S 外形尺寸中,最高儲存容量達 32TB,能滿足資料中心和伺服器的高效能與高容量需求。
- PS7100 系列 Redrivers:採用 PHiTUNE AI 技術的 Redrivers,信號調節能力高達 20dB,可最大化主機板佈線,支援更長的走線長度。
- PS7200 系列 Retimers:適用於企業和汽車應用的高階 Retimers,支援 CXL 2.0 和link分叉 (link bifurcation),可在較長的訊號線上進行 PCIe Gen5 信號調節。
群聯電子將在 GTC 2024 的 1826 號攤位參展
請訪問群聯電子的 GTC 活動頁面瞭解更多: https://phisonblog.com/phison-meeting-registration-nvidia-gtc-2024/
有關 「aiDAPTIV+」的訊息,請訪問: https://www.phison.com/aidaptiv-plus-ai-data-storage-solution/
有關群聯屢獲殊榮的 PCIe Gen5 生態系統產品線,請訪問 www.phison.com