快閃記憶體控制晶片暨儲存解決方案整合服務領導廠商 群聯電子 (Phison; 8299TT) 於今日 (7/18) 宣布推出自主研發的AI服務方案『aiDAPTIV+』,擴大群聯的IMAGIN+ 儲存設計服務於AI應用市場。
群聯電子深耕NAND控制晶片超過23年,近幾年已透過將AI技術導入NAND控制晶片與演算法裡,以提升NAND儲存方案的運算效能與可靠度;同時群聯也建置數據科學團隊,開發並應用相關AI技術,建置世界級的驗證實驗室,加速群聯的儲存方案快速導入各種PC、手機、汽車、伺服器、電競等應用。
近期隨著ChatGPT等超大型AI模型的興起,帶動AI人工智慧於未來可能輔助企業與個人的無窮想像空間。也因為AI模型的成長速度極快,導致提供AI服務的硬體建構成本大幅提升,其主要原因為現行AI模型主要運行於GPU與DRAM當中,但未來AI模型的成長速度將遠超過GPU與DRAM可供給的量。根據微軟研究報告指出,AI模型的成長速度將會是GPU卡中的DRAM成長速度的200倍;換言之,現行的AI運算硬體架構成長速度可能已無法滿足AI應用的需求。
因此,群聯於今日發佈自主研發的AI人工智慧運算服務『aiDAPTIV+』。此AI架構為透過群聯獨創整合SSD的AI運算架構,將大型AI模型做結構性拆分,並將模型參數隨應用時間序列與SSD協同運行,以達到在有限的GPU與DRAM資源下,最大化可執行的AI模型,預計能有效降低提供AI服務所需投入的硬體建構成本。而首波的應用場景為全球首款導入整合SSD協同運算的量產aiDAPTIV+ AOI光學檢測系統 (簡稱 Phison aiDAPTIV+ AOI服務),助力SMT工廠加速進入工業4.0,並進一步提升檢測精準度,消除人力檢測所導致的不穩定性。
群聯的aiDAPTIV+ AOI服務,能適用於各種SMT產品線,包含SSD、顯示卡、DRAM、主機板等,目前已有將近10家的SMT夥伴與客戶導入Phison aiDAPTIV+ AOI服務,提升客戶與SMT廠既有AOI系統的準確率,並降低因人員失誤產生的逃脫率至10 DPPM以下,大幅提升直通率達99%以上。
凌華科技(ADLINK Technology)邊緣運算平台事業處總經理陳少華表示:「凌華與群聯在工業儲存應用方面已有多年合作經驗與默契,近期更攜手布局AI應用市場。群聯已將 AI機制導入NAND控制晶片的設計,可強化產品效能與可靠度,再搭配凌華新一代的NVIDIA Jetson Orin 平台,將可提供工控與AI領域客戶更完整可靠的方案。目前凌華的邊緣AI推論平台DLAP-211-Orin Nano以及DLAP-211-Orin NX已成為群聯自主研發的aiDAPTIV+ AOI自動光學檢測系統的首批認證邊緣運算設備,未來亦將持續擴大合作。」
「群聯整合了固態硬碟(SSD)提出創新的AI運算架構aiDAPTIV+,這樣的運算結構能在特定的AI演算法大幅降低硬體建置成本,這次群聯推出的aiDAPTIV+ AOI平台就是這種創新運算架構的成果展現。」技鋼科技副總經理藍俊坤表示,他進一步說到:「技鋼很榮幸能夠率先成為群聯aiDAPTIV+ AOI平台的認證合作夥伴。許多客戶已經成功部署了配備群聯aiDAPTIV+ AI運算架構的技嘉客製化專業工作站和AMD運算卡,在SMT生產線上提高了不良率檢測的效率,大幅降低人力檢測可能產生的疏失。未來,技鋼與群聯也將持續擴大在不同AI領域的產品應用合作,為高速運算打造新紀錄!」
群聯AI研發團隊負責人暨國立陽明交通大學智慧科學暨綠能學院合聘助理教授林緯博士表示,群聯的本業與核心競爭力是NAND控制晶片研發,因此,如何擴大NAND儲存與AI應用的連結一直是群聯近幾年努力的方向。群聯的AI研發團隊透過整合SSD與自主研發的全新AI運算架構『aiDAPTIV+』,不僅能有效降低AI伺服器硬體建構成本,而且能將此AI運算架構運用於各種AI應用場景;例如此次發表的全球首創aiDAPTIV+ AOI光學檢測系統,便是群聯透過整合SSD與打造全新AI運算架構的成功案例。未來群聯預計持續擴大『aiDAPTIV+』技術開發,與各個領域的合作夥伴共同擴大NAND儲存於AI領域的應用,並協助提升生產效率與降低成本。
群聯將於美西時間8/8至8/10於美國的快閃記憶體峰會 (Flash Memory Summit) 邀請全球的Ecosystem夥伴與客戶參觀群聯最先進的NAND控制晶片,包含全球首款支援3600MT/s速度的3D NAND的PCIe 4.0 DRAM-Less client SSD controller PS5027-E27T、全球首款PCIe 5.0 DRAM-Less client SSD controller PS5031-E31T、以及群聯的AI服務方案aiDAPTIVE+ AOI應用現場展示 (Live Demo) 等,共同討論與擴大NAND儲存應用的市場。