全球 NAND 控制芯片暨储存方案技术领导厂商 群联 (Phison, 8299TT) 今日宣布，其边缘 AI 训练与推论解决方案 aiDAPTIV+ 再度升级，提供更多扩充能力。aiDAPTIV+ 将整合至 Maingear 的ML 系列笔电，这款 AI 笔电将成为全球首款支持 LLMOps (Large Language Model Operations; 大型语言模型作业) 的消费级笔电，用户用户将可使用自身企业或个人资料来微调 (Post-training/Fine-tuning) 最多 80 亿 (8B) 参数的大型语言模型 (LLM)，让预训练 (Pre-trained) 的AI模型能依据边缘应用场景与使用者需求进行客制化 (Post-training)，以达到真正的AI落地普及化。此款搭载 NVIDIA GPU的AI笔电将于本周 (3/17-21, San Jose, USA) 于NVIDIA GTC 2025 展示概念机并开放登记购买。此外，群联也将 aiDAPTIV+ 扩展至支持 NVIDIA Jetson 平台的边缘运算设备，强化在边缘端的生成式 AI 推论与机器人应用。
随着此次升级，aiDAPTIV+ 用户将迎来全新的 aiDAPTIVLink 3.0 中间件 (Middleware Software)，提供更快的首次响应时间 (Time to First Token, TTFT)，并延长 Token 长度，以提升推论效能与准确性。此扩展将进一步开启更多应用机会，无论是大学生或AI 产业专业人士学习 LLM 训练，或是研究人员透过 PC 深入解析自身数据，甚至是制造工程师透过边缘运算设备自动化工厂生产流程，皆能受益于 aiDAPTIV+此次的功能升级。
AI 与边缘运算应用场景日益增多，市场对 AI 开发人才的需求持续攀升。开发者需要亲身操作 LLM 训练解决方案，以建立未来AI应用所需要的AI软件或是专属边缘AI模型，而政府机构、研究机构、医疗与工业组织等高度受监管之产业，则需要边缘、安全的地端AI设备来进行私有数据的 AI模型微调训练 (Post-training/Fine-tuning)。此外，市场对 LLM 推论速度与准确度的要求不断提升，企业更希望在可预测的成本下，获得最佳解决方案。aiDAPTIV+ 以经济实惠的 GPU 内存扩充能力，让用户可在边缘封闭式安全网络内微调训练大语言模型 (LLM)，并透过直觉化软件接口与AI模型互动，获取所需的AI生成关键信息。
「延续去年 GTC 展出的 aiDAPTIV+ AI 训练工作站热潮，我们与群联深化合作，推出概念性 AI 笔电，让强大的边缘 AI 推论与装置端模型训练无处不在。」Maingear 执行长 Wallace Santos 表示，「这项技术突破将边缘 AI 能力带入轻便的行动平台，为企业、教育机构与学生提供经济高效的 AI 开发工具，无需倚赖传统数据中心基础设施。」
(英文原文: “Building on the momentum of last year’s AI training workstation featuring aiDAPTIV+ at GTC, we’ve expanded our collaboration with Phison to take AI performance even further by introducing a proof-of-concept laptop that enables both powerful edge AI inference and on-device model training from anywhere,” said Wallace Santos, CEO of Maingear. “This brings the capabilities of on-prem AI to a compact, mobile platform, giving businesses, educators, and students a cost-effective tool to develop AI models without the complexity of traditional data center infrastructure.”)
群联电子执行长潘健成表示，AI的发展已经来到一个关键时刻，企业、学术界与开发者都需要更灵活、高效的边缘AI解决方案来扩大AI的落地应用。群联的aiDAPTIV+不仅让用户能在个人笔电或边缘设备上训练与推理AI模型，还确保数据安全、降低成本，真正实现AI边缘运算的便利性。今年，我们与Maingear携手推出全球首款支持LLMOps的AI笔电，并强化aiDAPTIVLink 3.0的效能，让LLM的响应速度更快、理解力更强。此外，群联进一步扩展与NVIDIA Jetson平台的合作，将aiDAPTIV+导入边缘运算与机器人应用，让更多产业如制造、医疗、零售、智慧监控等领域，都能透过AI提升营运效率与决策精准度。透过这些技术突破，我们希望帮助更多企业与开发者打破AI导入技术门坎，加速AI落地应用，让智慧运算真正融入日常工作与生活。
aiDAPTIV+ 最新升级功能：
▶ Maingear ML 系列 AI 笔电，内建 aiDAPTIV+ 支援 LLMOps
这款 AI 笔电为全球首款支持 LLMOps 微调训练与推论的消费级笔电，可处理最多 80 亿参数的模型。Maingear AI 笔电搭载 aiDAPTIVCache SSD、aiDAPTIVLink 中间件，以及 Pro Suite 图形化 LLMOps 全方位功能，涵盖数据导入、微调、检索增强生成 (RAG)、监控、验证与推论。用户可透过 Maingear 登记，获取订购与出货通知。
▶ aiDAPTIVLink 3.0 中间件
新版 aiDAPTIVLink 3.0 可强化推论能力，提供更快的 TTFT 响应速度，并支持更长的 Token 长度，提升语意理解与回答准确度。此功能将于 2025 年 4 月推出。
▶ aiDAPTIV+ AI 推论支持 IoT 边缘运算
aiDAPTIV+ 现已支持边缘运算与机器人应用，并通过群联验证，可在 NVIDIA Jetson 平台设备上运行。aiDAPTIV+ 透过 aiDAPTIVCache SSD 强化推论能力，并支持 LoRA 架构 LLM 训练，将于 2025 年 4 月上市。此升级可应用于自动驾驶、医疗诊断、工业自动化、零售分析、环境监测、电信、智慧监控及智慧农业等领域。
欲了解更多信息，欢迎莅临 NVIDIA GTC 展览摊位 (2224)，现场将展示 Maingear AI 笔电与 aiDAPTIV+ 在边缘运算上的 AI 推论应用，或前往官方网站查询最新消息。