《电脑设备》华硕台智云AI 2.0一站式服务 搭上ChatGPT题材

台智云技术长陈忠诚指出：「AI技术结合大型语言模型已是产业科技发展的趋势，企业要单独执行LLM专案的难度极高，利用一站式AI 2.0大算力顾问服务，可更专心投入研发专案，大幅降低进入门槛。台智云AIHPC高速运算平台结合技术资源团队，以全新的服务模式，提供完整的AI外部支援，现今已有高科技研发制造、金融和零售领域企业正在洽谈合作中。」

以台智云完成的BLOOM大模型成果为例，资料集包含46种人类语言、13种程式语言，参数量达到1760亿个，整体资料量高达1.5TB以上，运用了840个GPU做跨节点（node）训练，除了效能逼近线性理论值外，也可收敛训练结果，若欲增加效能，亦能用线性的方式扩容（scale out），增加GPU来提升平行运算能力。

此外，企业自行推动LLM专案，需熟悉分布式训练架构、建置AIHPC高速运算系统、理解微调技术（fine-tune）、大模型推论（inference），布建门槛极高，若使用「AI 2.0大算力顾问服务」，可快速降低投入时间、技术成本、开发风险、硬体设备和人力投资等成本，打造自有生成式AI应用。