台智云推AI 2.0一站式服务

因「ChatGPT」受到瞩目的大型语言模型（Large Language Model，LLM），与被视为是AI领域创新趋势之一的生成式AI（Generative AI）近期快速发展，开启新世代AI新范畴。

以AI聊天机器ChatGPT来说，其依据的基础LLM是具有逾千亿个参数的自然语言处理系统，可运用于内容生成、文字摘要、聊天机器人、编写程式码，和应用于蛋白质结构与生物分子属性之预测等客制化的AI应用程式。

而台智云以超级电脑AIHPC的高速运算平台结合技术资源团队，建置了全台第一个高达1,760亿个参数的BLOOM（BigScience Large Open-science Open-access Multilingual Language Model）大模型，能提供巨量的模型训练与推论在TWCC（台湾AI云）上快速运行，台智云并以全新的服务模式，提供企业客户完整的AI外部支援。

以台智云完成的BLOOM大模型成果为例，资料集包含46种人类语言、13种程式语言，参数量高1,760亿个、整体资料量高达1.5TB以上，运用了840个GPU做跨节点训练，除了效能逼近线性理论值外，也可收敛训练结果，若欲增加效能，亦能用线性的方式扩容，增加GPU来提升平行运算能力。

对企业来说，若要自行推动LLM专案，需熟悉分布式训练架构、建置AIHPC高速运算系统、理解微调技术（fine-tune）、大模型推论（inference），布建门槛极高。台智云提供的「AI 2.0大算力顾问服务」一站式整合解方，将可推助企业快速降低投入时间、技术成本、开发风险、硬体设备和人力投资等数百万美元的成本，打造自有生成式AI应用。