再掀AI热潮 华硕台智云繁中版上路
华硕26日宣布,子公司台智云推出繁体中文强化版FFM-Llama 2大语言模型。图为华硕云端暨台智云总经理吴汉章。图/本报资料照片
搭上生成式AI风潮,华硕26日宣布,全球首发推出繁体中文强化版FFM-Llama 2大语言模型,提供云端、地端及AI PC等多样态大语言模型及完整AFS(AI Foundry Service)服务,加速企业AI 2.0落地应用。
华硕云端暨台智云总经理吴汉章表示,过去30年来,台湾ICT产业基于开放架构,一跃成为全球数位创新重要伙伴,在晶片、半导体、系统与资讯服务产业百花齐放。
台智云以开放模式提供可信赖大语言模型,累积AI超算功能及完整AI工具平台,降低企业进入门槛,加速AI 2.0应用,期待能与合作伙伴延续台湾产业优势,实现普惠AI、发展以人为本的智慧科技。
华硕表示,台智云FFM-Llama 2以最新大语言模型Meta Llama 2为基础,借由AI HPC超级电脑算力、高效平行运算环境与大语言模型切割技术,训练大量台湾在地语料,大幅提升FFM-Llama 2繁体中文能力;全系列模型可进行微调、部署与推论,企业用户亦能以自订系统提示词,让AI模型思考更在地、更精准回应企业需求。
台智云AFS推出全参数及高效率模型微调(Parameter-Efficient Fine-Tuning;PEFT)功能,在GPTQ 4-bit高性能压缩技术优化下,提供经济实惠的云端或地端模型推论方案;「福尔摩沙大模型」发布至今,已服务超过70个大型企业,电信业者台湾大哥大便将智能客服导入生成式AI应用,未来可望扩展至集团不同产业面以精进客服效率。
利用台智云「AIHPC超级电脑服务」、「CCS(Container Compute Service)容器运算服务内建生成式AI映像档」、「AFS(AI Foundry Service)企业级生成式 AI 解决方案」及「OneAI机器学习MLOps nocode AI平台」四大生成式AI算力平台,全方位满足产业对生成式AI可信赖、可掌控、资料安全及地端布署需求。