台智云端台版LLM新典范 助企业部署生成式AI应用

经TMMLU+实测,台智云FFM-Llama3-70B于繁中LLM中,表现首次超越GPT 4.0。

FFM模型家族中的FFM-Mixtral-8x7B、FFM-Mistral-7B、FFM-Llama2-v2和FFM-Llama3-8B,整体评分则超越GPT 3.5,确立台智云在繁中LLM模型的领导地位。

透过新增支援函式呼叫(Function Calling)功能,能快速串接如Google map、搜寻引擎、交通订票、即时金融股价查询等外部应用,让开发者轻松强化模型能力,加速商业应用的全面开发,亦成为唯一拥有此功能的繁中LLM。

AFS ModelSpace提供企业多种开源大语言模型、自动化工具和管理服务。最新释出的FFM-Llama3(8B、70B)、FFM-Mistral、Code Llama、TAIDE等开源基础模型,让使用者简化管理程序,可直接推论使用和快速切换模型。新增的「Public Mode」API计费模式,采token用量计费,大幅减少中低使用量企业的成本与时间。

台智云技术长陈忠诚于今日举办的台智云GenAI 线上技术论坛中分享,台智云聚焦提供企业所需的生成式AI,包含AIHPC高速运算力、可信赖的繁中大语言模型、No-code平台,从云端到地端,都能有效协助解决企业的各式成本、时间、人力、资安等多面向考量,并且会持续支援优秀的开源模型,提供企业最完整、最佳的解决方案。

秀传医疗体系医疗资讯副院长刘立则分享台智云AFS服务指出,透过Function Calling功能,结构化输出高品质病历摘要和报告,再由GenAI进行推理分析,提供诊断建议参考,能有效减轻医护工作量。