“打对折”还提速!腾讯混元最新模型上线
“腾讯混元最新一代模型Turbo已上线,输入和输出价格只有前代模型的一半。”9月5日上午,在腾讯全球数字生态大会上,腾讯集团副总裁、云与智慧产业事业群COO兼腾讯云总裁邱跃鹏透露了上述信息。
就在9月2日,根据业内SuperCLUE评测,腾讯混元Turbo总分位列国内第一,中文场景效果对标GPT-4o。
程序员做AI大模型是不是最终要将自己优化掉?
对此,邱跃鹏表示大模型的最快、最直接受益者其实是程序员自己。在腾讯内部,现在有一半的研发人员都在用腾讯云AI代码助手。在模型训练阶段,通过抓取核心上下文,把代码生成率提升了5%左右。
大会上,腾讯云还正式发布AI infra品牌“腾讯云智算”,一个集算存网一体的高性能智算底座。
邱跃鹏介绍,在稳定性和性能上,腾讯云的集群千卡单日故障数已经刷新到0.16,是行业水平的1/3;1分钟就能完成万卡checkpoint写入,数据读写效率是业界10倍;千卡集群的通信时间缩短到6%,是业界一半。
同时,通过整合软硬件技术能力,腾讯云智算集群从机器上架到开始训练可以做到只需1天,相比业界以月为单位也大为缩短。
例如,在与一家消费电子企业的合作中,腾讯云将代码生成率从最初学习代码库之后的15%提升到37%,代码采纳率也提高到了28%,让研发效率大幅提升。
文、图 记者 王丹阳