字节跳动颠覆性技术!MoE训练效率暴增1.7倍,成本降40%:概念股
025年3月10日,字节跳动豆包大模型团队宣布开源COMET技术,这一针对MoE(混合专家)架构的优化方案,将大模型训练效率提升1.7倍,成本直降40%,已在内部万卡集群中累计节省数百万GPU小时算力。该技术以5/5/5/4的高分入选机器学习顶会MLSys 2025,被评审认为“具备大规模生产应用潜力”。COMET通过计算-通信重叠技术破解了MoE架构的通信瓶颈,支持主流大模型即插即用,并与DeepSeek的DualPipe方案协同增效,标志着国产大模型技术进入“降本提效”新阶段。
技术突破:如何打破MoE的“算力魔咒”? 1. 通信开销:MoE训练的“阿喀琉斯之踵”
传统MoE架构在分布式训练中,专家网络分布在多GPU上,需频繁交换Token数据,导致通信时间占比高达40%(如Mixtral-8x7B)
1
4
。大量GPU资源因等待远程数据而闲置,成为效率与成本的核心痛点。
2. COMET的三大杀手锏
公司名称
类别
关联逻辑
与豆包的直接关系
润泽科技
算力基础设施
提供数据中心建设及运营服务,为豆包大模型提供底层算力支持。
字节跳动是其核心客户,廊坊润泽国际信息港为豆包提供大规模算力基础设施。
亚康股份
算力基础设施
为字节跳动等公司提供算力设备集成及运维服务,保障大模型高效运行。
参与豆包算力基础设施部署,2024年与火山引擎合作发布昇腾芯片智能一体机适配豆包生态。
视觉中国
数据服务
海量图片/视频素材供应商,为豆包提供多模态训练数据。
签约字节跳动,素材深度接入抖音剪辑工具及豆包大模型训练体系。
中文在线
数据服务
拥有550万种数字内容资源,既为豆包提供文本数据,又通过豆包开发AI生成内容。
旗下Reelshort短剧平台与豆包结合,提升多语言内容生成效率。
海天瑞声
数据服务
AI数据标注龙头,为豆包提供语音、视觉、NLP多模态训练数据。
全球首个4D毫米波雷达标注平台,适配豆包智能驾驶等场景的数据需求。
中科创达
芯片与硬件
与火山引擎共建联合实验室,开发端侧智能OS,优化豆包在智能终端的部署。
聚焦智能座舱、机器人等场景,赋能豆包在边缘设备的实时交互能力。
中科蓝讯
芯片与硬件
讯龙三代芯片完成与火山方舟MaaS平台对接,支持豆包翻译、对话等功能。
FIIL耳机搭载豆包AI功能,TWS芯片市占率超30%,适配白牌设备快速渗透。
恒玄科技
芯片与硬件
端侧AI芯片领军者,BES2700系列或接入豆包健康监测、语音交互功能。
芯片应用于三星、华为等头部客户,AI可穿戴设备放量将受益豆包生态扩展。
乐鑫科技
芯片与硬件
物联网芯片供应商,豆包AI玩具等硬件发展带来芯片需求增长。
芯片支撑智能家居、消费电子等终端设备的AI功能,与豆包硬件生态深度绑定。
全志科技
芯片与硬件
字节跳动AI端侧硬件合作方,为豆包智能体耳机等提供支持。
为豆包智能硬件(如耳机)提供芯片解决方案,助力边缘端AI能力落地。
博通集成
芯片与硬件
与奥嘟比合作将豆包融入玩具,拓展芯片应用场景。
AI玩具产品集成豆包大模型,推动智能硬件销量增长。
掌阅科技
应用场景
字节跳动持股7%,将豆包融入阅读APP实现个性化推荐。
数字内容库超5亿册,AI辅助创作工具提升内容生成效率。
洲明科技
应用场景
自研数字人系统接入豆包问答能力,用于智慧城市、会展等场景。
LED显示与AI结合,打造“硬件+内容+AI”全栈方案。
德生科技
应用场景
自研行业大模型使用豆包作为通用知识底座。
在社保、政务等领域部署豆包多语言理解能力,提升垂直领域智能化水平。
省广集团
营销与流量生态
字节核心代理商,借豆包优化广告投放效率。
代理TikTok、抖音广告业务,豆包提升广告精准度与ROI。
蓝色光标
营销与流量生态
基于豆包开发虚拟主播、智能客服等营销方案。
服务宝洁、奔驰等客户,销博特平台接入豆包实现文案自动化生成。
天龙集团
营销与流量生态
字节核心代理商,为豆包提供推广服务并优化短视频投放。
数字营销收入占比超80%,与巨量引擎合作紧密,豆包提升广告转化效率。
南凌科技
其他协同企业
火山引擎代理商,与字节在数据传输领域合作。
提供网络安全与数据传输服务,保障豆包分布式训练稳定性。
利欧股份
其他协同企业
旗下利欧数字与字节有数字营销合作,间接支持豆包推广。
可能通过广告投放、内容营销等场景为豆包引流。
安凯微
芯片与硬件
早期已对接豆包大模型并实现多语言理解优势融合。
芯片集成豆包多语言能力,应用于智能家居、物联网设备等领域。
#A股市场#