京东发布产业大模型：让大模型在供应链上生长

封网来源：摄图网

托比网讯，7月30日，2024京东云峰会在上海举行。在此次峰会现场，京东云展示了京东言犀大模型落地行业的最新实践情况，并发布了京东云企业大模型服务、言犀智能体平台、智能编程助手 JoyCoder、言犀数字人 3.0 等八项产品。

会上，京东集团技术委员会主席、京东云事业部总裁曹鹏表示：“通用大模型靠算力堆起来，而企业大模型要靠业务跑出来。”

过去一年，大模型一直保持狂热态势，行业经历了一场“千模大战”。据中国信通院统计，目前全球的基础大模型有 1000 余个，中国大模型的数量占到全球的 35%。虽然基础模型的性能在不停提升，但是在个人用户端，大模型尚未出现具有实质意义的超级应用，反倒是在许多企业端场景当中，已经基于应用逐步展开。

“面向大模型时代，我们认为，多芯多云多模型，是大模型真正应用的必经之路。”曹鹏说。

他认为，“大模型要用起来，才能活起来。”如今，越来越多的大模型应用，正在京东供应链上生长，京东供应链是大模型应用的超级孵化器，持续将孵化成熟的大模型应用打磨，并于京东内部超100个AI场景全面铺开，已经有超35万京东自有配送员、超23万商家、超5万副主任级别以上医生、超2万采销运营、超1万研发人员得到了大模型应用的支持。

比如服务于医疗场景的“京医千询”，据京东健康智能算法部负责人介绍，目前内部做了四个不同体量的模型，一个是2b左右的微小模型，在窄域提供某个单一服务，团队设想其“未来甚至可以放到手机上”使用；二是以14b、22b为核心的中型体量模型，完成一些医疗咨询和服务支持类工作；最后是以80b为核心，专门服务复杂医疗决策和推理能力的大模型。

此外，曹鹏还介绍了京东过去一年的三大关键实践：简化大模型的使用门槛，降低开发成本，扩大应用覆盖；开放平台，基于Agent生态、大模型生态和云原生生态，提供选择权给客户；以及强化数据安全与隐私保护，确保企业大模型服务的可信度和可靠性。

曹鹏指出，优秀的企业大模型要在实际业务中不断迭代和优化。京东云推出的企业大模型服务，让垂直领域数据自进化并注入模型中，提高模型的适用性和准确性；通过大模型压缩技术，去除对企业权重低的模型神经元，同时提高模型推理速度，降低能耗，使企业使用模型更经济；通过大模型推拉技术，快速低成本地获取企业专属业务模型，推理侧模型显存节约70%，速度提升1.5倍，极大提升企业模型使用效率。

目前，京东内部的智能体数量已超过3300个，这些智能体正在帮助京东完成许多具体的工作任务，提高工作效率。

综上，具体到企业落地大模型上，曹鹏认为有三点非常关键。首先是简单，场景的多样性和碎片化支撑不了高昂的开发成本，必然要将大模型的使用门槛降到最低才会覆盖更多应用。其次是开放，基于开放的Agent生态、大模型生态、云原生生态，将选择权交给客户。第三是安全，提供数据安全与隐私保护、AIGC内容合规、语料数据安全管理，让企业大模型服务可信可靠。

关于托比网：

托比网创始于2012年10月，是以媒体、研究、活动为主体的国内专业的产业数字化服务平台，致力于推动中国产业数字化的发展。10余年深耕，托比网建立了业界全面、系统、深厚的行业关系，在产业数字化服务上有着极大的影响力。