京东云曹鹏：AI变革之下，大模型技术如何为企业未来赋能？

文｜罗曾

过去一年，大模型技术在全球范围内持续狂热，中国信通院统计，全球已有超过1000个基础模型，其中中国大模型的数量占35%。尽管基础模型在不断进步，但大模型在C端尚未形成超级应用，反而在企业端的应用，已经逐步展开。

7月30日，在2024京东云峰会上，京东集团技术委员会主席、京东云事业部总裁曹鹏指出，在企业应用这一端，无论是模型的架构以及数量，还是场景的多样性和碎片化，都需要一个更具开放性的平台来承载多种模型，同时满足企业复杂应用场景以及对安全性的需求。

即未来应用场景差异下，闭源模型、开源模型、企业专属模型、商业模型共存共生，共同满足客户实际业务需求。

不过，当下还未有一个模型可以解决企业所有场景的应用。“面向大模型时代，我们认为，多芯多云多模型，是大模型真正应用的必经之路。”曹鹏如是说。

那么，作为平台方的京东云，如何落地这一思路？

曹鹏介绍了京东过去一年的三大关键实践：简化大模型的使用门槛，降低开发成本，扩大应用覆盖；开放平台，基于Agent生态、大模型生态和云原生生态，提供选择权给客户；以及强化数据安全与隐私保护，确保企业大模型服务的可信度和可靠性。

与此同时，京东自身也在深入思考如何将大模型与业务结合，创造价值。曹鹏表示，京东拥有复杂的业务场景和多样化的业务需求，这为大模型的应用提供了肥沃的土壤。目前，京东供应链上已有越来越多的大模型应用，内部超过100个AI场景全面铺开，支持了超过35万配送员、23万商家、5万医生、2万采销运营人员和1万研发人员。

具体到应用层面，京东去年发布的AIGC技术在零售场景中已非常成熟。例如，在营销图片生成方面，AIGC帮助商家实现了秒级生成营销素材，点击率提升了超过30%。在运营提效方面，基于大模型的智能运营能力，将运营配置效率从1小时压缩至5分钟以内，成本降低了50%。在销售转化方面，大模型的应用帮助店铺提高了流量利用效率，综合比率提升了超过40%。

京东还推出了多种智能助手，如快递小哥智能助手、患者健康助手康康、医生诊疗助手和企业OA助手，这些工具极大地提升了员工的工作效率和服务质量。

在上述应用场景背后，京东云构建了一整套完善的大模型产品矩阵，从基础设施到模型服务和工具，再到Agent应用开发，全面支持大模型的快速、高效落地。此次2024京东云峰会上，京东云也展示了言犀大模型落地行业的技术与应用实践，并发布京东云企业大模型服务、言犀智能体平台、智能编程助手JoyCoder、言犀数字人3.0等三大智能平台、五大技术产品。

据介绍，在Agent应用方面，京东云助力开发者低成本、便捷地搭建智能体，提高工作效率；在模型服务方面，提供一站式的模型训练推理服务，降低大模型训练和使用门槛；在基础设施方面，提供极致的数字基础设施能力，满足大模型的算力需求。

随着通用大模型训练进入万亿参数级别，超大规模算力集群成为训练有竞争力大模型的基础。然而，面向具体业务场景时，通用大模型并不能完全满足所有需求。企业需要找到更有价值的场景，开发更有竞争力的行业大模型，并基于场景不断迭代。

曹鹏指出，虽然通用大模型可以通过大规模算力集群训练出来，但优秀的企业大模型更需要在实际业务中不断迭代和优化。京东云推出的企业大模型服务，通过技术手段提升模型的实用性和经济性。具体而言，通过大模型拉升技术，让垂直领域数据自进化并注入模型中，提高模型的适用性和准确性；通过大模型压缩技术，去除对企业权重低的模型神经元，同时提高模型推理速度，降低能耗，使企业使用模型更经济；通过大模型推拉技术，快速低成本地获取企业专属业务模型，推理侧模型显存节约70%，速度提升1.5倍，极大提升企业模型使用效率。

京东云的智能体平台——言犀智能体平台的发布，标志着京东在智能体开发领域迈出了重要一步。这个一站式智能体开发平台，无论用户是否有编程基础，都可以快速搭建基于AI模型的各类快捷应用。从简单的知识问答到处理复杂逻辑的业务问题，言犀智能体平台都能提供强大的支持。目前，京东内部的智能体数量已超过3300个，这些智能体正在帮助京东完成许多具体的工作任务，提高工作效率。