京东开源基于国产芯片自研的 xLLM 大模型推理引擎

---

京东宣布开源其基于国产芯片自主研发的大模型推理引擎 xllm，旨在帮助企业更高效、低成本地部署ai应用。

本次开源的核心特性涵盖：

• 支持请求优先级的动态调度机制；
• 具备动态自适应能力的 PD 分离架构，可依据实时负载灵活调整 PD 实例配比；
• 面向多模态场景设计的 EPD 混合分离调度方案；
• 结合硬件特性的多级流水线执行引擎；
• 集成图融合、投机推理与动态负载均衡的完整计算优化工具集；
• 基于 Mooncake 技术实现的多层级 KV 缓存全局管理机制；

官方表示，xLLM 推理引擎源于京东零售核心业务的实际需求。目前，该引擎已广泛应用于京言AI助手、智能客服、风险控制、供应链辅助决策、广告推荐等多个关键场景，实现整体效率提升超5倍，服务器成本下降达90%。

美图云修

商业级AI影像处理工具

50 查看详情

“我们始终相信，AI基础设施生态的发展离不开广大开发者的共同参与。此次开源只是一个起点。未来，京东零售AI Infra团队将根据社区反馈持续释放更多高级功能，并携手清华大学、北京大学、中国科学技术大学、北京航空航天大学等高校及产业伙伴，深化产学研合作，共同推进国产AI基础软件技术生态的创新与发展，助力行业智能化转型。”

源码地址：点击下载

以上就是京东开源基于国产芯片自研的 xLLM 大模型推理引擎的详细内容，更多请关注其它相关文章！

# 工具  # ai  # 大模型  # 京东  # 街道防疫宣传网站建设  # 西安外包seo服务  # 松原seo公司选择25火星  # 电子设备网站建设  # 休闲网站推广优势  # 优化网站设计方案  # 丹东seo软件公司排名  # 10月营销推广方案策划  # 自己动手建设网站  # 医院网站推广优势  # 不退  # 暂未  # 在京  # 负载均衡  # 微软  # 荷兰  # 核反应堆  # 美图  # 开源  # 本地部署 

相关栏目： 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894 】

相关推荐： 苹果2万5的AR遭遇砍单95%：不及预期  人工智能如何与智能家居集成  华为AI大模型将融入HarmonyOS 4  三星加速AR眼镜进程，预计明年上半年亮相  英国前首相：AI可能被用来制造“生物恐怖武器”  纪录片 《寻找人工智能》全集1080P超清  微软 Azure AI 文本转语音服务升级：新增男性声音和扩展语言支持  AI人工智能软件，婚纱设计师的必备利器  Hugging Face发布了基于NASA卫星数据构建的AI地理空间基础模型  国内首家，360智脑通过中国信通院可信AIGC大语言模型功能评估  人形机器人打开精密齿轮市场全新空间！受益上市公司梳理  谷歌推出RT-2视觉语言动作模型，使机器人能够掌握垃圾丢弃技能  650亿参数，8块GPU就能全参数微调：邱锡鹏团队把大模型门槛打下来了  国宝级文物“铜兽驮跪坐人顶尊铜像”完成模拟拼接，腾讯AI立功  OpenAI宣布在伦敦设立海外分部，要招揽“世界级人才”  无需照相馆，AI证件照生成软件即将推出  美图设计室2.0什么时候上线  GPT-4 模型架构泄露：包含 1.8 万亿参数、采用混合专家模型  你大脑中的画面，现在可以高清还原了  华为推出两款商用 AI 大模型存储新品，支持 1200 万 IOPS 性能  人工智能和神经网络有什么联系与区别？  马克龙密会AI专家，法国加入全球人工智能竞赛  一文读懂自动驾驶的激光雷达与视觉融合感知  CREATOR制造、使用工具，实现LLM「自我进化」  用AI升级会议体验！思必驰多款会议产品亮相全球智博会！  微幼科技晨检机器人与人工晨检相比，有何优势  AI大模型时代，数据存储新基座助推教科研数智化跃迁  丰田汽车研究院推出生成式人工智能汽车设计工具  无人机巡检方案是什么，该如何选择适合的巡检方案  国家发改委组织工业机器人产业高质量发展现场会  OpenAI首席执行官表态支持欧盟AI监管  开创全新虚拟现实体验的Pimax Crystal VR头显  看懂AI，找到增长新势能 | 笔记侠AI峰会等你来  加强高质量数据供应能力，促进通用人工智能大模型领域的创新  如何利用物联网技术提高企业生产线智能化水平，提升生产效率  上新7款产品，美图继续“蹭”AI  世界周刊丨AI“棱镜”？  “聚智启新，‘蓉’力同行” 成都市人工智能产业融通对接会成功举办  鸿蒙生态带来了哪些新的流量可能性，包括AI、服务分发和原生智能等方面？  扎克·施奈德新片《月球叛军》曝剧照 机器人首度现身  创作音乐/音频的Meta开源AI工具AudioCraft，让用户通过文本提示实现  猿力科技入选北京市通用人工智能产业创新伙伴计划  AI在教育中的角色：AI如何改变我们的学习方式  你们的开机第一屏画面要变了！安卓机器人首次3D化  携程发布旅游行业垂直大模型 梁建章：AI策略是做可靠的内容 放心的推荐  AMD称下半年AI显卡供应充足，不需要像NVIDIA那样加价抢购  再度重仓 AI 赛道，SaaS 巨头 Salesforce 扩大 AIGC 风投基金规模  尼康尼克尔Z 180-600mm f/5.6-6.3 VR镜头发布：12499元 拍鸟神器  Gartner发布中国企业人工智能趋势浪潮3.0  日入400万，第一批AI骗子已上岗 

 2025-09-29