当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek“开源周”第二天开源EP通信库

4个月前 (02-25)Deepseek最新资讯207

新京报贝壳财经讯(记者罗亦丹)北京时间2月25日,DeepSeek发布了其“开源周”第二天的成果:DeepEP,第一个用于MoE模型(混合专家模型)训练和推理的开源EP通信库。

据了解,EP为Expert Parallelism(专家并行),是一种在大规模分布式AI模型训练中使用的技术,能用于提升模型并行处理能力和训练效率。

DeepSeek介绍,DeepEP的特点包括:高效且优化的全对全(all-to-all)通信,节点内和节点间支持NVLink和RDMA,用于训练和推理预填充的高吞吐量内核,用于推理解码的低延迟内核,原生FP8调度支持,灵活的GPU资源控制,实现计算与通信重叠。

DeepSeek发布公告截图


“DeepSeek“开源周”第二天开源EP通信库” 的相关文章

DeepSeek开源第二弹:EP通信库来了,有望再次降低计算消耗

DeepSeek开源第二弹:EP通信库来了,有望再次降低计算消耗

2月25日,DeepSeek在“开源周”的第二日开源了DeepEP通信库。DeepSeek表示,这是第一个用于MoE(专家)模型训练和推理的开源EP通信库。“高效、优化的全员沟通;节点内和节点间均支持...

DeepSeek赋能 成都崇州政府服务创新升级

DeepSeek赋能 成都崇州政府服务创新升级

3月6日,记者从成都崇州市获悉,崇州市AI政务服务小助手“小崇” 正式接入DeepSeek,开启数字政务管家2.0版,提供全新智能导办体验。通过接入DeepSeek大模型技术,打造出形象可爱、功能强大...

青岛市医保局实现DeepSeek本地化部署

青岛市医保局实现DeepSeek本地化部署

为响应国家“人工智能+”战略部署,青岛市医保局积极探索人工智能技术与医保管理的深度融合,使用青岛市大数据局部署的DeepSeek大模型和青岛市医保局本地部署的Deepseek大模型,成功上线“医保政策...

DeepSeek说:520到了,不同mbti的理想爱情是什么样的?

DeepSeek说:520到了,不同mbti的理想爱情是什么样的?

MBTI作为人格分类工具,常被用来探讨爱情中的互动模式。不同人格类型对理想关系的期待确实存在差异,但需注意:个体差异远大于类型标签,以下仅为基于认知功能(如主导/辅助功能)的常见倾向总结:理性分析组(...

“联通元景+DeepSeek” 赋能重庆12345热线智慧升级

“联通元景+DeepSeek” 赋能重庆12345热线智慧升级

在人工智能技术快速发展的背景下,中国联通积极推进数字化建设,助力重庆12345政务服务便民热线接入DeepSeek R1国产大模型,并融合中国联通元景大模型技术,实现民生诉求场景下热点问题的全维度态势...

全国首个!东胜一卫生院接入DeepSeek

全国首个!东胜一卫生院接入DeepSeek

东胜区罕台中心卫生院与国内领先的AI大模型场景落地企业百沐数智达成战略合作正式接入DeepSeek-R1“满血版”大模型成为全国首个将大模型技术应用于基层医疗服务场景的医疗机构东胜区罕台中心卫生院通过...