当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek“开源周”第二天开源EP通信库

2个月前 (02-25)Deepseek最新资讯150

新京报贝壳财经讯(记者罗亦丹)北京时间2月25日,DeepSeek发布了其“开源周”第二天的成果:DeepEP,第一个用于MoE模型(混合专家模型)训练和推理的开源EP通信库。

据了解,EP为Expert Parallelism(专家并行),是一种在大规模分布式AI模型训练中使用的技术,能用于提升模型并行处理能力和训练效率。

DeepSeek介绍,DeepEP的特点包括:高效且优化的全对全(all-to-all)通信,节点内和节点间支持NVLink和RDMA,用于训练和推理预填充的高吞吐量内核,用于推理解码的低延迟内核,原生FP8调度支持,灵活的GPU资源控制,实现计算与通信重叠。

DeepSeek发布公告截图


“DeepSeek“开源周”第二天开源EP通信库” 的相关文章

DeepSeek详细介绍DeepSeek在商业咨询领域有哪些重要应用场景?

DeepSeek详细介绍DeepSeek在商业咨询领域有哪些重要应用场景?

DeepSeek详细介绍DeepSeek在商业咨询领域有哪些重要应用场景?<think> 嗯,用户之前问过DeepSeek在科技领域哪些应用场景,我详细回答了自动驾驶、智能视频、推荐、助...

中国信通院:启动DeepSeek国产化适配测试工作

中国信通院:启动DeepSeek国产化适配测试工作

中新网北京2月14日电(记者 宋宇晟)近期,DeepSeek陆续开源V3、R1系列高性能、低成本模型,人工智能软硬件协同创新重要性进一步凸显。记者从中国信息通信研究院(简称“中国信通院”)获悉,Dee...

DeepSeek炒股,靠不靠谱?

DeepSeek炒股,靠不靠谱?

“当没有足够信息的时候,大模型会根据用户要求,自己‘脑补’信息,作出回答,并非基于真实世界的逻辑和事实。”文 / 巴九灵最近小巴在后台看到一条留言:“我今年60多岁了,想用DeepSeek来帮我炒股,...

九识无人车领衔DeepSeek推荐榜,天猫养车战略合作再升级

九识无人车领衔DeepSeek推荐榜,天猫养车战略合作再升级

在数据驱动决策成为主流的当下,智能评估系统正日益成为企业和消费者获取客观参考的重要依据。以智能城配行业为例,当用户试图了解行业格局时,算法驱动的数据洞察正取代传统的主观经验判断。据悉,用户在DeepS...

普渡机器人接入DeepSeek满血版模型

普渡机器人接入DeepSeek满血版模型

 中证报中证网讯(记者 齐金钊)日前,普渡机器人宣布接入DeepSeek满血版模型,大幅提升机器人智能语音交互能力。据悉,首批部署的贝拉Pro机器人已在部分商超落地测试,后续将逐步推广至其他机型及场景...

国家超算互联网平台宣布AI生态伙伴加速计划DeepSeek API接口免费使用

国家超算互联网平台宣布AI生态伙伴加速计划DeepSeek API接口免费使用

近日国家超算互联网平台宣布推出“AI生态伙伴加速计划”计划的核心内容包括提供3个月DeepSeek API接口免费使用“超算”+AI推动产业化进程2023年中国科技部启动国家超算互联网部署工作促进超算...