当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek“开源周”第二天开源EP通信库

7个月前 (02-25)Deepseek最新资讯394

新京报贝壳财经讯(记者罗亦丹)北京时间2月25日,DeepSeek发布了其“开源周”第二天的成果:DeepEP,第一个用于MoE模型(混合专家模型)训练和推理的开源EP通信库。

据了解,EP为Expert Parallelism(专家并行),是一种在大规模分布式AI模型训练中使用的技术,能用于提升模型并行处理能力和训练效率。

DeepSeek介绍,DeepEP的特点包括:高效且优化的全对全(all-to-all)通信,节点内和节点间支持NVLink和RDMA,用于训练和推理预填充的高吞吐量内核,用于推理解码的低延迟内核,原生FP8调度支持,灵活的GPU资源控制,实现计算与通信重叠。

DeepSeek发布公告截图


“DeepSeek“开源周”第二天开源EP通信库” 的相关文章

西安举办“解码DeepSeek——大模型技术与应用主题论坛”

西安举办“解码DeepSeek——大模型技术与应用主题论坛”

2月21日,由西安市科学技术局指导,西安电子科技大学人工智能学院、西安市人工智能产业发展联盟等主办的“解码DeepSeek——大模型技术与应用主题论坛”在西安市举行。本次论坛聚焦以DeepSeek为代...

不开玩笑,DeepSeek让成人玩具率先受益

不开玩笑,DeepSeek让成人玩具率先受益

 出品 | 妙投APP 作者 | 董必政 头图 | AI制图 Deepseek已经席卷全球。在此之前,代表硬件端侧的AI消费电子,仍是不温不火。 De...

DeepSeek API 的返回值格式是什么?

DeepSeek API 的返回值格式是什么?

DeepSeek API 的返回值格式是什么?DeepSeek API的返回值格式通常是JSON格式。这种格式返回的数据包括生成的文本内容、状态码(用于判断请求是否成功)、错误信息(若请求失败时)等。...

车企“抢滩”DeepSeek背后:角力智能座舱,降低投资成本

车企“抢滩”DeepSeek背后:角力智能座舱,降低投资成本

DeepSeek掀起的技术革命正在席卷汽车行业。截至目前,超过20家车企宣布接入DeepSeek模型,涵盖了比亚迪、吉利、奇瑞、岚图、长城、理想汽车等主流品牌。这一情况与2023年ChatGPT爆火时...

郑州大学部署“满血版”DeepSeek!

郑州大学部署“满血版”DeepSeek!

DeepSeek R1作为我国自有团队研制的开源人工智能大模型之一,其能力震惊业界,其应用在全球如火如荼。2月19日,郑州大学国家超级计算中心、计算机与人工智能学院、信息化办公室携手攻坚,成功在超算中...

湖南召开deepseek专题研讨会,释放出了什么信号?

湖南召开deepseek专题研讨会,释放出了什么信号?

为深入分析deepseek对湖南省产业发展带来的影响和挑战,加速推动人工智能赋能新型工业化,2月17日上午,湖南省工业和信息化厅组织基础通信运营商和数字化服务商、高校和科研院所、行业协会等五大类人工智...