当前位置:首页 > Deepseek应用场景 > 正文内容

DeepSeek致谢腾讯大模型网络提速技术方案贡献,助力大模型通信性能提升30%

5月7日,科技领域迎来一则备受瞩目的消息:腾讯技术团队针对DeepSeek开源的DeepEP通信框架展开了深度且细致的优化工作,经过不懈努力,成功让该框架在多种复杂多变的网络环境下均实现了显著的性能提升。

为了验证优化成果,团队进行了全面且严格的测试。测试结果显示,优化后的DeepEP通信框架在RoCE网络环境下的性能提升幅度高达100%,在IB网络环境下的性能也提升了30%。这一卓越的表现,无疑为企业开展AI大模型训练提供了更为高效的解决方案,能够大大缩短训练时间,降低训练成本,推动AI技术更快发展。值得一提的是,腾讯技术团队的相关技术方案获得了DeepSeek的公开致谢,DeepSeek称赞这是一次“huge speedup”(巨大加速)的代码贡献,充分肯定了腾讯团队在技术优化方面的卓越成就。

时间回溯到今年2月,DeepSeek开源了包括DeepEP在内的五大代码库,这一举措向业界展示了如何利用有限的硬件资源实现接近万卡集群的性能,为众多企业和科研机构提供了新的思路和方向。在这些技术中,DeepEP凭借其突破性的方法,将通信效率提升了300%,成功解决了MoE架构大模型对英伟达NCCL的依赖问题,使得大模型训练在硬件选择上更加灵活多样。

然而,任何技术都不是完美无缺的。DeepEP在成本较低、适用面更广的RoCE网络环境中表现不佳,这一痛点严重限制了其在更广泛场景的应用。例如,在一些对成本较为敏感的企业或项目中,由于RoCE网络环境下的性能问题,无法充分发挥DeepEP的优势,这引发了开源社区的持续讨论。众多开发者和技术爱好者纷纷提出自己的看法和建议,希望找到解决这一难题的方法。

腾讯星脉网络团队凭借在RoCE网络领域的深厚积累,在DeepEP开源后便迅速展开技术攻关。经过深入研究和大量实验,团队发现了两大关键瓶颈:一是对于双端口网卡带宽利用率不足,大量的带宽资源被闲置,导致数据传输速度缓慢;二是CPU控制面交互存在时延,影响了整体通信效率。

腾讯在RoCE网络优化方面的突破首先体现在带宽分配的智能化上。通过拓扑感知的多QP建链技术,团队能够智能分配数据流,根据网络拓扑结构和数据传输需求,精准地将数据分配到不同的数据通道上,从而优化了双端口网卡的带宽利用率,确保每条数据通道都能得到充分使用。这一举措有效避免了带宽浪费,为RoCE网络的性能提升提供了有力支撑,使得数据在网络中能够更加流畅地传输。

其次,腾讯还着力解决了GPU通信中的CPU控制瓶颈问题。通过基于IBGDA技术的优化,腾讯实现了“控制面”场景的操作绕过CPU的“中转”。在传统的通信模式中,GPU之间的通信需要经过CPU的调度和处理,这不仅增加了延迟,还消耗了大量的能耗。而经过优化后,GPU可以直接进行通信,进一步降低了延迟和能耗,提升了整体通信效率,让大模型训练过程中的数据交互更加高效。

同时,针对GPU直接“对话”时存在的传输顺序混乱难题,腾讯提出了“QP内时序锁”机制。这一机制就像是一个精准的指挥官,能够确保多个GPU间的数据传输能够精准、按顺序完成。即使同时处理1000多个数据传输任务,DeepEP也能自动理顺先后顺序,避免了数据传输的混乱和错误,保证了训练过程的稳定性和准确性。

在腾讯的技术优化下,DeepEP不仅在RoCE网络实现性能翻倍,反哺到IB(InfiniBand)网络时更使原有通信效率再提升30%。目前,该技术已全面开源,众多开发者和企业可以免费获取并使用这一先进技术。同时,该技术已成功应用于腾讯混元大模型等项目的训练推理中,在实际应用中展现出了卓越的性能。在腾讯星脉与H20服务器构建的高性能环境中,这套方案同样展现出卓越的通用性,能够适应不同的硬件配置和应用场景,为AI技术的发展注入了新的动力。


“DeepSeek致谢腾讯大模型网络提速技术方案贡献,助力大模型通信性能提升30%” 的相关文章

宝马年内将为多款中国在售新车接入DeepSeek功能

宝马年内将为多款中国在售新车接入DeepSeek功能

钛媒体App 4月23日消息,宝马集团董事长齐普策在今日举行的宝马发布会上宣布,今年内宝马将为多款中国在售新车接入DeepSeek功能,通过深度思考能力赋能以BMW智能个人助理为中心的人机交互体验。未...

凌华峰开启AI新尝试,用好DeepSeek,解决连锁企业实际问题

凌华峰开启AI新尝试,用好DeepSeek,解决连锁企业实际问题

“怎么以最快速度用上DeepSeek?”在这场狂热的AI浪潮中,各行各业都像参加赛跑一样急迫——接入DeepSeek,越快越好!而身处北京的凌华峰通信技术有限公司(以下简称:“凌华峰”)却在思考一件实...

Deepseek开源社区的贡献有哪些?

Deepseek开源社区的贡献有哪些?

Deepseek开源社区的贡献有哪些?DeepSeek开源社区的贡献主要体现在以下几个方面:一、推动AI大模型技术的普及与发展DeepSeek通过开源其大模型,降低了AI技术的门槛,使得更多的开发者能...

毕节七星关:DeepSeek赋能“智慧监督”

毕节七星关:DeepSeek赋能“智慧监督”

为推动数字技术深度融入纪检监察各项业务,近日,七星关区纪委监委组织全区纪检监察干部开展DeepSeek应用培训,通过“理论筑基、案例赋能、实操强技”三大主题教学模式,全面提升纪检监察干部运用AI技术强...

DeepSeek在多个领域拥有巨大应用潜力

DeepSeek在多个领域拥有巨大应用潜力

本报讯记者张守营报道近日,由资深人工智能应用专家卢森煌撰写的《高效使用DeepSeek》正式出版。本书被誉为“保姆级”DeepSeek使用指南,旨在帮助个人和企业零基础掌握AI工具的高效应用方法,覆盖...

腾讯搭上DeepSeek快车发力C端,字节、阿里、百度还坐得住?

腾讯搭上DeepSeek快车发力C端,字节、阿里、百度还坐得住?

文|萧俊然 编|张弘一出品|商业秀2月15日晚,科技圈又抛出一颗重磅炸弹:微信正在灰度测试接入DeepSeek-R1模型 。不少已经获得测试资格的用户,纷纷晒出体验。16日上午,腾讯方面回应称,确认正...