当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek开源周第三日 发布高性能通用矩阵乘法库

4个月前 (02-26)Deepseek最新资讯238

新京报贝壳财经讯(记者罗亦丹)北京时间2月26日,DeepSeek进行了其开源周第三日的发布——DeepGEMM,一个支持密集和MoE(专家混合模型)GEMM(通用矩阵乘法)的FP8 (8位浮点数)GEMM库,为V3/R1训练和推理提供支持。

据了解,通用矩阵乘法是许多高性能计算任务的核心,所以其性能优化也是大模型降本增效的重点。

DeepSeek表示,DeepGEMM在Hopper GPU(一种英伟达GPU架构)上最高可达到1350+FP8TFLOPS(每秒万亿次浮点运算),并且像教程一样简洁,可完全即时编译,其核心逻辑只有约300行代码,且在大多数矩阵尺寸上均优于专家调优的内核,并支持密集布局和两种MoE布局。


标签: DeepSeek

“DeepSeek开源周第三日 发布高性能通用矩阵乘法库” 的相关文章

幸福廊坊智慧城市平台正式接入DeepSeek

幸福廊坊智慧城市平台正式接入DeepSeek

河北日报客户端讯(刘英、刘杰、卢晔)2月20日,幸福廊坊App上线基于DeepSeek大模型的智能AI助手服务,可为用户提供免费顺畅的智能问答服务,有效提升便民惠企水平。同时,廊坊市市级政务云同步接入...

兰州大学上线DeepSeek本地服务

兰州大学上线DeepSeek本地服务

近日,兰州大学成功部署了由国产大模型公司深度求索(DeepSeek)推出的推理大模型DeepSeek-R1,目前已完成了数十款主流模型的部署工作,校内师生可通过高性能计算服务平台(https://hp...

为DeepSeek提供“联网搜索”功能的这家公司,把价格打到了Bing的1/3

为DeepSeek提供“联网搜索”功能的这家公司,把价格打到了Bing的1/3

在当下所有通用AI对话产品的界面上,"联网搜索"已成为标配功能。这个看似简单的按钮背后,隐藏着大模型连接现实世界的密钥——没有实时信息获取能力,再强大的AI模型也只能是知识停留在训...

拎包入住、免费过渡!在嘉定找到DeepSeek不会说的隐藏福利

拎包入住、免费过渡!在嘉定找到DeepSeek不会说的隐藏福利

怀揣着梦想初来嘉定,却在住宿问题前犯了难?不怕,“ai界的六边形战士”——deepseek来帮忙!q江湖救急!来嘉定工作,住宿方面想要经济节约又住得舒适的,可以怎么选?deepseek:目前,上海市嘉...

R2模型呼之欲出!“卷王”DeepSeek继续给巨头上压力

R2模型呼之欲出!“卷王”DeepSeek继续给巨头上压力

DeepSeek-R1的热度尚未消散,DeepSeek-R2就要来了?日前报道称,三位知情人士透露,原计划今年5月发布的DeepSeek-R2模型,正在加速开发,或将提前发布,新模型有望可以生成更好的...

中信银行谷凌云:本月在部分业务中布局了DeepSeek模型

中信银行谷凌云:本月在部分业务中布局了DeepSeek模型

新京报贝壳财经讯(记者姜樊)3月27日,中信银行副行长谷凌云在2024年业绩发布会上表示,在DeepSeek R1发布后,中信银行立即组织了对应的分析和跟进,本月已在部分业务场景中部署了DeepSee...