当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek开源周第三日 发布高性能通用矩阵乘法库

2个月前 (02-26)Deepseek最新资讯168

新京报贝壳财经讯(记者罗亦丹)北京时间2月26日,DeepSeek进行了其开源周第三日的发布——DeepGEMM,一个支持密集和MoE(专家混合模型)GEMM(通用矩阵乘法)的FP8 (8位浮点数)GEMM库,为V3/R1训练和推理提供支持。

据了解,通用矩阵乘法是许多高性能计算任务的核心,所以其性能优化也是大模型降本增效的重点。

DeepSeek表示,DeepGEMM在Hopper GPU(一种英伟达GPU架构)上最高可达到1350+FP8TFLOPS(每秒万亿次浮点运算),并且像教程一样简洁,可完全即时编译,其核心逻辑只有约300行代码,且在大多数矩阵尺寸上均优于专家调优的内核,并支持密集布局和两种MoE布局。


标签: DeepSeek

“DeepSeek开源周第三日 发布高性能通用矩阵乘法库” 的相关文章

智领未来,观遍天下!四川观察接入DeepSeek大模型开启智能媒体新时代

智领未来,观遍天下!四川观察接入DeepSeek大模型开启智能媒体新时代

近日,四川观察正式接入DeepSeek,以AI技术赋能内容生产、分发传播、用户互动及安全风控全链条,开启媒体行业“智变”新篇章。此举标志着四川观察在媒体融合与技术创新领域再攀高峰,以“技术+内容”双轮...

支持联网搜索 全新ColorOS 15与DeepSeek深度融合

支持联网搜索 全新ColorOS 15与DeepSeek深度融合

OPPO在4月10日推出了OPPO Find X8 Ultra影像旗舰,这款手机搭载了全新的ColorOS 15系统,提供了一键问屏、AI意图搜索、小布助手、AI一键闪记等AI功能,让AI能够服务手机...

山东外国语职业技术大学上线“满血版”DeepSeek

山东外国语职业技术大学上线“满血版”DeepSeek

为主动应对数智时代的教育挑战,深入贯彻落实国家教育数字化战略,积极响应教育部关于人工智能赋能教育的号召,山东外国语职业技术大学成功部署Deepseek大模型。教职员工可通过钉钉-智慧校园-山外Deep...

DeepSeek引发国际关注 外交部回应

DeepSeek引发国际关注 外交部回应

据央视新闻消息,2月10日,外交部发言人郭嘉昆主持例行记者会。有记者就深度求索(DeepSeek)引发国际社会广泛讨论一事提问。对此,郭嘉昆表示,具体的专业问题建议你向主管部门了解。我想强调的是,当前...

清华团队推出“安全增强版DeepSeek”

清华团队推出“安全增强版DeepSeek”

人民网北京2月24日电 (记者赵竹青)2月23日,清华大学计算机系相关研究团队宣布推出大语言模型RealSafe-R1。该模型基于DeepSeek R1进行深度优化与后训练,在确保性能稳定的基础上,显...

贝因美:已在内部系统接入DeepSeek 会逐步向客户提供智能化服务

贝因美:已在内部系统接入DeepSeek 会逐步向客户提供智能化服务

人民财讯3月11日电,贝因美(002570)3月11日在互动平台表示,公司正积极探索AI赋能和智能育儿等新技术的发展机会,目前已在内部系统接入DeepSeek,待数据库信息完善后,会逐步向客户提供智能...