在上周DeepSeek宣布本周将是开源周（OpenSourceWeek），并将连续开源五个软件库后。DeepSeek今日向公众开源了DeepEP。据介绍，DeepEP是一个用于MoE（混合专家）模型训练和推理的EP（ExpertParallelism）通信库，可以实现高效且优化的全对全通信，支持包括FP8在内的低精度运算，适配现代高性能计算需求。
同时，DeepEP针对NVLink到RDMA的非对称带宽转发场景进行了深度优化，不仅提供了高吞吐量，还支持SM（StreamingMultiprocessors）数量控制，兼顾训练和推理任务的高吞吐量表现。
目前，在宣布开源20分钟左右，GitHub上DeepEP已获得超1000Star收藏。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】