DeepSeek宣布开源优化并行策略
Crypto 7x24
2025-02-27 12:11:59
6329
网络报道,Deepseek于开源周第四天宣布开源优化并行策略,其中DualPipe——包括一种用于V3/R1训练中计算-通信重叠的双向管道并行算法;EPLB——一种用于V3/R1的专家并行负载平衡器;以及分析V3/R1中的计算-通信重叠。(金十)
免责声明:本文观点来自原作者,不代表Hawk Insight的观点和立场。文章内容仅供参考、交流、学习,不构成投资建议。如涉及版权问题,请联系我们删除。