DeepSeekオープンソースウィーク2日目、オープンソースEPコミュニケーションライブラリDeepEP
Crypto 7x24
2025-02-25 12:11:42
6442
DeepSeekオープンソースウィークの2日目には、MoEモデルのトレーニングと推論のための最初のオープンソースEPコミュニケーションライブラリであるDeepEPを紹介します。効率的で最適化された全対全通信NVLinkおよびRDMAを介したノード内およびノード間のサポートトレーニングおよび推論プリフィルのためのハイスループットカーネル推論デコードのための低レイテンシカーネルネイティブFP8スケジューリングは、通信オーバーラップの計算のための柔軟なGPUリソース制御をサポート
免責事項: この記事の見解は元の著者の見解であり、Hawk Insight の見解や立場を表すものではありません。記事の内容は参考、コミュニケーション、学習のみを目的としており、投資アドバイスを構成するものではありません。著作権上問題がある場合は削除のご連絡をお願い致します。