Skip to content

ISSUE3:使用GPU的CE实现deepEP-internode中跨nvlink数据转发功能 #3

Description

@moningchen

ISSUE 目标

降低deepEP-internode场景SM使用,降低推理成本

验收要求:

  1. 正确运行deepEP test_internode.py。
  2. 通信完成时间不减少的情况下,减少跨nvlink转发使用SM/warp数50%以上

详情可见 /src/test/issue3/README.md 文件

Metadata

Metadata

Assignees

No one assigned

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions