2月25日,DeepSeek官宣,今日开源代码库为DeepEP,它是首个用于 MoE 模型训练和推理的开源EP通信库。
特点有:高效的全员沟通;节点内和节点间均支持 NVLink和RDMA;用于训练和推理预填充的高吞吐量内核;用于推理解码的低延迟内核;原生 FP8 调度支持;灵活的GPU资源控制,实现计算-通信重叠。

来源:每日经济新闻
2月25日,DeepSeek官宣,今日开源代码库为DeepEP,它是首个用于 MoE 模型训练和推理的开源EP通信库。
特点有:高效的全员沟通;节点内和节点间均支持 NVLink和RDMA;用于训练和推理预填充的高吞吐量内核;用于推理解码的低延迟内核;原生 FP8 调度支持;灵活的GPU资源控制,实现计算-通信重叠。
来源:每日经济新闻
九江华琛取得一种玻璃纤维布加工用可调式高效卷取装置专利,提高装置使用的广泛性,方便人们使用
2025-04-05 11:44:00大修完工!泗阳三号船闸正式恢复通航
2025-04-04 04:28:00金融监管总局:推动保险资金加大对国家战略性新兴产业股权投资力度 精准高效服务新质生产力
2025-04-03 16:57:00槐荫区:“楼宇槐小花”推动企业办事“不出楼”
2025-04-03 10:44:00创新推出“算力券”机制,长沙经开区赋能“人工智能+机器人”产业发展
2025-04-02 22:42:00商丘市跨部门协同合作 让数据“活”起来、“跑”起来
2025-04-02 15:15:00