欢迎访问黑料吃瓜网

10年专注吃瓜

吃瓜质量有保 售后7×24小时服务

24小时咨询热线:4006666666
联系我们
tel24小时咨询热线: 4006666666

手机:13999999999

电话:010-8888999

邮箱:[email protected]

地址:经济开发区高新产业园

您的位置:首页>>热门吃瓜>>正文

热门吃瓜

DeepSeek 称谢腾讯技能团队,DeepEP 开源通讯结构功能明显提高

发布时间:2025-05-15 点此:952次

IT之家 5 月 7 日音讯,腾讯技能团队针对 DeepSeek 开源的 DeepEP 通讯结构进行深度优化,使其在多种网络环境下均完成明显功能提高。

绚丽的DeepSeek 致谢腾讯技术团队,DeepEP 开源通信框架性能显著提升的视图

经测验,优化后的通讯结构功能在 RoCE 网络环境提高 100%,IB 网络环境提高 30%,为企业打开 AI 大模型练习供给更高效的解决计划。

该技能计划获得了 DeepSeek 揭露称谢,称这是一次“huge speedup”代码奉献。

优雅的DeepSeek 致谢腾讯技术团队,DeepEP 开源通信框架性能显著提升的图像

IT之家注:DeepEP 是一个为专家混合(MoE)和专家并行(EP)量身定制的通讯库。它供给高吞吐量和低推迟的全对全 GPU 内核,这些内核也被称为 MoE 派发和组合。该库还支撑低精度运算,包含 FP8。

据悉,腾讯星脉网络团队在 DeepEP 开源后便打开技能攻关,发现两大要害瓶颈:一是关于双端口网卡带宽利用率缺乏,二是 CPU 操控面交互存在时延

生动的DeepSeek 致谢腾讯技术团队,DeepEP 开源通信框架性能显著提升的插图

在腾讯的技能优化下,DeepEP 不仅在 RoCE 网络完成功能翻倍,反哺到 IB(InfiniBand)网络时更使原有通讯功率再提高 30%。

现在,该技能已全面开源,并成功应用于腾讯混元大模型等项目的练习推理,在腾讯星脉与 H20 服务器构建的环境中,这套计划展现出超卓的通用性。

告发/反应

相关推荐

在线客服
服务热线

24小时咨询热线:

4006666666

微信咨询
每日吃瓜网
返回顶部