当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek“开源周”第二天开源EP通信库

2个月前 (02-25)Deepseek最新资讯156

新京报贝壳财经讯(记者罗亦丹)北京时间2月25日,DeepSeek发布了其“开源周”第二天的成果:DeepEP,第一个用于MoE模型(混合专家模型)训练和推理的开源EP通信库。

据了解,EP为Expert Parallelism(专家并行),是一种在大规模分布式AI模型训练中使用的技术,能用于提升模型并行处理能力和训练效率。

DeepSeek介绍,DeepEP的特点包括:高效且优化的全对全(all-to-all)通信,节点内和节点间支持NVLink和RDMA,用于训练和推理预填充的高吞吐量内核,用于推理解码的低延迟内核,原生FP8调度支持,灵活的GPU资源控制,实现计算与通信重叠。

DeepSeek发布公告截图


“DeepSeek“开源周”第二天开源EP通信库” 的相关文章

带DeepSeek畅游巴塞罗那:是旅游搭子,更是高级“嘴替”

带DeepSeek畅游巴塞罗那:是旅游搭子,更是高级“嘴替”

当一个人完全没有做攻略就来到一个语言、文字不通的城市,该如何更好的生活or游玩呢?以前,我去外面旅游基本上会用到3-5个不同的app(不包括临时下载的本地功能性app),涵盖翻译、旅游攻略、旅游避坑等...

AI成年报高频词,DeepSeek赋能中小金融机构智能化潮起

AI成年报高频词,DeepSeek赋能中小金融机构智能化潮起

近日,多家A股上市金融机构发布2024年度报告。《华夏时报》记者注意到,AI(人工智能)成年报高频词。多家大型金融机构在年报或业绩发布会上披露了大模型的应用进展,并表示将继续积极探索AI在金融领域的数...

智慧云农平台全面接入DeepSeek

智慧云农平台全面接入DeepSeek

文章来源:昆明日报原文链接:https://kmrb-paper.kbit.kmzscc.com/art-60363.html?id=60363近日,云南省高原特色农业的创新科技平台——智慧云农平台全...

怎么删除DeepSeek系统中的模型?

怎么删除DeepSeek系统中的模型?

怎么删除 DeepSeek 系统中的模型?要删除 DeepSeek 系统中的模型,可以按照以下步骤操作:1. 查看已安装的模型列表首先打开命令提示符或终端,输入以下命令来查看已安装的模型列表:olla...

拥抱新机遇,多家医疗企业接入DeepSeek

拥抱新机遇,多家医疗企业接入DeepSeek

近期,多家医疗企业密集宣布,公司已接入DeepSeek。互联网医疗企业称,DeepSeek可用于AI辅助诊疗、智能医疗服务等场景;医疗体检企业认为,DeepSeek可用于疾病监测、慢病管理等场景;中医...

全国首个!东胜一卫生院接入DeepSeek

全国首个!东胜一卫生院接入DeepSeek

东胜区罕台中心卫生院与国内领先的AI大模型场景落地企业百沐数智达成战略合作正式接入DeepSeek-R1“满血版”大模型成为全国首个将大模型技术应用于基层医疗服务场景的医疗机构东胜区罕台中心卫生院通过...