买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京泰尔英福科技有限公司;同济大学申请的专利一种模型分布并行化训练流程自动优化方法、系统及装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121390212B 。

龙图腾网通过国家知识产权局官网在2026-05-01发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511924771.4，技术领域涉及：G06N3/098；该发明授权一种模型分布并行化训练流程自动优化方法、系统及装置是由谢家贵;曾西平;胡键伟;龚炜;唐忠桓设计研发完成，并于2025-12-19向国家知识产权局提交的专利申请。

本一种模型分布并行化训练流程自动优化方法、系统及装置在说明书摘要公布了：本发明涉及分布模型训练技术领域，提供一种模型分布并行化训练流程自动优化方法、系统及装置。包括以下步骤：根据神经网络模型的通信与算力定义任务平面，对任务平面进行划分，得到划分后的任务平面；根据划分后的任务平面构建训练耗时模型，得到总耗时；根据总耗时，使用锦标赛算法设计遗传算法求解训练耗时模型，得到训练优化结果；将训练优化结果嵌入至神经网络模型中优化更新。本发明通过使用网状流水线与异构网络与算力设备场景下的训练流程进行了详细的建模。根据建立的训练流程‑训练耗时模型，应用元启发式算法搜索得到较优解，以实现分布式并行化训练流程自动优化。

本发明授权一种模型分布并行化训练流程自动优化方法、系统及装置在权利要求书中公布了：1.一种模型分布并行化训练流程自动优化方法，其特征在于，包括： S1：根据神经网络模型的通信与算力定义任务平面，对任务平面进行划分，得到划分后的任务平面； S2：根据所述划分后的任务平面构建训练耗时模型，得到总耗时；步骤S2包括： S21：根据所述划分后的任务平面计算总流水线耗时，步骤S21包括： S211：根据所述划分后的任务平面计算前向计算时间和反向计算时间： 其中，为设备id，为设备总数，为当前设备中的对应的流水线并行层级与前一个流水线并行层级在模型层数的切分点，i为设备在全局数据并行的编号，j为设备在流水线并行层级的编号，k为设备在局部数据并行层级的编号，为模型第层的前向计算量，为神经网络层序数，为设备的算力，为设备的决策变量，为设备的微批次大小，为模型第层的反向计算量； S212：根据所述划分后的任务平面计算前向通信时长和反向通信时长： 其中，为取最大值函数，为当前流水线的阶段数，为设备和设备之间的数据传输量，，为设备在局部数据并行层级的编号，为设备的决策变量，为切分点需要传输的数据量大小，表示设备和设备之间的实际带宽，表示设备和设备之间的实际带宽； S213：计算总流水线耗时： 其中，为设备全局数据并行耗时，为设备的流水线阶段耗时，为阶段耗时，为设备占有流水线总数，为设备占用阶段总数，为设备占用划分后的任务平面总数，为下一流水线并行层级的反向通信时长； S22：根据所述划分后的任务平面计算全归约耗时； S23：计算总耗时： ； S3：根据总耗时，使用锦标赛算法设计遗传算法求解训练耗时模型，得到训练优化结果； S4：将所述训练优化结果嵌入至神经网络模型中优化更新。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京泰尔英福科技有限公司;同济大学，其通讯地址为：101300 北京市顺义区中关村科技园区顺义园机场东路8号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。